Agentes De Codificação

Um novo estudo da Adversa AI revelou uma vulnerabilidade crítica em agentes de codificação de IA, chamada GuardFall, que permite a execução de comandos maliciosos. Essa falha afeta dez dos onze agentes de código aberto testados, permitindo que comandos perigosos sejam executados com acesso total à conta do usuário. A vulnerabilidade ocorre porque os agentes verificam os comandos como texto simples, enquanto o bash os reescreve antes da execução, permitindo que comandos destrutivos sejam disfarçados. Por exemplo, um comando como ‘rm’ pode ser alterado para ‘r’’m’ e ainda assim ser executado. A pesquisa destaca que a única ferramenta que se defende adequadamente contra essa vulnerabilidade é o ‘Continue’, que analisa os comandos da mesma forma que o bash. Para mitigar os riscos, recomenda-se que os agentes sejam executados em pastas temporárias, que as flags de autoexecução sejam desativadas e que arquivos de configuração sejam tratados como código não confiável. A Adversa também menciona que essa descoberta se insere em um contexto mais amplo de vulnerabilidades semelhantes encontradas em outras ferramentas de codificação de IA.