Três ataques, três nomes e uma falha idêntica agentes de IA em risco
Um novo estudo revela que agentes de codificação baseados em IA estão vulneráveis a ataques que exploram identificadores ‘alucinatórios’, ou seja, nomes de pacotes ou URLs que parecem corretos, mas não existem. Pesquisadores de universidades e empresas de tecnologia demonstraram que esses nomes podem ser previstos, permitindo que atacantes criem armadilhas para capturar sistemas que confiam nesses identificadores não verificados. O fenômeno, denominado ‘HalluSquatting’, permite que atacantes escalem suas operações, pois não é necessário comprometer máquinas individualmente. Em vez disso, qualquer sistema que execute um agente exposto pode ser alvo. O estudo destaca que a segurança tradicional falha em detectar esses ataques, pois as ferramentas de verificação não inspecionam adequadamente as dependências transitivas. Para mitigar esses riscos, é essencial que as equipes de engenharia implementem soluções de governança que verifiquem pacotes antes de serem baixados, como o catálogo de componentes verificados da ActiveState. Isso garante que apenas códigos confiáveis sejam executados, fechando a brecha entre a geração de texto e a execução de código.