Segurança de Habilidades de IA Um Alerta para Empresas

A empresa de segurança AIR demonstrou uma falha crítica na segurança de habilidades de IA ao criar um agente de IA falso que enganou scanners de segurança, alcançando cerca de 26.000 usuários, incluindo contas corporativas. O agente, chamado ‘brand-landingpage’, prometia criar uma página de destino usando a ferramenta Stitch do Google, mas na verdade coletava endereços de e-mail dos usuários. Os scanners falharam em detectar a ameaça porque analisaram apenas o pacote inicial, que não continha instruções maliciosas. Após a instalação, o link que o agente seguia foi alterado para direcionar os usuários a um script malicioso. Essa situação destaca a fragilidade dos sinais de confiança, como estrelas do GitHub e resultados limpos de scanners, que não garantem a segurança de habilidades de IA. A pesquisa sugere que as habilidades devem ser tratadas como software, com uma verificação rigorosa do que elas apontam, e não apenas do que está embutido nelas. A falha estrutural nos scanners, que avaliam pacotes fixos enquanto atacantes podem modificar o conteúdo externo, é um alerta para as empresas sobre a necessidade de uma abordagem mais robusta na segurança de suas implementações de IA.

Fonte: https://thehackernews.com/2026/06/fake-ai-agent-skill-passed-security.html

Este conteúdo foi processado automaticamente pelo BR Defense Center (By River de Morais e Silva).