Segurança de Habilidades de IA Um Alerta para Empresas

Tue, 23 Jun 2026 14:32:01 -0300

A empresa de segurança AIR demonstrou uma falha crítica na segurança de habilidades de IA ao criar um agente de IA falso que enganou scanners de segurança, alcançando cerca de 26.000 usuários, incluindo contas corporativas. O agente, chamado ‘brand-landingpage’, prometia criar uma página de destino usando a ferramenta Stitch do Google, mas na verdade coletava endereços de e-mail dos usuários. Os scanners falharam em detectar a ameaça porque analisaram apenas o pacote inicial, que não continha instruções maliciosas. Após a instalação, o link que o agente seguia foi alterado para direcionar os usuários a um script malicioso. Essa situação destaca a fragilidade dos sinais de confiança, como estrelas do GitHub e resultados limpos de scanners, que não garantem a segurança de habilidades de IA. A pesquisa sugere que as habilidades devem ser tratadas como software, com uma verificação rigorosa do que elas apontam, e não apenas do que está embutido nelas. A falha estrutural nos scanners, que avaliam pacotes fixos enquanto atacantes podem modificar o conteúdo externo, é um alerta para as empresas sobre a necessidade de uma abordagem mais robusta na segurança de suas implementações de IA.

Confiança Digital on BR Defense Center

Segurança de Habilidades de IA Um Alerta para Empresas