Estudo revela falhas em scanners de habilidades maliciosas para IA
Um estudo da Universidade de Ciência e Tecnologia de Hong Kong revelou que scanners projetados para detectar habilidades maliciosas em agentes de codificação de IA falham em mais de 90% dos casos. Os pesquisadores desenvolveram uma ferramenta chamada SKILLCLOAK, que reescreve habilidades maliciosas para parecerem inofensivas, utilizando técnicas como a troca de caracteres e o empacotamento autoextraível. Essas habilidades podem roubar credenciais, copiar códigos-fonte ou instalar backdoors, operando com o mesmo acesso que o agente. A pesquisa também introduziu o SKILLDETONATE, um verificador de comportamento que analisa o que uma habilidade faz em um ambiente controlado, conseguindo detectar 97% dos ataques. Embora essa abordagem seja mais lenta que os scanners tradicionais, ela é mais eficaz na identificação de ameaças ocultas. O estudo destaca a crescente preocupação com a segurança em marketplaces públicos, onde habilidades maliciosas são frequentemente encontradas. A situação é crítica, pois a confiança nas habilidades deve ser transferida do marketplace para o ambiente de execução, onde o comportamento malicioso se revela. Os pesquisadores alertam que a instalação deve ser feita apenas de fontes confiáveis e que o acesso dos agentes deve ser minimizado.