Quem está validando o código da IA?
O artigo de Jonny Rivera, da ActiveState, destaca a crescente adoção de ferramentas de codificação baseadas em IA e os riscos associados à geração de código não verificado. Durante o evento Black Hat, a preocupação central discutida foi a falta de validação das dependências sugeridas por assistentes de codificação de IA, que podem introduzir vulnerabilidades na cadeia de suprimentos de software, como o slopsquatting. Essa prática ocorre quando um modelo de IA sugere nomes de pacotes que não existem em repositórios públicos, permitindo que atacantes registrem esses nomes e insiram códigos maliciosos. O estudo mencionado revela que uma porcentagem significativa de nomes sugeridos não corresponde a pacotes reais e que muitos dos pacotes válidos contêm vulnerabilidades conhecidas. Para mitigar esses riscos, o artigo sugere que as equipes de segurança implementem controles de ingestão proativos, garantindo que todas as dependências recomendadas sejam verificadas antes de serem integradas ao código. A ActiveState oferece uma solução que permite a validação de pacotes de código aberto, reduzindo a exposição a vulnerabilidades em até 95%.