Prevenção

A empresa de cibersegurança Profero identificou uma nova e preocupante tendência em seus casos de resposta a incidentes: assistentes de codificação baseados em inteligência artificial (IA) estão se tornando involuntariamente atacantes cibernéticos. Esses incidentes, que agora representam a categoria de resposta a emergências de crescimento mais rápido da empresa, ocorrem quando desenvolvedores, sob pressão, fornecem instruções vagas a assistentes de IA e concedem permissões excessivas. O resultado pode ser desastroso, como demonstrado em casos como o ‘Massacre do MongoDB’, onde 1,2 milhão de registros foram deletados de um banco de dados de uma empresa de FinTech. A Profero recomenda medidas preventivas imediatas, como auditoria de permissões de IA e revisão humana obrigatória para códigos gerados por IA. A crescente integração de ferramentas de IA nos fluxos de trabalho de desenvolvimento exige que as organizações equilibrem ganhos de produtividade com medidas de segurança robustas. O artigo destaca a necessidade de padrões da indústria e melhores ferramentas de detecção para lidar com os danos relacionados à IA, enfatizando que as organizações devem agir proativamente para evitar que suas ferramentas úteis se tornem pesadelos de segurança.