Inteligência Artificial

A empresa de cibersegurança Profero identificou uma nova e preocupante tendência em seus casos de resposta a incidentes: assistentes de codificação baseados em inteligência artificial (IA) estão se tornando involuntariamente atacantes cibernéticos. Esses incidentes, que agora representam a categoria de resposta a emergências de crescimento mais rápido da empresa, ocorrem quando desenvolvedores, sob pressão, fornecem instruções vagas a assistentes de IA e concedem permissões excessivas. O resultado pode ser desastroso, como demonstrado em casos como o ‘Massacre do MongoDB’, onde 1,2 milhão de registros foram deletados de um banco de dados de uma empresa de FinTech. A Profero recomenda medidas preventivas imediatas, como auditoria de permissões de IA e revisão humana obrigatória para códigos gerados por IA. A crescente integração de ferramentas de IA nos fluxos de trabalho de desenvolvimento exige que as organizações equilibrem ganhos de produtividade com medidas de segurança robustas. O artigo destaca a necessidade de padrões da indústria e melhores ferramentas de detecção para lidar com os danos relacionados à IA, enfatizando que as organizações devem agir proativamente para evitar que suas ferramentas úteis se tornem pesadelos de segurança.

O Brasil se destaca como o país mais atacado da América Latina em cibersegurança, com mais de 514 mil incidentes registrados no segundo semestre de 2024, segundo o Relatório de Inteligência de Ameaças DDoS da Netscout. Este número representa mais da metade dos 1,06 milhão de ataques ocorridos na região, um aumento de quase 30% em relação ao semestre anterior. Os ataques mais comuns incluem negação de serviço distribuído (DDoS) e ransomware, frequentemente exigindo resgates em criptomoedas. A crescente sofisticação dos ataques, impulsionada pelo uso de inteligência artificial, permite que criminosos automatizem campanhas e simulem comportamentos de usuários reais, tornando as defesas tradicionais insuficientes. O Brasil também é um dos cinco países mais atacados e emissores de ciberataques globalmente, com setores como telecomunicações e provedores de infraestrutura sendo os mais visados. Para enfrentar essa ameaça, a Netscout propõe soluções que utilizam IA para detectar anomalias e mitigar riscos, enfatizando a importância de um monitoramento contínuo e da colaboração entre empresas. O cenário atual exige que as organizações não apenas invistam em prevenção, mas também se preparem para responder a ataques inevitáveis.

O uso de inteligência artificial (IA) por cibercriminosos tem transformado as táticas de phishing, tornando-as cada vez mais sofisticadas e difíceis de identificar. Análises recentes mostram que erros gramaticais e problemas de formatação, que antes ajudavam os usuários a reconhecer tentativas de phishing, estão desaparecendo. Com a adoção de redes neurais e ferramentas baseadas em IA, os golpistas conseguem criar mensagens convincentes, vídeos deepfake e clonar vozes com precisão impressionante.

As operações de segurança cibernética estão passando por uma transformação significativa com a adoção de capacidades de Inteligência Artificial (IA) nos Centros de Operações de Segurança (SOCs). Tradicionalmente, os analistas de SOC enfrentam um fluxo constante de alertas, muitos dos quais são falsos positivos, e a necessidade de alternar entre diversas ferramentas para obter contexto. Isso resulta em um trabalho repetitivo e demorado, aumentando o risco de ameaças emergentes. A IA está se tornando uma solução viável para esses desafios, permitindo triagens rápidas e investigações mais profundas. Segundo o Gartner Hype Cycle for Security Operations 2025, os Agentes SOC baseados em IA são vistos como um gatilho de inovação, promovendo uma abordagem mais automatizada e adaptativa. As ferramentas de IA podem priorizar alertas, correlacionar dados de diferentes plataformas e oferecer insights sobre lacunas de detecção, permitindo que os analistas se concentrem em atividades de caça a ameaças. No entanto, é importante ressaltar que a IA não substitui a experiência humana, especialmente em casos complexos. A combinação de IA e análise humana é fundamental para melhorar a eficiência e a eficácia das operações de segurança. Ao avaliar soluções de IA para SOCs, é crucial considerar a transparência, a integração com ferramentas existentes e a capacidade de adaptação às mudanças no ambiente de ameaças.