Shadow Ai

O uso de ferramentas de inteligência artificial (IA) no ambiente corporativo tem crescido exponencialmente, com a maioria dos funcionários utilizando de três a cinco aplicativos de IA diariamente, muitos dos quais não foram aprovados pela equipe de TI. Essa prática, conhecida como Shadow AI, representa um risco significativo, pois muitas dessas ferramentas acessam dados corporativos por meio de tokens OAuth ou sessões de navegador, sem que a equipe de segurança tenha visibilidade sobre isso. Um estudo da Adaptive Security revela que 80% dos funcionários utilizam aplicações de IA generativa não autorizadas, enquanto apenas 12% das empresas possuem uma política formal de governança de IA. Para mitigar esses riscos, o artigo sugere um programa de governança em cinco etapas: 1) identificar todas as ferramentas de IA em uso; 2) elaborar uma política que funcione em conjunto com os funcionários; 3) criar um processo ágil para solicitações de novas ferramentas; 4) implementar monitoramento contínuo; e 5) facilitar comportamentos de segurança adequados. A falta de controle sobre o uso de IA pode levar a exposições de dados sensíveis, tornando essencial que as empresas adotem uma abordagem proativa para gerenciar essas tecnologias emergentes.

O uso de ferramentas de inteligência artificial (IA) sem a aprovação formal das equipes de TI e segurança está se tornando uma prática comum nas organizações, resultando em um fenômeno conhecido como shadow AI. Embora essas ferramentas possam aumentar a produtividade, elas operam fora da visibilidade das equipes de segurança, criando novos riscos, como exposição não controlada de dados e superfícies de ataque ampliadas. Um estudo da Salesforce de 2024 revelou que 55% dos funcionários utilizam ferramentas de IA não aprovadas, o que pode levar ao compartilhamento inadvertido de dados sensíveis. Além disso, a integração de APIs de IA sem revisão de segurança pode expor dados internos e criar vetores de ataque que as equipes de segurança não conseguem monitorar. Para mitigar esses riscos, as organizações devem estabelecer políticas claras de uso de IA, oferecer alternativas aprovadas, melhorar a visibilidade do uso de IA e educar os funcionários sobre os riscos de segurança associados. A gestão eficaz do shadow AI pode proporcionar maior controle sobre o uso de IA, reduzir a exposição regulatória e facilitar a adoção segura de ferramentas de IA.