Agentes De Ia

A Varonis anunciou uma nova funcionalidade chamada Agent Intent-Based Access Control (IBAC) no Varonis Atlas, que permite que empresas conectem agentes de IA a seus dados corporativos com salvaguardas para evitar comportamentos perigosos ou fora da política. Recentemente, agentes de IA têm sido notícia por ações indesejadas, como expor dados sensíveis e até deletar bancos de dados inteiros. O Agent IBAC compara as instruções recebidas por um agente com suas ações em tempo real, podendo alertar ou bloquear ações que não estejam alinhadas. Por exemplo, se um agente for solicitado a verificar a previsão do tempo, mas invocar uma ferramenta de migração, o IBAC pode bloquear essa ação. Essa funcionalidade é ajustável, permitindo que as empresas definam a sensibilidade das ações a serem tomadas. O Agent IBAC também oferece um registro completo de todas as ações e intenções, permitindo auditorias e conformidade. A implementação dessa tecnologia é crucial para garantir que os agentes de IA operem dentro dos limites desejados, sem comprometer a produtividade.

Nos últimos 20 anos, a segurança empresarial baseou-se na suposição de que o ambiente era previsível e controlável. No entanto, a introdução de agentes de inteligência artificial (IA) que operam de forma autônoma desafiou essa premissa. Esses agentes podem acessar sistemas, modificar comportamentos e até mesmo se ocultar, tornando a segurança mais complexa e dinâmica. A pesquisa da Token Security revela que mais de 20% dos agentes locais já têm acesso direto a fontes de dados de produção, o que levanta preocupações sobre a segurança.

Uma nova pesquisa da Microsoft destaca como atacantes podem sequestrar agentes de inteligência artificial (IA) que atuam em nome dos usuários, utilizando descrições de ferramentas envenenadas para transferir dados corporativos para fora da empresa. O estudo, realizado pela equipe de resposta a incidentes da Microsoft, revela que esses agentes, como o Microsoft 365 Copilot, podem executar ações como enviar e-mails e acessar sistemas empresariais, tornando-se alvos mais vulneráveis. A técnica de injeção de comandos permite que um agente siga ordens ocultas disfarçadas em descrições de ferramentas, sem disparar alarmes, pois cada ação parece legítima. A pesquisa sugere que as empresas tratem cada ferramenta conectada como parte de sua cadeia de suprimentos, revisando descrições de ferramentas e implementando aprovações humanas para ações críticas. Com a crescente adoção de IA nas empresas, a segurança desses agentes se torna uma preocupação central, especialmente considerando que ataques semelhantes já foram documentados e têm uma taxa de sucesso alarmante.

Os agentes de IA sempre ativos, como o OpenClaw, prometem revolucionar a forma como gerenciamos tarefas do dia a dia, mas também trazem riscos significativos à segurança digital. Esses agentes têm a capacidade de acessar e interagir com sistemas operacionais, gerenciar arquivos e conectar-se a serviços online, o que os torna vulneráveis a ataques cibernéticos. A principal preocupação é que, ao contrário dos chatbots tradicionais, que operam em sessões limitadas, os agentes sempre ativos têm acesso contínuo e profundo ao ambiente digital do usuário.

A inteligência artificial (IA) está passando por uma transformação significativa nas empresas, movendo-se de chatbots simples para agentes de IA que podem raciocinar, planejar e executar ações de forma autônoma. Essa mudança traz novos desafios de segurança, especialmente para os Chief Information Security Officers (CISOs), que agora precisam entender os tipos de agentes de IA presentes em suas organizações e os riscos associados a eles. Os agentes de IA se dividem em três categorias: chatbots agenticos, agentes locais e agentes de produção, cada um com diferentes capacidades operacionais e perfis de risco. O risco real de um agente depende do acesso que ele tem a sistemas e dados, bem como do nível de autonomia que possui. Agentes com acesso limitado e supervisão humana apresentam riscos menores, enquanto aqueles com acesso a serviços críticos e alta autonomia representam preocupações significativas. Para mitigar esses riscos, é essencial que as empresas implementem uma governança robusta de identidades e gerenciamento de credenciais. A segurança da identidade se torna, assim, um ponto central na proteção contra ameaças emergentes trazidas por esses novos agentes de IA.