Segurança em IA A Nova Era da Gestão de Identidade

O artigo de Itamar Apelblat, CEO da Token Security, discute a evolução dos agentes de IA dentro das empresas, que passaram de assistentes passivos a operadores ativos, gerando novos desafios de segurança, especialmente no que diz respeito ao gerenciamento de identidade e acesso. Os agentes de IA, que utilizam chaves de API, tokens OAuth e contas de serviço, não são tratados como identidades de primeira classe em muitas organizações, herdando privilégios excessivos de seus criadores. Isso cria um ponto cego emergente na segurança da IA.

A proposta apresentada é a adoção de uma segurança centrada na identidade para IA, que envolve a governança, auditoria e atestação de cada agente autônomo, assim como se faz com usuários humanos. No entanto, o artigo ressalta que a identidade sozinha não é suficiente; é necessário um modelo de permissões baseado na intenção, que avalia se a missão declarada do agente justifica a ativação de suas permissões em um determinado momento. Essa abordagem visa mitigar problemas como a herança de privilégios e a deriva de missão, permitindo um controle mais eficaz e escalável sobre as interações dos agentes de IA com sistemas e serviços.

O autor conclui que, para os CISOs, é crucial tratar cada agente de IA como uma identidade responsável, com controles que alinhem identidade, intenção e contexto, a fim de garantir a segurança em um ambiente em rápida evolução.

Fonte: https://www.bleepingcomputer.com/news/security/identity-first-ai-security-why-cisos-must-add-intent-to-the-equation/

Este conteúdo foi processado automaticamente pelo BR Defense Center (By River de Morais e Silva).