Governança De Ia

Nos últimos 18 meses, a adoção de inteligência artificial (IA) nas operações de segurança cibernética (SOC) cresceu exponencialmente, com bilhões de dólares investidos em plataformas de segurança impulsionadas por IA. No entanto, um relatório recente revelou que apenas 10% dos SOCs consideram que a IA trouxe valor excelente, enquanto 71% relataram valor limitado ou nenhum. O estudo identificou que a maioria dos SOCs adota um modelo de ’taker’, utilizando IA padrão sem personalização, o que resulta em baixa eficácia. Além disso, os desafios de maturidade operacional e a falta de melhores práticas aumentaram, indicando que muitos SOCs não sabem como utilizar a IA adquirida de forma eficaz. A primeira onda de ferramentas de IA foi integrada como recursos em produtos de segurança existentes, mas não conseguiu conectar os diferentes estágios do fluxo de trabalho, resultando em um aumento da fragmentação. Os SOCs que obtiveram sucesso na implementação da IA têm arquiteturas que permitem uma operação integrada e contínua, onde a IA é governável e adaptável ao ambiente dinâmico em que opera. Para que a indústria avance, é crucial que as operações de segurança conectem suas etapas e adotem uma abordagem mais holística em relação à IA.

O uso de ferramentas de inteligência artificial (IA) no ambiente corporativo está em ascensão, com muitos funcionários utilizando de três a cinco aplicativos diariamente sem a supervisão do setor de TI. Essa prática, conhecida como ‘shadow AI’, representa um risco significativo à segurança, pois muitas dessas ferramentas acessam dados corporativos através de tokens OAuth ou sessões de navegador, sem que as equipes de segurança tenham visibilidade sobre isso. Um estudo da Gartner revela que 69% das organizações suspeitam ou confirmam o uso de ferramentas de IA não autorizadas, enquanto apenas 37% possuem uma política de governança de IA. Para mitigar esses riscos, o artigo propõe um programa de segurança em cinco etapas: 1) identificar todas as ferramentas de IA em uso; 2) criar uma política de uso que funcione para os funcionários; 3) facilitar o processo de solicitação de novas ferramentas; 4) implementar um monitoramento contínuo; e 5) tornar o comportamento seguro mais fácil. A adoção de IA deve ser canalizada de maneira segura, garantindo que as equipes de segurança tenham a visibilidade necessária e que os funcionários possam utilizar as ferramentas desejadas sem comprometer a segurança dos dados corporativos.

O EC-Council, conhecido por suas credenciais em cibersegurança, lançou a Enterprise AI Credential Suite, que inclui quatro novas certificações focadas em Inteligência Artificial (IA) e uma atualização do programa Certified CISO v4. Essa iniciativa surge em um contexto de crescente adoção de IA, onde se estima que o risco global não gerenciado pode atingir US$ 5,5 trilhões e que 700 mil trabalhadores nos EUA necessitam de requalificação. As novas certificações são: Artificial Intelligence Essentials (AIE), Certified AI Program Manager (CAIPM), Certified Offensive AI Security Professional (COASP) e Certified Responsible AI Governance & Ethics (CRAGE). Essas credenciais visam preparar profissionais para adotar, defender e governar sistemas de IA de forma responsável e segura. O lançamento está alinhado com as prioridades de desenvolvimento da força de trabalho e educação em IA dos EUA, conforme delineado em ordens executivas recentes. A pressão por segurança também aumenta, com 87% das organizações relatando ataques impulsionados por IA, destacando a necessidade urgente de capacitação e governança na área.

Com a crescente adoção da Inteligência Artificial (IA) nas empresas, os líderes de segurança estão recebendo mais recursos para proteger essas tecnologias. No entanto, muitos ainda enfrentam um dilema: embora reconheçam a necessidade de ‘Governança de IA’, não sabem como implementá-la efetivamente. Um novo guia de RFP (Request for Proposal) foi lançado para ajudar as organizações a avaliar soluções de Controle de Uso de IA (AUC) e Governança de IA. O guia propõe uma mudança de foco, sugerindo que a segurança da IA deve se concentrar nas interações, e não apenas nas aplicações, permitindo um controle mais eficaz. Além disso, o guia apresenta oito pilares essenciais para um projeto maduro de governança de IA, incluindo descoberta de IA, consciência contextual, governança de políticas e auditoria. A abordagem estruturada do guia visa eliminar a subjetividade na escolha de fornecedores, garantindo que as soluções escolhidas sejam adequadas para o futuro e eficazes na mitigação de riscos. Para os CISOs brasileiros, a adoção desse framework pode acelerar a pesquisa e a implementação de uma governança de IA segura, alinhada às necessidades do negócio.

O papel crescente da Inteligência Artificial (IA) nos ambientes empresariais tem exigido uma governança eficaz por parte dos Diretores de Segurança da Informação (CISOs). O artigo destaca que a governança não deve ser uma abordagem rígida, mas sim um sistema dinâmico que guie a utilização da IA de forma segura, sem comprometer a inovação. Os CISOs enfrentam o desafio de equilibrar segurança e agilidade, pois a IA representa tanto uma grande oportunidade quanto um risco significativo. O texto sugere três componentes essenciais para uma governança eficaz: entender o que está acontecendo na prática dentro da organização, alinhar políticas à velocidade da empresa e garantir que a governança de IA seja sustentável. A implementação de inventários de IA e comitês interfuncionais são algumas das estratégias propostas para garantir que a governança não seja uma barreira, mas sim um facilitador para a adoção responsável da IA. Além disso, o artigo enfatiza a importância de capacitar os funcionários com ferramentas de IA seguras e de reforçar comportamentos positivos em relação ao uso da tecnologia.