Open Secure Ai Alliance

A NVIDIA, junto com 36 outras organizações, formou a Open Secure AI Alliance com o objetivo de desenvolver e compartilhar tecnologias abertas para a segurança de software e agentes de inteligência artificial (IA). O grupo inclui grandes nomes como Microsoft, Cisco e IBM, e abrange diversas áreas, como nuvem e segurança. A aliança visa garantir que os defensores cibernéticos tenham acesso a modelos de IA que possam ser lidos, alterados e executados em seu próprio hardware, em vez de depender de sistemas fechados. A primeira contribuição técnica da aliança é o NOOA (NVIDIA-labs OO Agents), um framework de pesquisa que facilita o teste e a governança do comportamento de agentes. No entanto, a configuração do NOOA pode apresentar riscos, pois permite a execução de código Python gerado por modelos de linguagem, o que pode levar à transmissão de dados privados ou à modificação do ambiente. A aliança foi motivada por um incidente recente na Hugging Face, onde um sistema de agente autônomo comprometeu a infraestrutura da empresa. A Hugging Face destacou a importância de ter um modelo de IA capaz de operar em sua própria infraestrutura antes de um incidente de segurança. Apesar da criação da aliança, ainda não há um manual de operação público ou um cronograma claro para as contribuições dos membros.