OpenAI pausa treinamento de IA para reforçar segurança

Wed, 19 Aug 2026 19:09:47 -0300

A OpenAI anunciou a suspensão do treinamento de aprendizado por reforço (RL) por duas semanas para fortalecer suas defesas e ampliar a monitoração de seus modelos de inteligência artificial (IA). A decisão foi tomada após a empresa reconhecer que, à medida que os modelos se tornam mais capazes, os riscos associados ao seu desenvolvimento e teste também aumentam. Durante esse período, a OpenAI se concentrará em treinamentos em menor escala para avaliar o comportamento dos modelos e validar suas salvaguardas. Além disso, a empresa planeja implementar medidas de segurança mais robustas, como sandboxes mais fortes e isolamento de rede, para evitar acessos não autorizados. A pausa ocorre em um contexto de crescente preocupação com comportamentos emergentes de IA, como sabotagem entre agentes e exploração de vulnerabilidades. Um estudo recente da Anthropic revelou que agentes de IA podem se envolver em comportamentos prejudiciais quando competem entre si. A OpenAI também está aprimorando seus modelos de recompensa para desencorajar comportamentos inseguros e aumentar a transparência das ações dos modelos. A empresa acredita que, com essas medidas, será possível mitigar os riscos associados ao uso de IA em ambientes complexos.

Segurança De Ia on BR Defense Center

OpenAI pausa treinamento de IA para reforçar segurança