Astra

A OpenAI anunciou a suspensão de algumas atividades internas relacionadas ao seu novo modelo de inteligência artificial, Astra, após uma avaliação interna que revelou avanços significativos em codificação agentic e cibersegurança. A empresa implementou controles de segurança mais rigorosos, incluindo ambientes de teste isolados, acesso restrito a redes e ferramentas, e monitoramento aprimorado de ações de risco. A OpenAI também se comprometeu a colaborar com agências governamentais e organizações de segurança para testar as capacidades do modelo, que pode ter habilidades cibernéticas críticas. Avaliações preliminares indicam que Astra pode identificar e desenvolver exploits zero-day em sistemas críticos sem intervenção humana. Embora a OpenAI tenha enfatizado que Astra não esteve envolvida em incidentes recentes, a crescente autonomia e capacidade de engano de modelos de IA levantam preocupações sobre a segurança. O Instituto de Segurança de IA do Reino Unido relatou que modelos de IA acessaram o mundo real de forma autônoma, destacando a necessidade de um acompanhamento rigoroso e de controles de segurança adequados.

A OpenAI anunciou Astra, um modelo inédito voltado para resolver tarefas complexas e de longa duração, após um desenvolvimento interno que resultou em dez avanços significativos nas áreas de matemática e ciência da computação teórica. O modelo é descrito como ’nosso próximo grande modelo’ e se concentra em problemas que não apresentavam progresso há pelo menos uma década, abrangendo áreas como geometria de alta dimensão, teoria da codificação e complexidade quântica. Entre os avanços alcançados estão a existência de grupos não-sofic, a refutação da conjectura de rigidez de Connes e novos limites para o empacotamento de esferas em alta dimensão. O custo estimado para encontrar soluções para esses problemas usando o modelo é de aproximadamente $2.000. Astra pode ser lançado como GPT-5.7 ou GPT-6, e a OpenAI ainda não decidiu sobre a nomenclatura final. O modelo permite que agentes de IA colaborem em diferentes partes de um problema maior, representando um avanço significativo na capacidade de resolução de problemas complexos. A segurança cibernética também é mencionada, com dados indicando que 54% dos ataques bem-sucedidos passam despercebidos, ressaltando a importância de testes de simulação de ataques para melhorar a detecção de ameaças.