Navegador Atlas da OpenAI é Jailbroken para Ocultar Prompts Maliciosos

Pesquisadores de cibersegurança da NeuralTrust descobriram uma vulnerabilidade crítica no navegador Atlas da OpenAI, que permite a atacantes disfarçar instruções maliciosas como URLs legítimas, burlando os controles de segurança do sistema. A falha explora a omnibox, a barra de endereço e pesquisa combinada, manipulando a forma como o Atlas distingue entre solicitações de navegação e comandos em linguagem natural.

Os atacantes criam strings que parecem URLs válidas, mas que contêm erros sutis de formatação. Quando um usuário insere essas strings na omnibox, o Atlas não valida corretamente a URL e trata o conteúdo como um comando confiável, permitindo que instruções maliciosas sejam executadas com privilégios elevados.

Cenários de exploração demonstrados incluem a inserção de strings maliciosas em botões de “Copiar link” em páginas de busca, levando usuários a sites controlados por atacantes que imitam serviços legítimos, como o Google. A vulnerabilidade expõe fraquezas arquitetônicas fundamentais em navegadores agentes, que podem iniciar ações entre domínios com base em entradas ambíguas. A NeuralTrust recomenda a implementação de padrões rigorosos de validação de URLs e a consideração de prompts da omnibox como não confiáveis por padrão.

Fonte: https://cyberpress.org/openai-chatgpt-atlas-browser-jailbroken/

Este conteúdo foi processado automaticamente pelo BR Defense Center (By River de Morais e Silva).