Proteção Infantil

O Condado de Los Angeles processou a plataforma de jogos Roblox, alegando que a empresa falhou em proteger crianças contra comportamentos predatórios. O processo destaca que jogadores infantis têm sido expostos a conteúdo sexual, exploração e grooming, com o sistema de moderação da plataforma sendo considerado insuficiente. Segundo a ação, adultos têm conseguido se passar por crianças, criando relações de confiança que facilitam abusos. O condado afirma que teve que redirecionar recursos para lidar com o aumento de casos de exploração sexual e traumas relacionados, desviando fundos de serviços públicos essenciais. O Roblox, por sua vez, nega as acusações e se compromete a combater a ação legal, ressaltando que a segurança é uma prioridade e que medidas como a proibição de envio de mensagens e imagens por chat foram implementadas recentemente. A empresa já enfrentou acusações semelhantes na Austrália e, apesar das novas medidas de segurança, a comunidade de usuários continua a expressar preocupações sobre a proteção infantil na plataforma.

Um vazamento de dados na plataforma MagicEdit, uma ferramenta de geração de imagens com inteligência artificial, revelou a existência de cerca de um milhão de deepfakes pornográficos, incluindo conteúdos envolvendo crianças. O pesquisador de cibersegurança Jeremiah Fowler descobriu que o banco de dados da plataforma continha imagens e vídeos manipulados, muitos dos quais apresentavam sobreposições de rostos de adultos em corpos de menores, levantando sérias preocupações sobre consentimento e exploração. Após a descoberta, a MagicEdit restringiu o acesso ao seu banco de dados e iniciou uma investigação sobre o incidente. O aplicativo, que era destinado a usuários maiores de 18 anos, foi descrito na App Store como contendo conteúdo sexual, mas o vazamento expôs um uso indevido alarmante da tecnologia. Fowler alertou sobre os riscos de chantagem e outros crimes associados a esses deepfakes, embora sua análise tenha sido feita para fins educacionais. O incidente destaca a necessidade urgente de regulamentação e proteção contra o uso indevido da inteligência artificial na criação de conteúdos prejudiciais.