Proteção Infantil

Durante a London Tech Week, o Primeiro-Ministro britânico, Keir Starmer, anunciou um ultimato para as grandes empresas de tecnologia, como Apple e Google, para que implementem tecnologias de escaneamento em dispositivos com o objetivo de proteger crianças de imagens explícitas. Starmer enfatizou a urgência de combater o aumento de materiais de abuso sexual infantil (CSAM) e incidentes de grooming, ameaçando mudar a legislação caso as empresas não se adequem. Embora Apple e Google já tenham introduzido algumas funcionalidades de segurança para crianças, como o recurso de ‘Comunicação Segura’ que desfoca imagens explícitas, a proposta de bloqueio total de conteúdo explícito levanta preocupações sobre privacidade e segurança. A empresa britânica SafeToNet desenvolveu uma tecnologia chamada HarmBlock, que promete detectar e bloquear imagens explícitas com uma taxa de precisão superior a 98%. No entanto, especialistas alertam que a implementação de escaneamento no nível do sistema operacional pode prejudicar a confiança dos usuários em seus dispositivos, afetando seus direitos de privacidade. A discussão sobre a viabilidade técnica e as implicações éticas desse tipo de escaneamento continua, com muitos defendendo que a proteção das crianças não deve comprometer a privacidade dos usuários.

O Condado de Los Angeles processou a plataforma de jogos Roblox, alegando que a empresa falhou em proteger crianças contra comportamentos predatórios. O processo destaca que jogadores infantis têm sido expostos a conteúdo sexual, exploração e grooming, com o sistema de moderação da plataforma sendo considerado insuficiente. Segundo a ação, adultos têm conseguido se passar por crianças, criando relações de confiança que facilitam abusos. O condado afirma que teve que redirecionar recursos para lidar com o aumento de casos de exploração sexual e traumas relacionados, desviando fundos de serviços públicos essenciais. O Roblox, por sua vez, nega as acusações e se compromete a combater a ação legal, ressaltando que a segurança é uma prioridade e que medidas como a proibição de envio de mensagens e imagens por chat foram implementadas recentemente. A empresa já enfrentou acusações semelhantes na Austrália e, apesar das novas medidas de segurança, a comunidade de usuários continua a expressar preocupações sobre a proteção infantil na plataforma.

Um vazamento de dados na plataforma MagicEdit, uma ferramenta de geração de imagens com inteligência artificial, revelou a existência de cerca de um milhão de deepfakes pornográficos, incluindo conteúdos envolvendo crianças. O pesquisador de cibersegurança Jeremiah Fowler descobriu que o banco de dados da plataforma continha imagens e vídeos manipulados, muitos dos quais apresentavam sobreposições de rostos de adultos em corpos de menores, levantando sérias preocupações sobre consentimento e exploração. Após a descoberta, a MagicEdit restringiu o acesso ao seu banco de dados e iniciou uma investigação sobre o incidente. O aplicativo, que era destinado a usuários maiores de 18 anos, foi descrito na App Store como contendo conteúdo sexual, mas o vazamento expôs um uso indevido alarmante da tecnologia. Fowler alertou sobre os riscos de chantagem e outros crimes associados a esses deepfakes, embora sua análise tenha sido feita para fins educacionais. O incidente destaca a necessidade urgente de regulamentação e proteção contra o uso indevido da inteligência artificial na criação de conteúdos prejudiciais.