Proteção Infantil

A Meta, empresa controladora do Facebook e Instagram, propôs um acordo de até US$ 18 bilhões com uma coalizão bipartidária de 52 procuradores gerais, em resposta a alegações de que suas plataformas foram projetadas para incentivar o uso compulsivo entre crianças e adolescentes. O acordo, que aguarda aprovação judicial, é resultado de um processo movido em 2023 pelo procurador-geral da Califórnia, Rob Bonta, que acusou a Meta de enganar usuários e famílias sobre os riscos associados a suas plataformas. Além disso, a empresa teria coletado e utilizado ilegalmente dados de crianças menores de 13 anos, infringindo leis federais e estaduais, como a Lei de Proteção à Privacidade Online das Crianças (COPPA). Como parte do acordo, a Meta implementará novas restrições para usuários menores de 18 anos, incluindo um limite diário de uso de duas horas, que só pode ser desativado com permissão dos pais. Outras medidas incluem a proibição do uso dos aplicativos entre meia-noite e 6 da manhã e a ocultação de contagens de curtidas e reações. Um auditor independente supervisionará a conformidade da Meta com o acordo, que também prevê a criação de uma fundação de pesquisa focada no bem-estar dos adolescentes. A Califórnia espera receber entre US$ 1,5 bilhão e US$ 2,1 bilhões do acordo, que será destinado a iniciativas de prevenção de danos à saúde mental relacionados ao uso de redes sociais.

A recente proibição de redes sociais para menores de 16 anos na Austrália levanta questões sobre a eficácia de medidas semelhantes que o Reino Unido pretende implementar. Apesar da intenção de proteger crianças e adolescentes, dados revelam que cerca de 70% dos jovens australianos ainda possuem contas ativas em plataformas como Snapchat e Instagram, mesmo com a nova legislação. A pesquisa da Molly Rose Foundation indica que a maioria dos entrevistados não percebeu melhorias na segurança online desde a proibição, com muitos afirmando que a situação se tornou até mais insegura. A resistência a essa abordagem vem não apenas da indústria de tecnologia de privacidade, mas também de grupos de segurança infantil, que argumentam que a proibição pode ser um retrocesso na proteção online. A falta de verificação de idade efetiva por parte das plataformas é apontada como uma das principais razões para a ineficácia da medida. Com o Reino Unido planejando adotar um modelo semelhante, especialistas alertam que a implementação de verificações obrigatórias de idade pode resultar em um ‘desastre de cibersegurança’. A situação destaca a necessidade de abordagens mais eficazes e menos invasivas para garantir a segurança das crianças na internet.

Durante a London Tech Week, o Primeiro-Ministro britânico, Keir Starmer, anunciou um ultimato para as grandes empresas de tecnologia, como Apple e Google, para que implementem tecnologias de escaneamento em dispositivos com o objetivo de proteger crianças de imagens explícitas. Starmer enfatizou a urgência de combater o aumento de materiais de abuso sexual infantil (CSAM) e incidentes de grooming, ameaçando mudar a legislação caso as empresas não se adequem. Embora Apple e Google já tenham introduzido algumas funcionalidades de segurança para crianças, como o recurso de ‘Comunicação Segura’ que desfoca imagens explícitas, a proposta de bloqueio total de conteúdo explícito levanta preocupações sobre privacidade e segurança. A empresa britânica SafeToNet desenvolveu uma tecnologia chamada HarmBlock, que promete detectar e bloquear imagens explícitas com uma taxa de precisão superior a 98%. No entanto, especialistas alertam que a implementação de escaneamento no nível do sistema operacional pode prejudicar a confiança dos usuários em seus dispositivos, afetando seus direitos de privacidade. A discussão sobre a viabilidade técnica e as implicações éticas desse tipo de escaneamento continua, com muitos defendendo que a proteção das crianças não deve comprometer a privacidade dos usuários.

O Condado de Los Angeles processou a plataforma de jogos Roblox, alegando que a empresa falhou em proteger crianças contra comportamentos predatórios. O processo destaca que jogadores infantis têm sido expostos a conteúdo sexual, exploração e grooming, com o sistema de moderação da plataforma sendo considerado insuficiente. Segundo a ação, adultos têm conseguido se passar por crianças, criando relações de confiança que facilitam abusos. O condado afirma que teve que redirecionar recursos para lidar com o aumento de casos de exploração sexual e traumas relacionados, desviando fundos de serviços públicos essenciais. O Roblox, por sua vez, nega as acusações e se compromete a combater a ação legal, ressaltando que a segurança é uma prioridade e que medidas como a proibição de envio de mensagens e imagens por chat foram implementadas recentemente. A empresa já enfrentou acusações semelhantes na Austrália e, apesar das novas medidas de segurança, a comunidade de usuários continua a expressar preocupações sobre a proteção infantil na plataforma.

Um vazamento de dados na plataforma MagicEdit, uma ferramenta de geração de imagens com inteligência artificial, revelou a existência de cerca de um milhão de deepfakes pornográficos, incluindo conteúdos envolvendo crianças. O pesquisador de cibersegurança Jeremiah Fowler descobriu que o banco de dados da plataforma continha imagens e vídeos manipulados, muitos dos quais apresentavam sobreposições de rostos de adultos em corpos de menores, levantando sérias preocupações sobre consentimento e exploração. Após a descoberta, a MagicEdit restringiu o acesso ao seu banco de dados e iniciou uma investigação sobre o incidente. O aplicativo, que era destinado a usuários maiores de 18 anos, foi descrito na App Store como contendo conteúdo sexual, mas o vazamento expôs um uso indevido alarmante da tecnologia. Fowler alertou sobre os riscos de chantagem e outros crimes associados a esses deepfakes, embora sua análise tenha sido feita para fins educacionais. O incidente destaca a necessidade urgente de regulamentação e proteção contra o uso indevido da inteligência artificial na criação de conteúdos prejudiciais.