Proteção Infantil

A recente proibição de redes sociais para menores de 16 anos na Austrália levanta questões sobre a eficácia de medidas semelhantes que o Reino Unido pretende implementar. Apesar da intenção de proteger crianças e adolescentes, dados revelam que cerca de 70% dos jovens australianos ainda possuem contas ativas em plataformas como Snapchat e Instagram, mesmo com a nova legislação. A pesquisa da Molly Rose Foundation indica que a maioria dos entrevistados não percebeu melhorias na segurança online desde a proibição, com muitos afirmando que a situação se tornou até mais insegura. A resistência a essa abordagem vem não apenas da indústria de tecnologia de privacidade, mas também de grupos de segurança infantil, que argumentam que a proibição pode ser um retrocesso na proteção online. A falta de verificação de idade efetiva por parte das plataformas é apontada como uma das principais razões para a ineficácia da medida. Com o Reino Unido planejando adotar um modelo semelhante, especialistas alertam que a implementação de verificações obrigatórias de idade pode resultar em um ‘desastre de cibersegurança’. A situação destaca a necessidade de abordagens mais eficazes e menos invasivas para garantir a segurança das crianças na internet.

Durante a London Tech Week, o Primeiro-Ministro britânico, Keir Starmer, anunciou um ultimato para as grandes empresas de tecnologia, como Apple e Google, para que implementem tecnologias de escaneamento em dispositivos com o objetivo de proteger crianças de imagens explícitas. Starmer enfatizou a urgência de combater o aumento de materiais de abuso sexual infantil (CSAM) e incidentes de grooming, ameaçando mudar a legislação caso as empresas não se adequem. Embora Apple e Google já tenham introduzido algumas funcionalidades de segurança para crianças, como o recurso de ‘Comunicação Segura’ que desfoca imagens explícitas, a proposta de bloqueio total de conteúdo explícito levanta preocupações sobre privacidade e segurança. A empresa britânica SafeToNet desenvolveu uma tecnologia chamada HarmBlock, que promete detectar e bloquear imagens explícitas com uma taxa de precisão superior a 98%. No entanto, especialistas alertam que a implementação de escaneamento no nível do sistema operacional pode prejudicar a confiança dos usuários em seus dispositivos, afetando seus direitos de privacidade. A discussão sobre a viabilidade técnica e as implicações éticas desse tipo de escaneamento continua, com muitos defendendo que a proteção das crianças não deve comprometer a privacidade dos usuários.

O Condado de Los Angeles processou a plataforma de jogos Roblox, alegando que a empresa falhou em proteger crianças contra comportamentos predatórios. O processo destaca que jogadores infantis têm sido expostos a conteúdo sexual, exploração e grooming, com o sistema de moderação da plataforma sendo considerado insuficiente. Segundo a ação, adultos têm conseguido se passar por crianças, criando relações de confiança que facilitam abusos. O condado afirma que teve que redirecionar recursos para lidar com o aumento de casos de exploração sexual e traumas relacionados, desviando fundos de serviços públicos essenciais. O Roblox, por sua vez, nega as acusações e se compromete a combater a ação legal, ressaltando que a segurança é uma prioridade e que medidas como a proibição de envio de mensagens e imagens por chat foram implementadas recentemente. A empresa já enfrentou acusações semelhantes na Austrália e, apesar das novas medidas de segurança, a comunidade de usuários continua a expressar preocupações sobre a proteção infantil na plataforma.

Um vazamento de dados na plataforma MagicEdit, uma ferramenta de geração de imagens com inteligência artificial, revelou a existência de cerca de um milhão de deepfakes pornográficos, incluindo conteúdos envolvendo crianças. O pesquisador de cibersegurança Jeremiah Fowler descobriu que o banco de dados da plataforma continha imagens e vídeos manipulados, muitos dos quais apresentavam sobreposições de rostos de adultos em corpos de menores, levantando sérias preocupações sobre consentimento e exploração. Após a descoberta, a MagicEdit restringiu o acesso ao seu banco de dados e iniciou uma investigação sobre o incidente. O aplicativo, que era destinado a usuários maiores de 18 anos, foi descrito na App Store como contendo conteúdo sexual, mas o vazamento expôs um uso indevido alarmante da tecnologia. Fowler alertou sobre os riscos de chantagem e outros crimes associados a esses deepfakes, embora sua análise tenha sido feita para fins educacionais. O incidente destaca a necessidade urgente de regulamentação e proteção contra o uso indevido da inteligência artificial na criação de conteúdos prejudiciais.