Ética

René Mayrhofer, diretor de segurança da plataforma Android do Google, renunciou ao seu cargo em protesto contra os novos contratos da empresa com o Departamento de Defesa dos EUA (DoD). Em uma carta interna, ele expressou sua preocupação com a utilização dos modelos de inteligência artificial (IA) da empresa para fins classificados, afirmando que a gestão atual do Google havia perdido seu ’norte moral’. Mayrhofer destacou que a decisão de colaborar com o Pentágono contraria os princípios éticos que a empresa havia estabelecido anteriormente, incluindo a proibição de usar IA para desenvolver armas ou ferramentas de vigilância. O Google, que já havia abandonado suas metas de neutralidade de carbono em favor do desenvolvimento de IA, agora permite que o DoD utilize seus modelos para ‘qualquer propósito legal’, o que, segundo Mayrhofer, pode incluir ações que violam leis internacionais. A renúncia de Mayrhofer ocorre em um contexto em que centenas de funcionários do Google já haviam assinado uma carta aberta pedindo ao CEO Sundar Pichai que rejeitasse essa decisão, considerada ‘antiética e perigosa’. A situação levanta questões sobre a responsabilidade das empresas de tecnologia em suas colaborações com entidades governamentais e militares.

O conceito de privacidade está evoluindo em um mundo onde a inteligência artificial (IA) agente se torna cada vez mais autônoma. Em vez de ser apenas uma questão de controle, a privacidade agora se baseia na confiança, especialmente quando essas IAs interagem com dados sensíveis e tomam decisões em nome dos usuários. A IA agente não apenas processa informações, mas também as interpreta, o que levanta preocupações sobre o que é inferido e compartilhado sem supervisão constante. Um exemplo prático é um assistente de saúde que, ao longo do tempo, pode começar a priorizar consultas e analisar o estado emocional do usuário, o que pode levar à perda de controle sobre a narrativa pessoal. Além disso, a privacidade não se resume mais ao triângulo clássico da CIA (Confidencialidade, Integridade e Disponibilidade), mas deve incluir autenticidade e veracidade. A falta de um conceito claro de privilégio entre IA e cliente pode resultar em consequências legais, onde informações pessoais podem ser acessadas por terceiros. Portanto, é essencial que as organizações desenvolvam sistemas de IA que respeitem a intenção por trás da privacidade e que sejam capazes de explicar suas ações. A necessidade de um novo contrato social que considere a agência da IA como uma categoria moral e legal é urgente, pois a privacidade se torna uma questão de reciprocidade e governança em um mundo onde humanos e máquinas interagem cada vez mais.