Previa: A Meta foi acusada de utilizar contas falsas de menores para testar chatbots de empresas rivais, levantando questões éticas e legais sobre a segurança digital. O projeto, que envolveu milhares de interações, gerou preocupações entre os contratados envolvidos.
A Meta, empresa controladora do Facebook e Instagram, está no centro de uma controvérsia após a revelação de que contratou centenas de pessoas para criar contas falsas de usuários menores de idade. Essas contas foram utilizadas para enviar perguntas sobre temas delicados, como suicídio e transtornos alimentares, a chatbots de concorrentes. O projeto, denominado Cannes, foi gerenciado pela empresa Covalen e estava ativo até abril de 2026.
Como o projeto funcionou
Os contratados foram orientados a criar perfis fictícios de menores e a interagir com chatbots, registrando as respostas em planilhas. Os prompts enviados foram elaborados para desafiar os mecanismos de segurança dos sistemas, com o objetivo de avaliar suas reações. Documentos internos descreveram essa atividade como um “benchmarking abrangente de segurança de IA”.
Contratados relataram preocupações
Ex-contratados expressaram alarmes sobre a natureza do projeto, temendo que suas ações pudessem gerar ou preservar material de abuso infantil. Um dos envolvidos relatou que muitos ficaram chocados com o conteúdo que eram instruídos a testar, levantando questões sobre a ética do trabalho realizado.
A zona cinza legal e ética
Dois advogados especializados em direito digital analisaram a situação e concluíram que, embora o material não tenha cruzado a linha para abuso sexual infantil, a abordagem da Meta levantou sérias questões éticas. Rumman Chowdhury, fundadora da Humane Intelligence, criticou a prática, sugerindo que a combinação de segurança e benchmarking poderia ser uma forma de encobrir práticas anticompetitivas.
Além disso, o projeto parece ter violado os termos de serviço das empresas testadas, como OpenAI e Google, que proíbem testes de segurança não autorizados. Essa violação adiciona uma camada de complexidade legal à situação, que já é delicada do ponto de vista ético.
O que as empresas dizem
As empresas envolvidas se manifestaram, com a Character.AI afirmando que não autorizou os testes e que a conduta da Meta viola suas políticas. A OpenAI está analisando o caso, enquanto o Google também negou qualquer autorização para os testes. A Meta, por sua vez, defendeu suas ações como parte de um procedimento padrão de segurança, afirmando que não utiliza benchmarking de concorrentes para treinar seus modelos de IA.
Essa situação ressalta a necessidade de uma discussão mais ampla sobre a ética e a regulamentação no uso de inteligência artificial e a proteção de menores em ambientes digitais. O caso da Meta pode servir como um alerta para outras empresas sobre os limites e responsabilidades ao testar suas tecnologias.
