A Anthropic, empresa de inteligência artificial, revelou que bloqueou diversas operações de vigilância apoiadas por governos da China, do Irã e do Mali, que utilizavam seu modelo Claude para monitorar dissidentes e minorias. As atividades foram detectadas entre janeiro e julho de 2026 e incluíram a identificação de indivíduos nas redes sociais e o desenvolvimento de software para coleta de inteligência.
As campanhas de vigilância tinham como alvo comunidades historicamente perseguidas, como ativistas pró-democracia de Hong Kong, minorias tibetanas e opositores do regime iraniano que residem no exterior. Em um caso específico, no Irã, indivíduos usaram o Claude para criar um método de identificação baseado em contas de redes sociais. No Mali, um contratado das autoridades de segurança nacional utilizou o modelo para projetar software que facilitava a coleta de informações.
Operações de vigilância e suas implicações
Os usos identificados do Claude incluíram a identificação de pessoas por meio de suas contas em redes sociais, o monitoramento de dissidentes e minorias fora de seus países, o desenvolvimento de software para coleta de inteligência e operações de vigilância apoiadas por governos. A Anthropic afirmou ter encerrado essas operações após identificar o uso indevido de seus modelos, destacando a importância de proteger os direitos humanos e a privacidade dos indivíduos.
Além das operações de vigilância, a empresa também bloqueou tentativas de utilização de seus modelos em pesquisas biológicas suspeitas. Estudos relacionados a vírus, como o chikungunya e uma cepa altamente patogênica de gripe aviária, foram interrompidos. A Anthropic não revelou as identidades dos envolvidos, mas destacou que as pessoas eram cientistas e que a intenção por trás dos estudos não estava clara, o que poderia expô-las a riscos.
Uso indevido e destilação de dados
A empresa também acusou desenvolvedores chineses de usarem o Claude de maneira enganosa, gerando respostas para consultas de usuários enquanto “destilavam” esses dados para aprimorar seus próprios modelos. A destilação é uma técnica em que um modelo de inteligência artificial é utilizado para treinar outro, e a Anthropic já havia registrado casos anteriores de uso não autorizado dessa prática por desenvolvedores chineses.
Além disso, a Anthropic bloqueou tentativas de desenvolver armas e criar golpes românticos online, evidenciando uma variedade de usos indevidos de seus modelos. A empresa enfatizou que sua missão é garantir que a inteligência artificial seja utilizada de maneira ética e responsável, evitando que suas tecnologias sejam empregadas em atividades que possam causar danos a indivíduos ou sociedades.
Essas revelações levantam questões importantes sobre a responsabilidade das empresas de tecnologia em monitorar e controlar o uso de suas ferramentas, especialmente em contextos onde direitos humanos e privacidade estão em risco. A atuação da Anthropic pode servir como um exemplo de como as empresas podem se posicionar contra abusos e garantir que suas inovações não sejam utilizadas para fins prejudiciais.
