Previa: A Meta enfrenta uma grave acusação após permitir a veiculação de anúncios com imagens de abuso sexual infantil geradas por inteligência artificial em suas plataformas. A investigação revela falhas significativas no sistema de revisão de anúncios da empresa.
A Meta, empresa controladora de plataformas como Facebook e Instagram, está sob intensa pressão após a divulgação de que mais de 50 anúncios pagos com imagens de abuso sexual infantil, geradas por inteligência artificial, foram veiculados em suas redes. A investigação realizada pelo Tech Transparency Project (TTP) revelou que essas campanhas estavam ativas entre novembro do ano passado e agosto deste ano, atingindo usuários em diversos países, incluindo Estados Unidos e Reino Unido.
Os anúncios, que promoviam aplicativos de nudify e continham imagens de menores em contextos sexualizados, foram aprovados pela própria Meta, o que levanta sérias questões sobre a eficácia de seu sistema de revisão. Katie Paul, diretora do TTP, destacou que esses conteúdos não eram postagens comuns, mas sim anúncios pagos que passaram por um processo de aprovação da empresa.
Novos anúncios surgiram durante a investigação
Durante a investigação, os pesquisadores inicialmente identificaram cerca de 20 anúncios, mas horas antes da publicação da reportagem, descobriram mais 30 campanhas semelhantes. Algumas dessas novas publicidades foram lançadas após a Meta ser contatada para esclarecimentos, indicando uma falha no monitoramento da plataforma.
O TTP imediatamente comunicou o National Center for Missing and Exploited Children (NCMEC) sobre os casos encontrados. Após a pressão da mídia, a Meta retirou os anúncios de sua biblioteca pública, alegando que violavam suas políticas contra exploração sexual infantil.
Sistema de anúncios levanta questionamentos
A Meta afirma que todos os anúncios passam por uma revisão automatizada antes de serem publicados, com políticas rigorosas contra conteúdos relacionados à exploração sexual. No entanto, a investigação sugere que anúncios previamente removidos conseguiram ser veiculados novamente, levantando dúvidas sobre a eficácia desse sistema de revisão.
Além disso, a biblioteca pública de anúncios da Meta não permite que usuários denunciem campanhas que já não estão mais ativas, o que pode dificultar a identificação de conteúdos problemáticos.
Empresas chinesas aparecem entre os anunciantes
Os pesquisadores notaram que muitos dos anúncios foram publicados por contas com poucos seguidores, frequentemente ligadas a empresas chinesas. Um dos anunciantes identificados foi a Meet Social, que já atuou como revendedora de publicidade da Meta na China, onde as plataformas da empresa são bloqueadas.
Apple remove aplicativo citado na investigação
Entre os anúncios, alguns direcionavam usuários para o aplicativo MaskAI, disponível na App Store da Apple. Após ser contatada, a Apple removeu o aplicativo por violar suas políticas contra nudificação, reforçando a necessidade de uma vigilância mais rigorosa sobre esse tipo de conteúdo.
Mercado de aplicativos de “nudificação” preocupa especialistas
O crescimento da inteligência artificial generativa tem facilitado a criação de serviços que produzem imagens falsas de nudez. Especialistas alertam que essas ferramentas estão sendo utilizadas tanto para gerar pornografia não consensual quanto para criar material de abuso sexual infantil.
Alexios Mantzarlis, cofundador da publicação Indicator, destacou que, apesar dos esforços da Meta para remover conteúdos problemáticos, a indústria de abuso sexual baseado em imagens se tornou uma presença constante no ecossistema online, devido à falta de aplicação rigorosa das regras pelas plataformas.
