Previa: O procurador municipal de São Francisco notificou Apple e Google para removerem aplicativos de troca facial que geram imagens de nudez sem consentimento. A medida busca combater o uso indevido de inteligência artificial para criar conteúdos sexualizados.
Nesta sexta-feira (17), o gabinete do procurador municipal de São Francisco enviou notificações à Apple e ao Google, exigindo a remoção de 13 aplicativos de troca facial. Esses programas estão associados à criação de imagens de nudez geradas artificialmente, sem a autorização das pessoas retratadas. A ação destaca a preocupação com a privacidade e o consentimento no uso de tecnologias emergentes.
A medida foi motivada por investigações que revelaram que ferramentas de edição de imagem podem ser utilizadas para produzir deepfakes de teor sexual, afetando especialmente mulheres e meninas. O uso de inteligência artificial para manipulação de imagens levanta questões éticas e legais, além de impactar a segurança digital dos usuários.
Empresas são cobradas por falhas de controle sobre aplicativos
As notificações foram assinadas pelo procurador municipal, David Chiu, que enfatizou que a criação de imagens íntimas sem consentimento é uma prática ilegal e prejudicial. Ele argumentou que tanto a Apple quanto o Google devem garantir que suas plataformas não sejam utilizadas para facilitar abusos e devem interromper relações comerciais com desenvolvedores de aplicativos problemáticos.
Além disso, a cobrança se estende aos sistemas de pagamento das lojas virtuais, que lucram com os serviços oferecidos pelos aplicativos. A pressão sobre essas empresas reflete uma crescente demanda por responsabilidade na gestão de conteúdos gerados por inteligência artificial.
A Apple já tomou medidas, removendo três dos aplicativos indicados e iniciando procedimentos para encerrar as contas dos desenvolvedores envolvidos. A empresa também alertou que outros criadores poderão ser excluídos caso não corrijam as violações identificadas.
Por sua vez, o Google declarou ter retirado centenas de aplicativos que ofereciam recursos de “nudificação” por violarem suas políticas. A companhia também suspendeu ferramentas semelhantes e restringiu termos de busca relacionados a esse tipo de serviço em sua loja de aplicativos.
Pesquisas mencionadas na investigação municipal indicam que o problema não se limita a aplicativos explicitamente voltados para a nudez. Muitos programas de troca de rostos, apresentados como ferramentas de edição comuns, permitem a criação de imagens sexualizadas sem mecanismos eficazes de proteção.
A prefeitura de São Francisco anunciou que continuará avaliando medidas legais contra empresas que permitirem a circulação dessas ferramentas. O objetivo é pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos, garantindo assim uma maior segurança para os usuários.
