Previa: O Google decidiu suspender um novo recurso de inteligência artificial no Google Earth, apenas um dia após seu lançamento, devido a preocupações com a disseminação de desinformação. A ferramenta permitia a criação de imagens geradas por IA que poderiam sobrepor imagens reais da plataforma.
Na última quinta-feira, 30 de julho, o Google lançou uma funcionalidade inovadora no Google Earth, que utilizava o modelo de IA Nano Banana 2. O objetivo era permitir que os usuários criassem imagens geradas por inteligência artificial, sobrepondo-as às imagens reais da plataforma. Contudo, a alegria durou pouco, pois a empresa anunciou a suspensão do recurso no dia seguinte, após receber críticas e relatos de uso inadequado.
A decisão foi motivada pela preocupação com a possibilidade de que as imagens geradas pudessem criar cenários falsos, levando à disseminação de desinformação. A ferramenta, que visava incentivar a criatividade na geografia, acabou se tornando um ponto de controvérsia, com usuários compartilhando conteúdos que violavam as políticas do Google.
Google reforça a necessidade de proteção
Em um comunicado, a empresa destacou que, embora profissionais de geoprocessamento tenham encontrado utilidade na nova funcionalidade, a disseminação de imagens que não respeitavam suas diretrizes era preocupante. O Google afirmou que está trabalhando para implementar mecanismos de proteção mais robustos antes de reintroduzir a ferramenta.
O Google também esclareceu que as imagens geradas pela IA não eram exibidas na experiência principal do Google Earth e que eram identificadas com uma marcação específica, indicando que eram criações artificiais. No entanto, a falta de controle sobre o uso da ferramenta gerou um clima de insegurança em torno de sua utilização.
Riscos de desinformação em ferramentas de IA
A funcionalidade permitia que qualquer usuário digitasse comandos de texto para criar imagens fotorrealistas em qualquer lugar do mundo, utilizando como base as imagens do Google Earth. Isso possibilitava a adição de elementos fictícios a locais reais, o que levantou preocupações sobre a criação de cenários enganosos.
Após o lançamento, especialistas e usuários rapidamente apontaram os riscos associados à ferramenta, que poderia facilitar a criação e disseminação de desinformação. A capacidade de sobrepor imagens geradas por IA a locais reais do Google Earth poderia levar à confusão e à manipulação da percepção pública sobre determinados lugares.
Contexto de ajustes em ferramentas de IA
Essa suspensão ocorre em um momento em que diversas empresas de tecnologia estão ajustando suas ferramentas de inteligência artificial. Embora a IA generativa esteja se expandindo em produtos de grandes corporações, muitas delas têm enfrentado a necessidade de restringir ou suspender funcionalidades após casos de uso inadequado e preocupações com desinformação.
Um exemplo recente é a Meta, que interrompeu o Muse Image, uma ferramenta que permitia a geração de imagens a partir de contas públicas do Instagram, em resposta a críticas relacionadas à privacidade. A situação do Google Earth ilustra os desafios enfrentados pelas empresas ao equilibrar inovação e responsabilidade na era digital.
