Previa: O Google enfrenta críticas após sua inteligência artificial destacar informações sensíveis sobre suicídio em resumos de busca. A situação levanta questões sobre a responsabilidade das plataformas digitais na apresentação de conteúdos delicados.
Recentemente, a inteligência artificial do Google foi alvo de polêmica ao exibir, em destaque, detalhes sobre o suicídio de Paul Flack em pesquisas relacionadas à sua irmã, a ex-apresentadora Caroline Flack. Esse episódio gerou preocupações sobre como informações sensíveis são tratadas e apresentadas aos usuários.
Profissionais de SEO e representantes de entidades de saúde mental criticaram a abordagem da ferramenta, que contraria diretrizes que recomendam cautela ao abordar o tema do suicídio. Essas orientações enfatizam a importância de evitar a divulgação de métodos utilizados, uma vez que isso pode aumentar o risco entre pessoas vulneráveis.
Críticas reacendem debate sobre responsabilidade das plataformas
A diretora de SEO e Discover da Reach, Nicola Agius, foi uma das vozes que se manifestaram sobre o assunto. Ela relatou ter encontrado um resumo automático que não apenas confirmou a morte, mas também organizou informações em seções que aprofundavam o caso de forma inadequada. Em sua publicação no LinkedIn, Agius pediu ao Google que reconsiderasse a forma como sua IA lida com temas sensíveis.
O resumo gerado pela IA apresentava informações delicadas logo nas primeiras linhas, repetindo detalhes ao ser expandido. Embora essas informações tenham origem em reportagens, muitas vezes não eram exibidas com o mesmo destaque nos veículos de comunicação originais, e algumas já haviam sido removidas.
Organizações de saúde mental, como os Samaritans e a Mind, também expressaram sua preocupação. As diretrizes dessas entidades recomendam que veículos evitem mencionar métodos de suicídio, especialmente em títulos, devido ao impacto negativo que isso pode ter sobre indivíduos vulneráveis.
A chefe de salvaguarda da Mind, Lois Sparkes, destacou que a apresentação de tais informações é preocupante e decepcionante. Ela alertou que o destaque dado a esses detalhes pode ser prejudicial e que as respostas geradas por IA devem seguir os mesmos padrões rigorosos aplicados à mídia tradicional.
O Google foi contatado para comentar sobre a situação, mas ainda não se manifestou. Este caso ressalta a necessidade de uma reflexão mais profunda sobre a responsabilidade das plataformas digitais na disseminação de informações sensíveis e o impacto que isso pode ter na sociedade.
