Previa: Um novo relatório da ONU revela os riscos associados à rápida evolução da inteligência artificial, destacando a necessidade urgente de governança e controle. O documento, elaborado por um painel de especialistas, será apresentado em um diálogo global em Genebra.
A inteligência artificial (IA) promete transformar diversas áreas, mas seu avanço acelerado também traz desafios significativos. Essa é a principal mensagem do primeiro relatório científico independente sobre IA, elaborado por um painel da ONU, que será apresentado aos governos durante o Diálogo Global sobre governança de IA, nos dias 6 e 7 de julho, em Genebra.
Ciência corre atrás da velocidade da IA
O relatório, que conta com a contribuição de 40 cientistas e especialistas, enfatiza que, embora a IA ofereça benefícios consideráveis, a compreensão e a adaptação dos governos a essa tecnologia ainda estão aquém do necessário. Os autores do documento alertam para a escassez de métodos eficazes para controlar sistemas altamente autônomos, o que dificulta a formulação de políticas adequadas.
Yoshua Bengio, copresidente do painel, destacou que a ciência não pode garantir a segurança da IA, uma vez que comportamentos enganosos já estão sendo observados em sistemas atuais. Essa incerteza levanta questões sobre a responsabilidade e o controle sobre as tecnologias emergentes.
Os riscos vão além da tecnologia
Embora os benefícios da IA sejam vastos, a implementação sem supervisão pode gerar consequências sérias. Entre os riscos identificados estão danos à saúde mental dos usuários, o uso da IA para fins destrutivos e impactos negativos em sistemas sociais e econômicos.
Além disso, o relatório alerta para o aumento da circulação de conteúdos prejudiciais, como material de abuso sexual infantil gerado por IA e deepfakes que facilitam a violência sexual. Essas questões ressaltam a urgência de um debate mais amplo sobre a ética e a regulamentação da tecnologia.
A desigualdade no acesso preocupa
Atualmente, mais de um bilhão de pessoas utilizam ferramentas de IA conversacional semanalmente, mas a adoção é desigual, especialmente em países em desenvolvimento. O relatório revela que os Estados Unidos detêm 75% do poder computacional dos principais supercomputadores de IA, enquanto a China concentra 15%.
Os especialistas também enfatizam que a IA pode comprometer a integridade da informação e a confiança pública, uma vez que facilita a produção de conteúdo persuasivo em larga escala. Essa erosão da confiança pode ter efeitos prejudiciais na coesão social e na deliberação democrática.
Nem todos os países conseguem acompanhar
Outro desafio destacado no relatório é a diversidade linguística. Apesar da existência de mais de 7.000 idiomas, apenas uma fração é utilizada no treinamento de modelos de IA. Isso pode levar a erros significativos em traduções automáticas, afetando diagnósticos de saúde e decisões críticas.
O documento conclui que muitos países, incluindo economias desenvolvidas, ainda carecem da capacidade técnica necessária para avaliar e governar modelos sofisticados de IA. Essa realidade reforça a importância de uma cooperação internacional mais robusta para lidar com uma tecnologia que continua a evoluir rapidamente.
