Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, solicitaram uma maior cooperação internacional para enfrentar os riscos associados ao avanço da inteligência artificial (IA) durante uma reunião do Conselho de Segurança das Nações Unidas (ONU) realizada nesta quarta-feira (23). A declaração dos executivos ocorre em um contexto de crescente preocupação sobre a segurança e o controle da tecnologia, especialmente após o discurso do presidente dos Estados Unidos, Donald Trump, na Assembleia Geral da ONU, onde ele rejeitou propostas de regulamentação global.
Trump, em sua fala, desqualificou as tentativas de estabelecer um “esquema globalista” para controlar a IA, afirmando que os Estados Unidos devem continuar a incentivar o desenvolvimento dessa tecnologia, que ele considera fundamental para o futuro. “Não vou impedir o crescimento de algo que será maior do que a Revolução Industrial”, disse o presidente, enfatizando que quem dominar a IA terá uma vantagem estratégica.
Cooperação em meio à competição
A posição de Altman contrasta fortemente com a de Trump. O CEO da OpenAI argumentou que, apesar das rivalidades entre nações, é crucial que os países colaborem em questões que envolvem tecnologias com potencial para causar impactos significativos. “Acreditamos que este deve ser um desses momentos”, afirmou Altman, defendendo que a IA deve ser tratada como uma questão de segurança global.
A aproximação entre Altman e Amodei é notável, considerando que ambas as empresas competem no desenvolvimento de modelos avançados de IA. Recentemente, Amodei expressou a necessidade de desacelerar o ritmo de desenvolvimento desses modelos, argumentando que o avanço acelerado pode superar a capacidade de compreensão e controle dos riscos por parte das empresas e governos. Sua proposta inclui três frentes principais: permitir acesso a avaliadores independentes para verificar práticas de segurança, aumentar a coordenação entre empresas de IA e promover a cooperação internacional.
Altman também manifestou apoio à ideia de um desenvolvimento mais controlado da IA, destacando a importância de um diálogo contínuo sobre segurança e riscos associados a sistemas cada vez mais complexos. A discussão na ONU foi impulsionada por preocupações sobre o uso malicioso da IA e a possibilidade de perda de controle sobre sistemas avançados.
Desafios e pressões no setor
As declarações de Altman e Amodei surgem em um momento em que as empresas de IA, como OpenAI e Anthropic, estão sob pressão para expandir seus negócios e se preparar para possíveis ofertas públicas de ações (IPOs). Embora nenhuma das duas tenha divulgado uma data específica para a abertura de capital, ambas são vistas como candidatas a grandes IPOs, o que levanta questões sobre como equilibrar a necessidade de crescimento com a responsabilidade em relação ao desenvolvimento seguro da tecnologia.
Amodei enfatizou que desacelerar o desenvolvimento não significa interrompê-lo, mas sim implementar mecanismos de avaliação e coordenação que acompanhem a evolução dos modelos de IA. Essa abordagem visa garantir que o avanço tecnológico ocorra de maneira segura e responsável, minimizando os riscos associados.
A discussão sobre a segurança da IA também se insere em um contexto mais amplo de competição tecnológica entre os Estados Unidos e a China. A busca por mecanismos de segurança deve ser equilibrada com a necessidade de manter a competitividade das empresas, evitando que regulamentações excessivamente restritivas impeçam o progresso tecnológico.
O debate na ONU, que incluiu a participação de representantes de empresas como Hugging Face e especialistas do painel científico independente da ONU sobre IA, reflete a urgência em estabelecer diretrizes que garantam o uso seguro e ético da inteligência artificial, reconhecendo ao mesmo tempo a importância de um ambiente competitivo saudável.
