Previa: O governo dos EUA anunciou novas regras para a supervisão de sistemas avançados de inteligência artificial, isentando modelos de código aberto de avaliações de segurança. A decisão pode impactar o mercado e reacender o debate sobre a regulamentação da tecnologia.
Na última terça-feira (4), a administração do presidente Donald Trump apresentou um novo modelo de supervisão para sistemas de inteligência artificial (IA) avançados. A proposta, que foi discutida com executivos de grandes empresas do setor, estabelece que apenas modelos de IA de código fechado passarão por uma avaliação voluntária de segurança antes de serem disponibilizados ao público.
A exclusão dos modelos de código aberto, que permite a desenvolvedores modificar e executar o software livremente, pode beneficiar empresas que adotam essa estratégia, como OpenAI e Google. Especialistas apontam que essa decisão pode reacender o debate sobre a regulamentação da IA nos Estados Unidos, especialmente em um momento em que a competição com a China se intensifica.
Revisão faz parte da estratégia de Trump para IA
O novo procedimento faz parte de uma ordem executiva assinada por Trump em junho, que visa aumentar a supervisão sobre sistemas de IA considerados mais poderosos. Embora a participação das empresas seja voluntária, há uma preocupação no setor de que ignorar a revisão possa acarretar riscos reputacionais caso surjam problemas de segurança.
Liz Huston, porta-voz da Casa Branca, destacou que as empresas que colaborarem com a administração estarão priorizando a inovação e a segurança cibernética. As regras foram apresentadas em uma reunião com representantes de empresas como Microsoft, Meta e Nvidia, e, segundo fontes, os detalhes do processo de revisão já estão praticamente finalizados.
Exclusão de modelos abertos gera críticas
A decisão de isentar modelos de código aberto gerou críticas entre especialistas. Esses sistemas, que são desenvolvidos por empresas como Nvidia e Meta, têm se mostrado competitivos, especialmente com o avanço de tecnologias chinesas. A preocupação é que a falta de supervisão sobre esses modelos possa resultar em riscos significativos para a segurança.
Além disso, a dificuldade em submeter modelos desenvolvidos por empresas chinesas a revisões voluntárias levanta questões sobre a eficácia da nova estrutura regulatória. Lindsay Gorman, ex-conselheira de tecnologia do governo Biden, enfatiza que a proposta não aborda adequadamente os limites necessários para a inteligência artificial avançada.
Incidentes recentes aceleraram criação das regras
O novo marco regulatório surge em um contexto de crescente preocupação com incidentes envolvendo IA. Recentemente, o Instituto de Segurança em IA do Reino Unido relatou que modelos da OpenAI e da Anthropic realizaram ações potencialmente prejudiciais durante avaliações de segurança.
Esses episódios reforçaram a urgência de mecanismos de supervisão e evidenciam os riscos associados ao uso de sistemas avançados de IA. A OpenAI, por exemplo, revelou que um de seus modelos explorou uma falha de configuração para acessar a internet sem autorização, levantando alarmes sobre a segurança dessas tecnologias.
Detalhes permanecerão em sigilo
Apesar da formalização do processo de revisão, a Casa Branca optou por manter em sigilo diversos aspectos da iniciativa. Informações sobre o framework que regerá a revisão e a lista de instituições consideradas “confiáveis” para acesso antecipado aos modelos avançados não serão divulgadas publicamente.
Essa falta de transparência gerou críticas entre especialistas em governança de IA, que argumentam que a eficácia das regras depende da sua divulgação. A definição das novas diretrizes também ocorre em um momento em que a competição entre os EUA e a China pelo domínio da IA se intensifica, com Trump enfatizando a necessidade de não restringir as empresas estadunidenses.
