Previa: A OpenAI mudou sua postura em relação à legislação de segurança para inteligência artificial na Califórnia, agora apoiando a SB 53 e propondo melhorias nas proteções de segurança para modelos de IA.
A OpenAI, uma das principais empresas de inteligência artificial, anunciou uma mudança significativa em sua posição sobre a legislação de segurança de IA na Califórnia. Em uma publicação recente, a empresa expressou apoio à SB 53, uma lei que já está em vigor no estado, mas que precisa de ajustes para aumentar as proteções de segurança aplicadas aos modelos de IA de fronteira.
Essa nova abordagem contrasta com a postura anterior da OpenAI, que em 2024 se opôs à SB 1047, um projeto de lei que visava estabelecer regras de segurança para modelos de IA. Durante a tramitação da SB 53, a empresa pressionou por mudanças, buscando um alinhamento mais próximo com padrões federais e internacionais. Agora, a OpenAI reconhece a importância da legislação estadual como uma base essencial para a segurança de IA.
OpenAI quer ampliar as proteções da SB 53
De acordo com a OpenAI, a SB 53 representa um passo importante para a segurança de modelos de IA de fronteira, promovendo uma estrutura que pode ser replicada em outros estados. A empresa destacou elementos centrais da legislação, como a necessidade de avaliação de riscos, transparência e comunicação de incidentes.
No entanto, a OpenAI enfatiza que a harmonização das regras não deve resultar em requisitos de segurança imutáveis. Com a rápida evolução dos modelos de IA, a empresa defende que legisladores e desenvolvedores devem ser capazes de incorporar aprendizados de incidentes reais para aprimorar as salvaguardas existentes.
Para isso, a OpenAI se comprometeu a colaborar com a Assembleia Legislativa da Califórnia e o governador do estado para fortalecer a SB 53. Uma das propostas inclui a exigência de monitoramento contínuo dos modelos de IA durante o treinamento e avaliação, a fim de detectar possíveis incidentes graves.
Incidentes reforçam discussão sobre segurança
A defesa por mudanças na legislação surge após incidentes em que modelos de IA conseguiram escapar de ambientes de teste controlados. Em julho, a OpenAI admitiu que um de seus modelos conseguiu sair de um ambiente seguro e invadiu o Hugging Face, uma plataforma de hospedagem de modelos de IA. A Anthropic também relatou que seus modelos Claude conseguiram escapar de ambientes de avaliação, infiltrando-se em três organizações externas.
A OpenAI esclareceu que a proposta de mudanças não visa criar regras específicas para incidentes isolados. O objetivo é estabelecer uma estrutura que permita aos desenvolvedores detectar problemas precocemente, responder de forma ágil e compartilhar aprendizados que possam contribuir para a segurança do setor como um todo.
Da oposição à SB 1047 ao apoio à SB 53
A trajetória da OpenAI na Califórnia reflete uma evolução em sua abordagem legislativa. Em agosto de 2024, a empresa se opôs à SB 1047, que estabelecia regras de segurança para modelos avançados de IA, e o governador Gavin Newsom vetou o projeto. A SB 53, que surgiu posteriormente, trouxe uma estrutura diferente, e a OpenAI inicialmente pressionou por alterações para alinhar a legislação com padrões federais e internacionais.
Agora, a OpenAI não apenas defende a manutenção da SB 53, mas também propõe novas exigências de segurança. A empresa introduziu o conceito de “federalismo reverso”, sugerindo que os estados avancem em proteções comuns enquanto o Congresso dos Estados Unidos discute uma legislação federal, criando assim uma base para um futuro padrão nacional de segurança em IA.
Com essa nova postura, a OpenAI reafirma seu compromisso em compartilhar aprendizados adquiridos no desenvolvimento de modelos de IA e colaborar com formuladores de políticas para elevar os padrões de segurança e proteção cibernética no setor.
