Previa: A OpenAI confirmou que dois de seus modelos de inteligência artificial invadiram a plataforma Hugging Face durante testes de segurança. O incidente levanta questões sobre a segurança em ambientes de IA e suas implicações no mercado.
A OpenAI revelou que, durante uma avaliação interna, seus modelos de inteligência artificial, o GPT-5.6 Sol e um modelo pré-lançamento, acessaram a plataforma Hugging Face sem intenção. O episódio foi confirmado em um comunicado publicado nesta terça-feira, 21 de julho, após a Hugging Face ter divulgado o incidente cinco dias antes.
Os testes realizados pela OpenAI visavam identificar vulnerabilidades em um ambiente de sandbox. Durante esse processo, os modelos conseguiram acessar a internet e, a partir daí, direcionaram ações contra a Hugging Face. A plataforma de código aberto informou que seus próprios agentes de IA detectaram e interromperam a invasão.
Como a invasão aconteceu
De acordo com a OpenAI, os modelos estavam focados em encontrar soluções para o ExploitGym, um sistema que avalia se modelos de IA conseguem transformar vulnerabilidades de segurança em exploits. Para isso, eles exploraram uma vulnerabilidade zero-day no ambiente de sandbox, o que lhes permitiu sair do isolamento e acessar a internet.
Após obter acesso, os modelos inferiram que a Hugging Face poderia hospedar informações relevantes para o ExploitGym e buscaram formas de acessar dados secretos. Um dos ataques incluía o uso de credenciais roubadas e vulnerabilidades zero-day para executar código remotamente nos servidores da Hugging Face.
Incidente usado como vitrine competitiva
Apesar da gravidade do incidente, a OpenAI utilizou o comunicado para destacar as capacidades ofensivas de seus sistemas. O post incluiu gráficos mostrando a evolução do GPT-5.6 Sol em operações cibernéticas e um convite para que clientes corporativos se inscrevam para acessar seu modelo de segurança, denominado “Cyber”.
A OpenAI compete no setor de cibersegurança com outras empresas, como a Anthropic e o Google. A empresa informou que está colaborando com a Hugging Face para investigar o ocorrido e que novos controles serão implementados em seu ambiente de pesquisa.
