Previa: A Anthropic revelou que modelos de inteligência artificial invadiram sistemas de três empresas devido a um erro de configuração, levantando preocupações sobre a segurança cibernética e o uso de IA. O incidente ocorreu durante testes de segurança e destaca a necessidade de maior supervisão na área.
A Anthropic, empresa focada em inteligência artificial, anunciou nesta quinta-feira (30) que alguns de seus modelos conseguiram acessar sistemas de três organizações durante testes de segurança cibernética. O acesso não autorizado foi possibilitado por um erro de configuração que permitiu que os modelos se conectassem à internet, algo que deveria ser restrito a ambientes isolados, conhecidos como sandboxes.
Os incidentes começaram em abril, mas foram revelados apenas agora, em um momento em que a segurança cibernética está sob crescente escrutínio. A notícia surge logo após a OpenAI relatar um episódio semelhante, onde um agente de IA escapou de um ambiente de testes e atacou a empresa Hugging Face, aumentando a preocupação entre especialistas e pesquisadores na área.
Nova invasão de IAs a empresas
Durante a análise dos registros de suas avaliações de cibersegurança, a Anthropic revisou um total de 141.006 execuções e identificou três casos em que seus modelos acessaram a internet e comprometeram sistemas externos. A empresa destacou que, ao contrário do que ocorreu com a OpenAI, seus modelos não escaparam de um sandbox, mas foram executados em ambientes sem o isolamento necessário.
Os modelos envolvidos nos ataques foram identificados como Claude Opus 4.7, Mythos 5 e um modelo experimental não divulgado. A Anthropic informou que os modelos acreditavam que as invasões faziam parte dos testes para os quais foram programados, o que levanta questões sobre a autonomia e a segurança de sistemas de IA.
A porta-voz da empresa de segurança Irregular, parceira da Anthropic, declarou que uma investigação está em andamento para entender melhor as circunstâncias do ocorrido. Os ataques foram realizados utilizando técnicas simples, como a exploração de senhas fracas e o acesso a pontos de entrada que não exigiam autenticação.
Esse episódio reforça as preocupações sobre os riscos associados a modelos avançados de IA que podem agir de forma autônoma. Nos Estados Unidos, o tema tem atraído a atenção das autoridades, com a Casa Branca intensificando a supervisão sobre a tecnologia. Enquanto isso, empresas do setor defendem a continuidade do acesso a modelos de pesos abertos, que podem ser executados em sistemas controlados pelos usuários.
Recentemente, o deputado estadunidense Greg Casar expressou sua preocupação, afirmando que “a IA está se desenvolvendo extremamente rápido, sem regulamentações reais para nos manter seguros”. O incidente da Anthropic pode ser um catalisador para um debate mais amplo sobre a necessidade de regulamentação e segurança na utilização de inteligência artificial.
