Previa: Um novo estudo revela que as principais empresas de inteligência artificial ainda enfrentam sérias falhas de segurança, com nenhuma delas alcançando os padrões ideais. A pesquisa destaca a necessidade urgente de melhorias nas práticas de segurança do setor.
A inteligência artificial (IA) tem avançado rapidamente, mas um levantamento recente indica que a segurança dessas tecnologias ainda não evoluiu na mesma proporção. As principais empresas do setor, que estão na vanguarda do desenvolvimento de IA, ainda não atingiram os padrões considerados adequados para garantir a segurança de seus sistemas.
A avaliação foi conduzida pela Anthropic, que lidera um estudo internacional focado na segurança em IA. Apesar de ser a empresa com a melhor classificação, nenhuma das companhias analisadas conseguiu obter a nota máxima no índice de segurança, evidenciando a fragilidade das práticas atuais.
Avaliação revela cenário distante do ideal
O estudo foi realizado pelo Future of Life Institute, um think tank americano que se dedica à segurança em inteligência artificial. Foram avaliadas nove das principais empresas do setor, com base em dados públicos e informações fornecidas pelas próprias organizações.
Seis áreas foram consideradas na análise: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações. A Anthropic obteve a melhor nota geral, um C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas.
O ranking geral de segurança em IA ficou assim:
- Anthropic — nota geral C+ | pontuação 2,66
- OpenAI — nota geral C | pontuação 2,28
- Google DeepMind — nota geral C | pontuação 2,01
- Meta AI — nota geral D+ | pontuação 1,32
- Z.ai — nota geral D- | pontuação 0,88
- Alibaba Cloud — nota geral D- | pontuação 0,87
- xAI — nota geral F | pontuação 0,65
- DeepSeek — nota geral F | pontuação 0,47
- Mistral — nota geral F | pontuação 0,33
Riscos vão além dos problemas atuais
Uma das conclusões mais alarmantes do levantamento diz respeito às ameaças existenciais. Isso se refere ao desenvolvimento de modelos de IA que podem alcançar níveis de inteligência semelhantes aos humanos, conhecidos como inteligência artificial geral (AGI).
Os pesquisadores reconhecem que existem esforços em andamento, mas consideram que são totalmente insuficientes. O relatório alerta para o uso potencial desses modelos em ciberataques ou outras ações prejudiciais, à medida que os sistemas se tornam mais sofisticados e capazes de realizar tarefas complexas.
Uso militar também entra em debate
Outro aspecto importante abordado no estudo é a mudança de postura de algumas empresas em relação ao uso militar da tecnologia. O relatório aponta que companhias que antes restringiam essa aplicação estão agora flexibilizando suas políticas.
A Anthropic, por exemplo, é criticada por manter “compromissos militares questionáveis”. Relatos indicam que a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares em países como Venezuela e Irã no último ano.
O alerta continua para o setor
Apesar de liderar o ranking, a Anthropic ainda está longe de atingir a nota máxima, o que reforça a necessidade de melhorias significativas nas práticas de segurança das empresas de inteligência artificial. O Future of Life Institute destaca que, embora existam iniciativas voltadas para a segurança, os esforços atuais são insuficientes diante dos desafios que o avanço da IA apresenta.
