Previa: Um novo relatório da Redbelt Security alerta que focar apenas na proteção de modelos de linguagem pode deixar sistemas de inteligência artificial vulneráveis a ataques. A consultoria sugere que a segurança deve ser direcionada ao harness, o componente que executa as ações dos agentes de IA.
A Redbelt Security divulgou um estudo que questiona a abordagem comum de segurança em inteligência artificial, onde o modelo de linguagem é visto como o principal risco. Segundo a consultoria, essa visão pode levar as empresas a desviar a atenção do verdadeiro ponto vulnerável: o harness, que é responsável por executar as ações nos sistemas.
O modelo de linguagem, por si só, apenas interpreta solicitações e gera instruções em texto. O harness, por outro lado, é o programa que conecta o modelo ao ambiente computacional, realizando ações como acessar arquivos e executar comandos. Para a Redbelt, a proteção desse componente é crucial para mitigar riscos associados a aplicações de IA.
Ambientes e Níveis de Risco
O relatório também destaca que o mesmo modelo pode ter diferentes níveis de risco dependendo do ambiente em que opera. Algumas implementações podem ter acesso direto à máquina do usuário, enquanto outras operam em ambientes isolados com permissões restritas. Aplicações que utilizam apenas interfaces de conversa, sem capacidade de executar ações externas, apresentam uma superfície de ataque menor.
Além disso, a evolução dos agentes de IA traz novos desafios de segurança. Um exemplo mencionado é um sistema multiagente desenvolvido pela Anthropic em 2025, que conseguiu criar um compilador da linguagem C com cerca de 100 mil linhas de código, evidenciando o potencial dessas arquiteturas para realizar tarefas complexas.
Wagner Farias, head de Engenharia de Ameaças da Redbelt Security, enfatiza a importância de um controle rigoroso sobre o que entra e sai do sistema. Ele critica a visão simplista de tratar os agentes como “gênios da lâmpada”, sugerindo que as empresas devem implementar fluxos de trabalho modulares com checagens em cada etapa.
Entre as recomendações do relatório, está a adoção de hooks, que são pequenos programas executados pelo harness em momentos específicos. Esses mecanismos permitem validar comandos antes da execução e inspecionar os resultados, oferecendo um controle mais rigoroso e reduzindo a exposição a ataques.
O estudo também alerta sobre os riscos associados à instalação de plugins e skills de terceiros, que podem ampliar as capacidades dos agentes de IA. A Redbelt recomenda que essas extensões sejam avaliadas com o mesmo rigor que qualquer software corporativo, verificando a presença de instruções ocultas e comunicações desnecessárias.
Por fim, o relatório destaca que a injeção de prompts continua sendo um vetor de ataque significativo e ainda não possui uma solução definitiva. A Redbelt sugere uma abordagem em múltiplas camadas de proteção, combinando hooks, controle de acesso e fluxos de trabalho com fronteiras de confiança claramente definidas. A responsabilidade pela segurança dos dados, segundo Farias, deve permanecer com as organizações, e não com as ferramentas de inteligência artificial.
