Previa: A nova ferramenta de inteligência artificial da Anthropic, chamada Fable, tem gerado polêmica ao bloquear até mesmo solicitações simples relacionadas à cibersegurança, levantando preocupações entre especialistas da área.
A Anthropic apresentou recentemente o Fable, uma versão pública e limitada de seu sistema Mythos, focado em segurança digital. Desde seu lançamento, na terça-feira, o Fable se tornou alvo de críticas por parte de profissionais e pesquisadores que consideram os bloqueios excessivos, inviabilizando até tarefas básicas.
As críticas começaram a ganhar força nas redes sociais e em fóruns especializados. Valentina “Chompie” Palmiotti, pesquisadora da IBM X-Force, destacou que o Fable rejeita solicitações que, mesmo que indiretamente, estejam ligadas à cibersegurança. Segundo ela, até ações simples, como ler um blog, são barradas pela plataforma.
O que faz o Fable bloquear pedidos
Quando um prompt ativa os mecanismos de segurança, o Fable interrompe a interação e informa que a mensagem foi sinalizada devido a tópicos relacionados à cibersegurança ou biologia. Nesses casos, o sistema retorna automaticamente ao Claude Opus 4.8.
A Anthropic justifica esses filtros como uma forma de prevenir o uso indevido do sistema para a criação de malware ou invasões de software. Além disso, a empresa também bloqueia solicitações relacionadas à biologia, temendo possíveis aplicações em armas biológicas.
Especialistas reclamam dos filtros
Matt Suiche, especialista em segurança digital e membro da Tolmo, comentou que o sistema parece ser baseado em palavras-chave, o que resulta em bloqueios desnecessários. Ele exemplificou que, ao solicitar a criação de um código seguro, o Fable interpreta isso como uma atividade relacionada à cibersegurança, resultando em restrições.
Apesar das críticas, Suiche reconhece a necessidade de cautela por parte da Anthropic. Ele acredita que a empresa está em um processo de adaptação e que as restrições devem evoluir com o tempo, à medida que colaborações com novas empresas de cibersegurança se intensificam.
Como o Mythos chegou ao mercado
O Mythos foi lançado em abril, inicialmente com acesso restrito a um grupo seleto de empresas no Projeto Glasswing, que visa proteger softwares e infraestruturas críticas. Recentemente, a Anthropic ampliou o acesso para centenas de organizações em 15 países.
Além dos filtros, a empresa exige que profissionais da área se inscrevam no Cyber Verification Program. Aqueles que forem aprovados têm acesso ao Claude com menos restrições para atividades relacionadas à segurança digital. A OpenAI possui um programa similar, chamado Trusted Access for Cyber.
As críticas sobre os bloqueios continuam a circular entre os profissionais da área, que consideram as restrições exageradas. Até o momento, a Anthropic não se manifestou sobre os comentários recebidos.
