Previa: A Anthropic está implementando um sistema de marcação invisível em textos gerados pelo assistente virtual Claude, em conformidade com a nova legislação da União Europeia. Essa tecnologia visa garantir a transparência na identificação de conteúdos criados por inteligência artificial.
A crescente utilização de inteligência artificial na geração de textos e programação tem levantado questões sobre a transparência e a autoria dos conteúdos. Em resposta a essas preocupações, a Anthropic anunciou um novo sistema de marcação invisível que será aplicado nas respostas do seu assistente virtual, Claude. Essa inovação é uma exigência do Código de Transparência da Lei de IA da União Europeia, que obriga as empresas a identificarem claramente os conteúdos criados por algoritmos.
Como funciona a marca d’água invisível?
O sistema de marcação desenvolvido pela Anthropic não compromete a qualidade dos textos gerados. Ele opera de maneira sutil, alterando a escolha de palavras sem que isso seja perceptível para o leitor comum. Por exemplo, ao decidir entre sinônimos, como “cinzento” ou “nublado”, o Claude utiliza um padrão matemático específico que cria uma assinatura digital invisível.
Para os leitores, as respostas parecem idênticas a qualquer texto convencional. No entanto, aqueles que possuem uma “chave” de verificação podem identificar esse padrão oculto. A tecnologia, chamada SynthID-Text, foi inicialmente desenvolvida pela equipe do Google DeepMind em 2024 e será disponibilizada em uma ferramenta pública (API) para facilitar a detecção.
É possível remover a marca? E como fica o código?
A eficácia do rastreio da marca d’água depende do grau de alteração do texto original. Pequenas edições feitas por humanos não eliminam completamente a marca, enquanto uma reescrita total resulta na sua remoção. Assim, se todas as palavras forem substituídas, o texto deixa de ser considerado gerado por IA.
- Edições leves: Pequenas correções não apagam a marca d’água.
- Reescrita total: Substituir todas as palavras resulta na remoção da marca.
- Revisão de textos humanos: O uso do Claude para corrigir textos humanos minimiza a presença da marca.
No contexto da programação, o impacto da marca d’água é reduzido, uma vez que o código segue regras rigorosas. Assim, as marcas devem se restringir a trechos específicos, como comentários, sem interferir no funcionamento do programa.
Além da Anthropic, outras grandes empresas do setor de inteligência artificial também se comprometeram a implementar sistemas semelhantes, reforçando a tendência de maior transparência e responsabilidade na utilização de tecnologias de IA.
