Previa: A Anthropic anunciou uma nova tecnologia que permitirá a inserção de marcas invisíveis em conteúdos gerados por sua IA, Claude. Essa inovação visa atender às exigências de transparência e identificação de conteúdos criados por inteligência artificial.
A Anthropic, empresa de inteligência artificial, revelou sua intenção de implementar marcas invisíveis em textos e imagens gerados por seu modelo Claude. Essa iniciativa surge em resposta às novas regulamentações da União Europeia, que buscam aumentar a transparência em conteúdos digitais. A marcação facilitará a identificação de materiais criados por IA, um passo importante em um cenário onde a desinformação pode se espalhar rapidamente.
Os novos modelos do Claude já terão essa marcação no momento do lançamento. Para os modelos existentes, a implementação ainda está em fase de desenvolvimento. A marca invisível será incorporada de forma que acompanhe o conteúdo, mesmo quando este for copiado para outras plataformas, garantindo que a origem do material seja sempre visível.
Marca ficará escondida nos textos
A proposta da Anthropic é integrar uma “marca d’água imperceptível” diretamente nos textos gerados. Essa marca não afetará o significado, a qualidade ou a legibilidade do conteúdo. A aplicação ocorrerá em nível de modelo, o que significa que a marca estará presente em diferentes serviços que utilizam o Claude, como a Claude Platform (API) e o Claude Code.
Além disso, a empresa assegura que a marca permanecerá visível mesmo após o texto ser copiado e colado, resistindo a algumas edições. Essa característica é fundamental para garantir a rastreabilidade do conteúdo gerado por IA, um aspecto que se torna cada vez mais relevante no atual ambiente digital.
Imagens terão outro sistema
Para as imagens geradas, a Anthropic adotará o padrão C2PA, que permite registrar metadados sobre a origem dos arquivos. Essa tecnologia já é utilizada por grandes empresas como Adobe e Google, reforçando a confiabilidade do sistema. No entanto, detalhes sobre a marcação de textos ainda não foram divulgados.
A marca d’água, segundo a Anthropic, será parte integrante do texto, garantindo que ela “viajará” com o conteúdo ao ser copiado. Isso representa um avanço significativo na identificação de conteúdos digitais, embora a empresa reconheça que a eficácia do sistema pode variar.
Tecnologia de IA ainda tem limitações
A Anthropic admite que o sistema de marcação não será infalível. Existe a possibilidade de que os dados do C2PA sejam removidos acidentalmente ao transferir arquivos para certas plataformas. Além disso, a resistência das marcas aplicadas aos textos ainda não foi completamente testada.
Para garantir a eficácia do sistema, a empresa está desenvolvendo recursos que permitirão a usuários e terceiros detectar as marcas e metadados de procedência. Informações adicionais sobre essa tecnologia devem ser divulgadas em uma futura documentação técnica.
É importante ressaltar que a ausência de uma marca não deve ser interpretada como uma prova de que um conteúdo não foi gerado por IA. A Anthropic alerta que materiais sem identificação visível ainda podem ter origem em modelos generativos, reforçando a necessidade de cautela na avaliação de conteúdos digitais.
Essa iniciativa representa um passo importante na busca por maior transparência em conteúdos gerados por inteligência artificial. O sucesso da implementação dependerá da capacidade das marcas de resistir a cópias e edições, um desafio que a indústria de tecnologia continuará a enfrentar nos próximos anos.
