A Anthropic, desenvolvedora do Claude, revelou detalhes de como funcionará a marca d’água invisível que indicará quando um texto foi processado pela plataforma de inteligência artificial. O recurso vale para modelos lançados a partir de 2 de agosto e não pode ser desativado pelo usuário.
De acordo com a Anthropic, em vez de incluir caracteres ocultos ou alterar palavras, o sistema irá indicar o uso da IA na geração do texto a partir da escolha dos termos usados na construção das frases.
O sistema é automático e não irá mudar o sentido do que se pretendia escrever, mas será uma indicação do Claude de que atuou no resultado daquele texto. A fonte de aleatoriedade gera a palavra que completa a frase de acordo com o sentido e essa escolha indica ou não a atuação da IA.
Na sentença “o tempo hoje estava frio e…”, por exemplo, tanto faz para o leitor se o complemento será “nublado” ou “cinzento”, mas será justamente nesse tipo de escolha que a marca d’água atuará.
O nível de certeza da marca d’água aumenta à medida que os textos ficam mais longos. No entanto, quando o assunto for fórmulas matemáticas, fatos históricos ou códigos de programação, a marca d’água quase não atuará da mesma maneira, pois o modelo não possui margem para escolher palavras sem prejudicar o conteúdo.
A empresa também admite os limites do método. A marca indica que o Claude participou da produção do texto em algum momento, mas não distingue o que foi escrito pela IA do que foi apenas editado por ela. Em casos de revisão ou edições pontuais, haverá pouca ou nenhuma marca d’água, uma vez que a maior parte das palavras permanecerá original do autor.
A Anthropic afirma que vai disponibilizar uma API de detecção do uso da IA para gerar o texto. A ferramenta, porém, ainda não está acessível.
No caso de imagens geradas, a ferramenta adicionará credenciais de conteúdos criptografados com base no padrão de mercado C2PA, metadados com informações seguras e assinadas com criptografia que registram a autoria. Em vez de usar marca d’água, o arquivo terá uma assinatura oculta em seus metadados, mas sem sofrer alteração visual.
Da Europa para o mundo
A medida foi adotada para cumprir a legislação europeia de inteligência artificial, mas terá aplicação no mundo todo. Isso porque não existe uma forma consolidada de limitar o recurso apenas à região da Europa.
Apesar de a Anthropic garantir que a marca d’água não afetará a legibilidade ou a qualidade do texto final, a implementação gerou dúvidas sobre como será possível identificar um texto gerado ou processado pela, já que a marcação não será visível.
