O que a imagem fake do Papa diz sobre o futuro da IA?

A foto do Papa Francisco foi criada no Midjourney, uma ferramenta de IA que pode gerar imagens falsas e realistas

Acessibilidade

O Papa Francisco vestido com uma jaqueta puffer branca – nada mais sugestivo para portais de notícias, influenciadores e qualquer pessoa que goste, ou não, de moda – foi um dos temas do fim de semana. As análises, notícias e até mesmo críticas e opiniões divididas sobre o look do pontífice não duraram muito tempo até a revelação de que a imagem, na verdade, foi mais uma criação feita por inteligência artificial na plataforma Midjourney. O responsável foi o artista Pablo Xavier, de 30 anos. Residente em Chicago, Pablo divide o ofício com a carreira na Construção Civil e saiu do quase anonimato para uma visibilidade mundial.

A velocidade da repercussão, bem como a maneira como muitos veículos respeitados entenderam a imagem como uma “versão real” trouxe à tona novas discussões sobre como lidar com a inteligência artificial (IA) e seu poder de gerar textos, fotos, vídeos e uma série de outros conteúdos. A foto do Papa foi criada no Midjourney, ferramenta de IA que pode gerar imagens falsas e realistas. A imagem foi compartilhada no Reddit antes de chegar ao Twitter no fim de semana, onde a maioria das pessoas parecia pensar que era real.

Recentemente, o Midjourney também foi usado para criar imagens fotorrealistas do ex-presidente Donald Trump sendo preso. E Trump até compartilhou uma imagem falsa gerada por IA de si mesmo ajoelhado para rezar. À primeira vista, todas as imagens parecem ser fotos reais. Mas são todas falsificações da realidade criadas por computador. Além do Midjourney, outras ferramentas também têm o mesmo potencial, dentre elas o DALL-E e o Stable Diffusion, da OpenAI. Elas permitem que qualquer pessoa simplesmente descreva a imagem que deseja ver usando texto.

As imagens podem ser criadas porque as ferramentas foram treinadas em literalmente milhões de imagens da web, incluindo muitas imagens protegidas por direitos autorais. A foto do Papa traz uma série de reflexões sobre o impacto que a IA pode ter sob vários aspectos. Há algumas semanas, durante o SXSW, em Austin, no Texas, Greg Brockman, presidente da OpenAI, ao ser questionado sobre o quanto ferramentas como ChatGPT seriam eficientes na violação de direitos autorais e propriedade intelectual, afirmou que existe uma mudança em curso e que é necessário também uma discussão neste sentido.

“Neste momento, muito além do desafio da tecnologia, em si, temos uma equipe inteira dedicada a tornar o ChatGPT mais confiável. Assumimos, inclusive, que há muito a ser melhorado, como retirar os vieses do chatbot e a possibilidade de descentralizar cada vez mais nossa IA para que ela seja amparada em todo um ecossistema ancorado principalmente na comunidade”, disse se referindo ao ChatGPT, mas reforçando que isso vale para qualquer ferramenta de IA, inclusive o Midjourney.

Ele destacou que “existe muito a ser compreendido neste momento e reforço, não só pelos aspectos técnicos, mas, principalmente por questões comportamentais, de negócios e novas dinâmicas”, afirmou. Para Greg, em relação ao trabalho e as principais críticas de substituição de humanos por IA, é importante também considerar uma mudança em que a questão é delegar à tecnologia tarefas que podem ser automatizadas, dentre elas as que podem ser feitas por robôs.

“A imagem do Papa não ensina a gente sobre o futuro da IA, mas sobre o futuro das redes sociais. Assim como no passados tivemos uma curva de aprendizado para lidar com redes sociais (para dar um exemplo, quem não lembra de algum famoso deixando o número do celular pessoal aberto na rede), agora passaremos por uma nova curva de aprendizado. Não aprendemos ainda a lidar com textos falsos, agora teremos que aprender a lidar com imagens, vídeos e áudios falsos. A imagem do Papa é relevante nessa discussão por ser algo simplório. Apesar da relevância, não é um disco voador ou um pé grande. Em um mundo que beira o surreal, o pontífice usando uma roupa da moda ou o Trump sendo preso são possíveis, ainda q improváveis. Teremos que aprender a lidar com isso, e rápido”, diz Ricardo Cavallini, professor da Singularity University.

De acordo com Julia Pazos, sócia e head da área de Propriedade Intelectual, Inovação, Tecnologia e Privacidade de Dados de DSMA Azulay, um dos maiores desafios deste episódio, em relação à direito autoral, diz respeito a eventual violação de direitos de terceiros. “Como o Midjourney utiliza como referência várias imagens, de outros autores, e não há a garantia que tais imagens estão em domínio público ou foram licenciadas, existe uma possibilidade de infração de direitos autorais nas imagens geradas pelo app. Por mais que possa existir um processo criativo que diferencie o resultado da imagem gerada por IA das imagens originais, não temos como descartar que os autores de eventuais imagens usadas como “base” se sintam ofendidos por terem tido suas obras alteradas. Importante lembrar que a Lei de Direitos Autorais Brasileira garante que o autor tem o direito moral de manter sua obra íntegra”, explica Julia.

“Sem dúvidas este e outros episódios trazem a propriedade intelectual para o centro das discussões. Toda e qualquer criação, seja ela humana ou feita por uma Inteligência Artificial, deve seguir os preceitos legais e garantir que não haja qualquer tipo de violação de direitos de terceiros. Temos visto o uso indiscriminado e a reprodução de imagens e de obras artísticas como se a internet fosse “terra de ninguém” e a Inteligência Artificial não tivesse compromisso. Nenhuma dessas premissas é verdadeira. De acordo com a Lei Brasileira o uso de uma obra precede de autorização, caso contrário, há violação. Além disso, fundamentos básicos como, por exemplo, a necessidade de uma autorização prévia e por escrito para usar a imagem de uma pessoa (seja ela figura pública ou não) está sendo esquecida. Isso nos mostra que falta conhecimento sobre os limites legais, especialmente relacionados a propriedade intelectual e ao direito de imagem, no âmbito da economia dos criadores de conteúdo e no uso de novas tecnologias”, conclui a sócia da DSMA Azulay.