Quais os impactos de uma epidemia de deepfake?

Shantanu Narayen, CEO da Adobe, fala sobre as responsabilidades da empresa em lidar com fake news e conteúdo suspeito na internet em tempos de eleições

Aayushi Pratap
Compartilhe esta publicação:
Reprodução
Reprodução

Shantanu Narayen, CEO da Adobe

Acessibilidade


Imagine um vídeo deepfake da presidente da Câmara, Nancy Pelosi, em que seu discurso é intencionalmente arrastado e as palavras que ela usa são alteradas para transmitir uma mensagem ofensiva para um grande número de eleitores. Agora imagine que a tecnologia usada para criar o vídeo é tão sofisticada que parece completamente real, tornando a manipulação indetectável, ao contrário dos deepfakes desajeitados de Pelosi que circularam – e foram rapidamente desmascarados – em 2020 e 2021. Qual seria o impacto de tal vídeo sobre disputas acirradas na Câmara em uma eleição de meio de mandato?

Esse é o dilema que a Adobe, fabricante das ferramentas mais populares do mundo para edição de fotos e vídeos, enfrenta ao passar por uma revisão completa e redesenho de seu mix de produtos usando inteligência artificial e técnicas de aprendizado profundo. Isso inclui atualizações para o software Photoshop exclusivo da empresa e a ferramenta de edição de vídeo Premiere Pro. Mas também é verdade que “photoshop” algo agora é um verbo com conotações negativas – uma realidade com a qual o CEO da Adobe, Shantanu Narayen, está muito familiarizado.

Leia mais: O que é deepfake e quais os usos possíveis dessa tecnologia?

“Você pode argumentar que a coisa mais importante na internet agora é a autenticação de conteúdo”, disse Narayen à Forbes. “Quando criamos o conteúdo do mundo, [temos que] ajudar com a autenticidade deste conteúdo ou a proveniência desse conteúdo.”

Então, três anos atrás, a Adobe lançou algo chamado Content Authenticity Initiative, começando com um punhado de parceiros do setor de mídia e tecnologia. É uma empresa que cresceu para abranger mais de 700 empresas, com eventos globais para divulgar o impulso pela “proveniência”, como Narayen, de 59 anos, chama – em que designers e consumidores de conteúdo podem, se quiserem, criar e rastrear uma trilha digital que mostre quem é responsável por um determinado vídeo ou imagem e quaisquer alterações feitas nele.

Inscreva-se para receber a nossa newsletter
Ao fornecer seu e-mail, você concorda com a Política de Privacidade da Forbes Brasil.

Deepfakes são apenas uma das dores de cabeça de Narayen. A Adobe registrou US$ 15,8 bilhões (R$ 83,71 bilhões) em vendas em 2021 (ano fiscal que termina em 3 de dezembro), mas a orientação da empresa com sede em San Jose ficou abaixo das estimativas de Wall Street nos últimos dois trimestres. Culpe os suspeitos de sempre: taxas de juros crescentes, problemas na cadeia de suprimentos e embargos de negócios na Rússia e na Bielorrússia. Desde o pico de US$ 688 (R$ 3,645) por ação em novembro, as ações da Adobe caíram 47%, para US$ 366 (R$ 1939) recentes, contra uma queda de 26% na Nasdaq. “A empresa ainda está crescendo, mas está vendo uma desaceleração significativa”, diz Cornelio Ash, analista da William O’Neil & Co. Inc.

Durante anos, a Adobe se apoiou em um conjunto de produtos emblemáticos veneráveis, que ela agrupa como seu grupo de Mídia Digital, para gerar a maior parte de sua receita. Produtos como Photoshop (lançado pela primeira vez em 1990), Illustrator (1987), Premiere Pro (2003) e Acrobat (1993) geraram 73% de sua receita em 2021. Mas, apesar de uma transição bem-sucedida para a nuvem, esses negócios estão desacelerando. A receita recorrente anual do grupo tem historicamente um crescimento médio de cerca de 20%, mas no trimestre mais recente da Adobe desacelerou para 15,5%, diz Ash.

Depois, há o Digital Experience, lançado em 2012. Esses são serviços que a Adobe fornece às empresas analisando as “pegadas digitais” de seus clientes – ou seja, rastreando o comportamento das pessoas online – digamos, quanto tempo elas passam em uma página da web específica e quais produtos visualizaram.

“Se você esteve envolvido ou interagindo com um cliente e ainda não age como se conhecesse o cliente, não há nada mais frustrante do que essa experiência”, diz Narayen. É isso que a empresa quer mudar com seu negócio de Experiência Digital. Embora este seja o segmento de crescimento mais rápido da Adobe, gerando US$ 4 bilhões (R$ 21,19 bilhões) em vendas em 2021, um aumento de 24% ano a ano, ele enfrenta intensa concorrência de empresas como Salesforce e Google.

A Adobe também enfrenta uma concorrência crescente de rivais menores, como a plataforma de design gráfico australiana Canva e a Docusign, com sede nos EUA. “A Adobe demorou um pouco para responder ao espaço de mercado que o Canva buscava, um espaço que na verdade não era de designers profissionais”, diz Chris Ross, analista do Gartner.

Muito mais barato, a partir de apenas US$ 120 (R$ 635,80) por ano, e mais fácil de usar do que as ofertas da Adobe, o Canva evoluiu rapidamente para uma ameaça real. Afinal, quem quer pagar US$ 600 (R$ 3,178) por ano por uma assinatura do Creative Suite – e passar horas aprendendo o Illustrator – apenas para criar um menu ou um convite de casamento? Em setembro, o Canva, que tem menos de uma década, foi avaliado em US$ 40 bilhões (R$ 211 bilhões). Melanie Perkins, a CEO de 35 anos, vale atualmente cerca de US$ 6,5 bilhões (R$ 34 bilhões).

A Adobe está respondendo. Em dezembro, lançou o Creative Cloud Express, um novo aplicativo – ainda mais barato que o Canva – voltado para usuários iniciantes, de estudantes a influenciadores de mídia social. Mais amplamente, a atitude da empresa é tudo menos complacente. A Adobe montou um esforço para reinventar todos os seus produtos usando inteligência artificial e técnicas de aprendizado profundo – uma iniciativa conhecida internamente como “AI First” – que pode tornar possíveis edições demoradas no Photoshop em minutos, em vez de horas. “A IA fornece recursos como substituição do céu, que está em um clique de um botão, você está mudando de azul para cinza”, diz Dana Rao, conselheiro geral e diretor de confiança da Adobe. “Então você pode entrar e fazer ajustes minuciosos, mas é uma tarefa muito mais rápida.”

Em 2016, a empresa lançou o Adobe Sensei, um conjunto de recursos que, entre outras coisas, permite aos usuários se livrar de objetos indesejados de imagens de vídeo, suavizar o tom de pele, alterar a expressão facial e alterar o tom de voz com grande facilidade.

Leia mais: Bom uso de Deepfake amplia horizontes para o marketing, saúde e entretenimento

É claro que as mesmas ferramentas podem fazer a ficção parecer fato. Rao se lembra de ter sentado com o diretor de produtos da empresa, Scott Belsky, três anos atrás: “Estávamos analisando todas as inovações que tínhamos na edição de IA, e ambos tivemos o mesmo pensamento ao mesmo tempo: muito em breve, porque a IA pode ser mais poderoso do que a edição humana, você não será capaz de distinguir fato de ficção, realidade de realidade artificial.

O impulso de autenticidade de conteúdo é uma resposta a esse problema. Outro é um extenso processo interno, presidido por Rao, para submeter novos recursos e produtos da Adobe a rigorosas revisões de ética — um processo que às vezes impede que o trabalho das equipes de engenharia da Adobe seja divulgado ao público. Por exemplo, diz Rao: “No lado da imagem, quando pensamos em colocar IA em nossa tecnologia, temos que pensar se ela foi treinada em um conjunto diversificado de imagens, conjuntos de dados, para que a saída seja respeitosa a todos os tipos das pessoas que o utilizam.”

Abhishek Gupta, fundador do Montreal AI Ethics Institute, acredita que anexar “rótulos de verdade” ao conteúdo não fará muita diferença. O público partidário de conteúdo alterado muitas vezes quer desesperadamente acreditar que é genuíno – apesar de todas as indicações em contrário. “Conteúdo falso é adaptado para pessoas que têm interações rápidas com muito pouco tempo gasto para julgar se algo é autêntico ou não”, diz Gupta.

Em última análise, diz Narayen, da Adobe, os próprios consumidores têm a obrigação de buscar a verdade – usar as ferramentas disponíveis para verificar se as imagens e os vídeos que visualizam, compartilham, postam e retuítam são reais. “Eles também têm essa responsabilidade, não diferente de qualquer outra responsabilidade que um consumidor tenha – garantir que eles estejam sendo protegidos.”

>> Inscreva-se ou indique alguém para a seleção Under 30 de 2022

Compartilhe esta publicação: