Enquanto o Facebook proíbe “deepfakes”, Snapchat e Tik Tok correm na direção oposta

gettyimages-Karrastock
“Deepfake” são vídeos falsos que usam inteligência artificial para gerar representações de eventos que nunca realmente aconteceram

O Facebook e outras empresas de mídia social dizem que estão tentando conter a disseminação de informações falsas antes das eleições presidenciais de 2020 nos EUA e recentemente promulgaram políticas contra os “deepfakes”. Os rivais Snapchat e TikTok, por outro lado, estão se interessando positivamente pelo assunto.

Ambas as redes sociais adotaram abertamente a controversa tecnologia de vídeo “deepfake”, ou vídeos falsos que usam inteligência artificial para gerar representações de eventos que nunca realmente aconteceram. Legisladores e tecnólogos temem que as simulações possam fazer as pessoas acreditarem que algo é real quando não é, manipulando eleitores com informações falsas. O CEO do Facebook, Mark Zuckerberg, chegou a chamar a tecnologia de “ameaça emergente” no Congresso no ano passado.

No entanto, a tecnologia também aumenta os filtros divertidos que o Snap usa para se envolver com seus 203 milhões de usuários. O aplicativo recebeu abertamente essa tecnologia na semana passada, quando adquiriu a AI Factory, uma startup de visão computacional que trabalhou recentemente com a empresa para criar o novo recurso Cameos do Snapchat, que depende da tecnologia deepfake. A companhia tem uma longa história de trabalho com esse tipo de tecnologia de câmera baseada em IA, começando com sua popular lente de câmera de troca de rosto que foi lançada em abril de 2016.

O TikTok também está adotando a tecnologia de vídeo deepfake. A empresa construiu um fabricante dessa tecnologia que permitirá que os usuários troquem rostos em vídeos gravados e que criem facilmente seus próprios deepfakes, digitalizando rostos de vários ângulos e escolhendo uma coleção de vídeos selecionados para sobrepor seu rosto. O vídeo resultante incluirá uma marca d’água para que as pessoas possam dizer facilmente que não é um vídeo real. Ainda assim, o recurso levanta questões sobre o que sua empresa-mãe chinesa Bytedance fará com todos os dados biométricos sensíveis que coleta.

LEIA MAIS: Os 10 casos mais urgentes contra a imprensa no mundo

O debate sobre deepfakes e desinformação foi reacendido na segunda-feira, quando o rival Facebook anunciou que está proibindo vários tipos de mídia manipulada e sintética, incluindo vídeos “deepfake”, antes da eleição presidencial de 2020.

O Facebook diz que removerá qualquer mídia que tenha sido editada ou sintetizada “de maneira que não seja aparente para uma pessoa comum” ou que provavelmente engane alguém. A nova política da empresa é semelhante à política de práticas enganosas do YouTube, que proíbe o uso de mídia manipulada quando apresenta “sérios riscos de danos”.

Em novembro, o Twitter anunciou seu plano de criar uma nova política para vídeos sintetizados e reuniu mais de 6.500 respostas durante um período de comentários abertos. A empresa diz que ainda está elaborando a política.

O Pinterest, a plataforma de mídia social aparentemente inócua, conhecida por projetos de bricolage e tutoriais de beleza, também adotou uma postura rígida contra a tecnologia “deepfake”. Um porta-voz da empresa disse à Forbes: “Desinformação e mentiras não são permitidas no Pinterest, e nós a removeremos se a encontrarmos, independentemente da mídia manipulada”.

Na manhã do dia 8 de janeiro, o TikTok emitiu uma proibição ampla de informações enganosas nas diretrizes da comunidade atualizadas nesta manhã. As regras antigas da empresa sobre conteúdo enganoso focavam principalmente em golpes. As novas diretrizes dizem explicitamente: “Também removeremos conteúdos distribuídos por campanhas de desinformação”

Siga FORBES Brasil nas redes sociais:

Facebook
Twitter
Instagram
YouTube
LinkedIn

Baixe o app da Forbes Brasil na Play Store e na App Store.

Tenha também a Forbes no Google Notícias.

Copyright Forbes Brasil. Todos os direitos reservados. É proibida a reprodução, total ou parcial, do conteúdo desta página em qualquer meio de comunicação, impresso ou digital, sem prévia autorização, por escrito, da Forbes Brasil ([email protected]).