O CEO do BuzzFeed, Jonah Peretti, criticou o TikTok e a Meta, dona do Facebook e Instagram, em uma carta aberta aos respectivos CEOs, Zhang Yiming e Mark Zuckerberg. Ele afirmou que as empresas não “se importam mais com o conteúdo” e que, em vez disso, estão “mais interessadas em tecnologia e inteligência artificial“.
Peretti também sugeriu que as redes sociais priorizam conteúdos que geram raiva e emoções negativas para aumentar o engajamento dos usuários. O executivo destacou como a inteligência artificial e outras tecnologias transformaram as redes sociais — e possivelmente para pior.
Os comentários do executivo precederam o anúncio de que o BuzzFeed lançará sua própria plataforma, voltada para “espalhar alegria” e resgatar a “expressão criativa”
“As redes sociais utilizam cada vez mais técnicas avançadas de aprendizado de máquina – como redes neurais profundas e aprendizado por reforço – para moldar os feeds, moderar conteúdos e incentivar o engajamento dos usuários”, explicou o Dr. Pablo Rivas, professor assistente de Ciência da Computação na Baylor University.
Segundo Rivas, esses sistemas são excelentes para prever as preferências individuais e destacar conteúdos com mais potencial para engajamento. Por outro lado, inadvertidamente, isso pode alavancar conteúdos sensacionalistas ou polarizados. Mas não precisa ser assim.
“Se usada com critério, a IA pode ser uma força poderosa para interações online positivas, destacando contribuições factuais e importantes”, acrescentou Rivas. “O que exige um design algorítmico robusto e o compromisso com princípios éticos – transparência, equidade e respeito à autonomia dos usuários.”
A IA Está Eliminando o “Social”
Não faltam relatos sobre como a IA facilita a disseminação de desinformação, já que a tecnologia pode ser usada para criar imagens e vídeos enganosos.
“A IA desempenha um papel crucial na forma como enxergamos o mundo. Para o bem ou para o mal, os algoritmos possibilitaram um novo e incrivelmente lucrativo modelo de negócios – o capitalismo de vigilância – no qual as plataformas espionam os usuários para atender aos seus vieses, impulsos, medos e desejos”, alertou o Dr. Arthur O’Connor, diretor acadêmico de ciência de dados na City University of New York School of Professional Studies.
Com um número crescente de pessoas dependentes das redes sociais para acessar notícias e informações no geral, a capacidade da IA de manipular o que os usuários veem e leem é uma grande preocupação.
“Assim como em algumas distopias, como Skynet ou Matrix, o maior risco da IA não é como nós alteramos a tecnologia, mas como ela nos altera”, acrescentou O’Connor. “Quando algoritmos geram instantaneamente conteúdos otimizados para o consumo rápido, isso cria um ciclo vicioso: períodos de atenção mais curtos levam à demanda por conteúdos mais simples, o que reduz ainda mais a atenção. Logo, à medida que as máquinas ficam mais inteligentes, a maioria de nós pode ficar mais burra.”
O’Connor observou que os psicólogos chamam isso de “descarregamento cognitivo“, ou seja, a tendência de depender de ferramentas externas em vez de desenvolver habilidades internas.
“Em vez de resolver um problema por conta própria, simplesmente pedimos uma resposta imediata à IA”, continuou. “Com isso, corremos o risco de atrofiar nosso pensamento crítico e raciocínio – assim como a calculadora fez com nossas habilidades aritméticas, os smartphones fizeram com a nossa memória de números de telefone e a navegação por GPS está fazendo com nosso senso de direção.”
Além disso, chatbots e assistentes virtuais simulam interações sociais sem os desafios e as oportunidades de crescimento proporcionados pelo diálogo humano real, criando uma pseudo-socialização que pode agravar o isolamento e a solidão.
“O uso da IA nas redes sociais certamente não criou a fragmentação e o isolamento social dos nossos tempos, mas claramente não está ajudando a melhorar a situação”, sugeriu O’Connor.
Os Desafios na Implementação da IA
A IA tem potencial para melhorar as redes sociais, mas isso exigiria mudanças fundamentais.
As plataformas precisam repensar como utilizam a IA, disse o Dr. Mel Stanfill, professor associado do Programa de Textos e Tecnologia e do Departamento de Inglês da Universidade da Flórida Central.
“O algoritmo de recomendação teria que ser otimizado não apenas para a atenção, mas para publicações que resultam em conversas produtivas e respeitosas”, destacou Stanfill.
“Isso poderia ser desenvolvido e implementado, mas vai contra os interesses das plataformas, que priorizam a retenção da atenção acima de tudo”, acrescentou Stanfill. “Da mesma forma, na moderação de conteúdo, trata-se de um jogo de gato e rato: à medida que as plataformas mudam suas táticas para reduzir o uso nocivo, as pessoas que querem se prejudicar mutuamente também mudam suas estratégias. No entanto, é totalmente possível usar o julgamento humano para compreender essas questões e ajustar os algoritmos de moderação de conteúdo com base nesse entendimento.”
Em outras palavras, a IA generativa não é, por natureza, uma tecnologia prejudicial, e pode fazer coisas incríveis. No entanto, como muitas outras ferramentas, pode ser mal utilizada e, por isso, precisa de supervisão humana.
“Essas técnicas basicamente desempenham o mesmo papel que os moderadores humanos de conteúdo em algumas das principais empresas de redes social e internet, removendo discursos de ódio do conteúdo gerado pelos usuários – embora muitas empresas tenham recentemente abandonado esses esforços”, disse O’Connor.
Além disso, parte desse treinamento pode ser demorado e exigir equipes grandes para realizá-lo.
“Isso é caro, em comparação a simplesmente deixar o aprendizado de máquina operar sozinho, mas contribuiria muito para o uso positivo da tecnologia“, continuou Stanfill.
A questão final é qual deve ser o papel das empresas na regulamentação de conteúdos que tenham o envolvimento da IA.
“O favorecimento de qualquer tipo de ponto de vista entra em conflito com o princípio da liberdade de expressão, embora haja muitas evidências de que grandes veículos de notícias também carregam certo grau de viés político”, afirmou O’Connor. “No fim das contas, trata-se do que os próprios usuários escolhem postar, assinar e ler.”
