A Forbes acompanhou centenas de transmissões ao vivo recentes do TikTok e revela como os espectadores usam regularmente os comentários para incitar as meninas a realizar atos que parecem seguir a linha da pornografia infantil
“Vocês estão pagando minhas contas,” MJ disse ao público, correndo um dedo sobre sua boca. “US$ 35 (R$ 172,87 na cotação atual) por um flash [mostrar rapidamente uma parte do corpo]”, respondeu um espectador. Outro perguntou quanto enviar para o Cash App dela. Enquanto ela posava e franzia os lábios, seus longos cabelos loiros caídos sobre seu sutiã preto apertado, alguns pediram a MJ que mostrasse seus pés.
“Tenho 68 anos e você me deve uma”, disse um participante à medida que mais pedidos se acumulavam.
Essas trocas não ocorreram entre adultos em uma boate; eles aconteceram em uma live do TikTok, onde MJ, que disse ter 14 anos, estava fazendo uma transmissão com amigos para 2.000 estranhos em uma noite de sábado recente.
A Forbes acompanhou centenas de transmissões ao vivo recentes do TikTok e revela como os espectadores usam regularmente os comentários para incitar as meninas a realizar atos que parecem seguir a linha da pornografia infantil – recompensando as que fazem o favor com presentes do TikTok, que podem ser trocados por dinheiro, ou pagamentos fora da plataforma para contas Venmo, PayPal ou Cash App que os usuários listam em seus perfis do TikTok.
Leia mais: Saiba quem são os TikTokers mais bem pagos do momento
É “o equivalente digital de ir para um clube de striptease cheio de jovens de 15 anos”, diz Leah Plunkett, reitora assistente da Harvard Law School e associada do corpo docente do Berkman Klein Center for Internet & Society de Harvard, focado em jovens e mídia. Imagine uma junta local colocando um bando de menores em um palco diante de um público adulto ao vivo que está dando dinheiro a eles para fazerem qualquer atividade que eles pedem, disse ela. “Isso é exploração sexual. Mas é exatamente isso que o TikTok está fazendo aqui.”
As transações estão acontecendo em um fórum público online aberto a espectadores em quase qualquer lugar do planeta. Algumas das exigências são explícitas – como pedir que as meninas se beijem, abram as pernas ou pisquem para a câmera – e algumas mais difíceis de detectar, mascaradas com eufemismos. Os comentaristas dizem “verificação de roupa” para obter uma visão completa do corpo de uma garota, “verificação de pedicure” para ver seus pés, “há uma aranha na sua parede” para fazer as garotas se virarem e mostrarem o bumbum, e “brincar de jokenpô” para encorajar as meninas a flertar, brigar ou lutar umas com as outras. Frases como “coloque os braços para cima” ou “toque no teto” são frequentemente dirigidas a garotas em tops curtos para que os espectadores possam ver seus seios e barrigas. E muitos simplesmente convencem as garotas a mostrarem suas línguas e umbigos ou plantarem bananeira e espacates. Em troca, as meninas recebem presentes virtuais, como flores, corações, casquinhas de sorvete e pirulitos, que podem ser convertidos em dinheiro.
Os usuários do TikTok dos EUA devem ter pelo menos 18 anos para enviar ou receber presentes através das lives que podem ser transformados em dinheiro, e os menores de 16 anos não podem fazer transmissões ao vivo, de acordo com as regras da empresa. “O TikTok tem políticas e medidas robustas para ajudar a proteger a segurança e o bem-estar dos adolescentes”, disse um porta-voz da empresa. Isso inclui configurar contas com menos de 16 anos como “privadas” por padrão e restringi-las de usar mensagens diretas. “Revogamos imediatamente o acesso a recursos se encontrarmos contas que não atendem aos nossos requisitos de idade.”
A empresa disse por e-mail que também remove conteúdo contendo atividades sexuais ou tentativa de solicitação e que tem uma política de tolerância zero para material de abuso sexual infantil. Algumas das contas que hospedavam transmissões ao vivo vistas pela Forbes não estavam mais ativas várias semanas depois.
As preocupações do governo dos EUA e dos reguladores sobre aplicativos focados em jovens, como o TikTok, estão se intensificando. Em seu primeiro discurso sobre o Estado da União em março, o presidente Joe Biden pediu a Washington que “responsabilize as plataformas de mídia social pelo experimento nacional que estão realizando com nossos filhos para obter lucro”. E embora o TikTok tenha sido poupado das piores críticas que choveram sobre o Meta, antigo Facebook, o aplicativo de vídeo de propriedade chinesa está começando a atrair mais escrutínio pelos perigos que especialistas dizem que representa para menores.
Em março, um grupo bipartidário de procuradores gerais do Estado lançou uma investigação sobre os supostos danos do TikTok a usuários menores de idade e, de acordo com o Financial Times, o Departamento de Segurança Interna está investigando o manuseio da plataforma de material de abuso sexual infantil. Um porta-voz do TikTok disse que “[nós] apreciamos que os procuradores gerais do Estado estejam se concentrando na segurança dos usuários mais jovens” e a empresa está cooperando. Mas o TikTok não estava ciente da investigação da Segurança Interna, disse ela. O departamento não respondeu a vários pedidos de comentários da Forbes.
Após uma investigação do Congresso sobre como a Meta e o Instagram podem prejudicar crianças e adolescentes – motivada por revelações de um denunciante da Meta no outono passado – os legisladores em outubro pela primeira vez chamaram um executivo do TikTok para testemunhar sobre suas próprias políticas para usuários menores de idade. Mas, mais de seis meses depois, o Congresso fez pouco progresso em sua promessa de reformar as leis de privacidade online para crianças. (O Instagram, da Meta, se recusou a comentar esta história.)
Leia mais: TikTok pode tirar a liderança do YouTube? Para o eMarketer, sim
Uma disposição da lei federal muito contestada chamada Seção 230 da Lei de Decência das Comunicações, que protege as empresas de internet da responsabilidade legal por hospedar e moderar conteúdo que os usuários postam em suas plataformas, poderia proteger o TikTok de grande parte da atividade que acontece nas lives.
Nos casos em que qualquer transmissão ao vivo contenha material de abuso sexual infantil ou tráfico sexual, as leis criminais federais se aplicariam independentemente da Seção 230, diz Jeff Kosseff, professor de direito de segurança cibernética da Academia Naval dos EUA e autor de “The Twenty-Six Words That Created the Internet”, um livro sobre a Seção 230. Mas muitas das atividades questionáveis e presentes no TikTok Live ficam aquém dessas coisas.
A ex-procuradora federal Mary Graw Leary disse que “o problema fundamental da Seção 230” é que ela permite que as plataformas de mídia social escapem e até monetizem muitos dos mesmos danos que poderiam resultar em uma ação judicial para um negócio de tijolo e argamassa. — simplesmente porque estão acontecendo online.
TikTok, onde os presentes mudam de mãos
O popular aplicativo de mídia social mais conhecido por seus vídeos alegres de rotinas de dança é, sob a superfície, uma vaca leiteira – onde dinheiro e presentes são frequentemente enviados por adultos para menores. Os principais especialistas jurídicos, policiais e de segurança infantil disseram à Forbes que essa atividade em transmissões ao vivo pode permitir que predadores preparem alvos para abuso sexual e sextortion online ou offline, alertando sobre as consequências do acesso irrestrito aos quartos e banheiros das meninas, onde a maior parte das transmissões ocorre.
“É assim que começa”, disse John Shehan, vice-presidente do Centro Nacional para Crianças Desaparecidas e Exploradas, que compartilha dicas de empresas de tecnologia sobre suspeita de exploração sexual infantil em suas plataformas com as autoridades. A conexão extraordinariamente íntima criada pelo TikTok Live pode servir como uma maneira de os predadores testarem limites e construirem relacionamento com possíveis alvos ao longo do tempo, sendo o objetivo final obter imagens e vídeos explícitos ou potencialmente se encontrar para sexo.
A situação pode “passar rapidamente de imagens dos pés, seja uma compensação monetária ou apenas o fato de que eles estão dispostos a tirar essas imagens, que se movem da plataforma para outras plataformas ou outros ambientes onde eles continuam a pedir fotos adicionais, mais sexualmente sugestivas, que rapidamente se transformam em imagens pornográficas “, disse ele. “E então, antes que você perceba, é um caso de sextortion”.
Os usuários do TikTok gastaram mais de US$ 2 bilhões (R$ 9,88 bilhões) no aplicativo em 2021, um aumento de US$ 1 bilhão (R$ 4,94 bilhões) em relação ao ano anterior, de acordo com a empresa de análise de dados SensorTower. O TikTok se recusou a comentar sobre quanto disso foi gasto especificamente nas transmissões. Quem acompanha as lives pode comprar moedas do TikTok que podem ser usadas para comprar e enviar presentes digitais para os donos das transmissões ao vivo. Por sua vez, aqueles que “estão ao vivo” podem vincular suas contas TikTok e bancárias para trocar esses itens virtuais por dinheiro real.
O TikTok está longe de ser a única plataforma de mídia social a permitir pagamentos ou presentes virtuais entre usuários, ou oferecer recursos de transmissão ao vivo. Mas sua escala e base de usuários jovem diferenciam o TikTok dos rivais, de acordo com o diretor de tecnologia do Stanford Internet Observatory, David Thiel, tornando o problema da plataforma com conteúdo ao vivo, e a monetização dele, ainda mais agudo.
Quase metade dos menores nos EUA usa o TikTok pelo menos uma vez por dia, constatou a Thorn, uma organização sem fins lucrativos que luta contra o abuso sexual infantil, em um estudo de 2020 com jovens de 9 a 17 anos. No último trimestre de 2021, o TikTok removeu mais de 15 milhões de contas suspeitas de terem menos de 13 anos (a idade necessária para usar sua plataforma principal) e quase 86 milhões de vídeos que violavam suas regras, de acordo com seu relatório mais recente. Quase metade dos vídeos removidos durante esse período foram removidos por violações de políticas relacionadas à segurança de menores.
Snap, Instagram e YouTube – outros destinos populares para crianças e adolescentes – também foram criticados por expor usuários menores de idade a situações perigosas ou insalubres. (Snap se recusou a comentar. Um porta-voz do YouTube disse que os usuários devem ter pelo menos 13 anos ou ter permissão dos pais ou responsáveis para usar a plataforma e destacou suas políticas que proíbem transmissões ao vivo, vídeos e comentários que exploram ou colocam menores em risco.) Menores dizem que a maioria das interações potencialmente prejudiciais que eles experimentam online, incluindo sexuais, acontecem nessas plataformas e no TikTok, de acordo com a Thorn.
E essas trocas geralmente geram material que pode nunca desaparecer, já que capturas de tela e gravações se espalham pelas principais plataformas da Internet. A Internet Watch Foundation diz que encontrou um monte de imagens de abuso sexual infantil de transmissões ao vivo sendo redistribuídas em sites de terceiros.
“O desafio é: vai para todo o mundo depois disso”, diz Peter Gentala, consultor jurídico sênior do Centro Nacional de Exploração Sexual. Os predadores em transmissões ao vivo podem “abusar no momento, capturar a tela, depois usar isso para seus próprios propósitos e ganhar dinheiro com isso na Internet, seja na dark web ou em outros lugares onde é negociado abertamente”.
Lina Nealon, que lidera os esforços de responsabilidade corporativa da organização, acrescentou que ter contas do Venmo, PayPal ou Cash App listadas no perfil do TikTok de uma pessoa – como muitas mulheres jovens no aplicativo fazem – às vezes pode ser um indicador de tráfico, sugerindo aos compradores que esse indivíduo, ou seus materiais sexualmente explícitos, podem estar à venda. O TikTok disse que, se identificar tentativas de direcionar os espectadores de lives para outras plataformas para fins de solicitação sexual, encerrará imediatamente a transmissão e tomará medidas de execução na conta do host.
Quid pro quo adolescente
Ella baixou as luzes e apoiou o telefone na frente do corpo – logo abaixo do queixo, para que seu rosto ficasse escondido – e pegou uma tesoura.
Muito lentamente, enquanto Ariana Grande tocava e quase 3.000 pessoas assistiam, ela começou a cortar pedaços de sua camiseta branca. Tira por tira, furo por furo, com cada corte revelando mais do peito e do sutiã preto, os comentaristas clamavam por mais e os presentes digitais afluíam – um fluxo constante de rosas, fogo, café e outros prêmios de desenho animado.
“SE VOCÊ CORTAR A PARTE PRETA, VOU ENVIAR 35.000 MOEDAS TIKTOK AO VIVO (US$ 400 – R$ 1.975,64)”, escreveu um espectador, pedindo que ela cortasse o sutiã. E outros: “Mostra um.” “Agora os shorts.” “Mais barriga.” “Continue bebê.” “Com 100k ela vai tirar tudo.” “Diga-me onde ir para que eu possa dar a atenção que você está realmente procurando.”
Embora Ella não tenha declarado sua idade na live, os comentaristas acharam que ela tinha entre 12 e 18 anos. Alguns, enfatizando o quão jovem ela parecia, brincaram que ela tinha 2 anos.
Apesar das restrições pretendidas do TikTok em relação à transmissão ao vivo e presentes para menores, verificar se os usuários têm, de fato, idade suficiente para usar determinados aplicativos ou recursos continua sendo um problema não resolvido em muitas plataformas de redes sociais, incluindo TikTok.
Madison, uma jovem de 17 anos da Carolina do Sul, disse à Forbes que alguns de seus amigos menores de idade estavam ganhando US$ 200 (R$ 987,82) por semana com os presentes que acumularam em suas transmissões ao vivo do TikTok. Embora ela ainda não possa receber presentes porque se inscreveu usando sua idade correta, Madison disse que isso não evita que receba comentários de “homens mais velhos tentando sexualizar garotas” e suas ofertas de dinheiro.
“PODEMOS VER CAMISA MARROM DE TOPLESS”, um comentarista perguntou enquanto Madison e sua amiga de camisa marrom respondiam a perguntas em uma live do TikTok no mês passado. Madison também foi convidada a “mostrar um pouco, por favor” e “ficar em cima da câmera”. Mesmo após o término de suas lives, alguns espectadores seguiram Madison através do Instagram (que ela vinculou ao seu TikTok) e se ofereceram para pagá-la para falar com eles.
“Sou menor e não gosto de homens de 40 anos dizendo isso para mim”, disse Madison. “Provavelmente há crianças bem mais novas do que eu na mesma situação.” Ela explicou os vários eufemismos que os comentaristas usam e acrescentou que “demorei um pouco para entender o que era, mas sinto que se uma garota tem 13 anos e realmente não sabe o que isso significa, ela pode achar que tudo bem”.
Alguns conteúdos nas lives podem não cruzar a linha de violação das regras da plataforma ou leis estaduais e federais, dizem os especialistas. Mas eles alertam que incentivar e recompensar financeiramente os menores – mesmo por fazer coisas que parecem relativamente inócuas – muitas vezes pode se transformar em situações mais exploratórias.
“Um investimento de US$10 (R$ 49,39) com uma criança para um infrator é um retorno fantástico porque é uma pequena quantia de dinheiro, faz com que a criança faça algo que provavelmente não faria, e então é quando o problema aparece – é aí que começa a sextortion real”, diz Austin Berrier, um agente especial da Homeland Security Investigations especializado em crimes cibernéticos transmitidos ao vivo e abuso sexual infantil.
Berrier diz que os pais com quem ele fala geralmente não estão cientes do que está acontecendo nas transmissões ao vivo e que quando o dinheiro trocado assume a forma de fotos divertidas, como é o caso do TikTok, fica ainda mais fácil não perceber o que está realmente acontecendo”, ele diz. “Não se encaixa na cabeça de uma criança, eu acho, que eles estão realmente sendo pagos” e “os pais realmente não param e pensam: ‘Ok, alguém está pagando meu filho para dançar. Eles estão apenas recebendo pequenas flores e pequenos corações.’ Isso permite que as pessoas separem isso.”
Um porta-voz do TikTok disse que a empresa “tem tolerância zero para material de abuso sexual infantil” e “quando encontramos qualquer tentativa de postar, obter ou distribuir material de abuso sexual infantil, removemos conteúdo, banimos contas e dispositivos, reportamos imediatamente ao NCMEC (National Center for Missing & Exploited Children, agência de proteção infantil dos EUA) e nos envolvemos com a aplicação da lei conforme necessário.” O TikTok disse que reportou mais de 150 mil vídeos potencialmente violadores para o NCMEC no ano passado.
A luta ao vivo
Apesar do acordo de ambos os lados do corredor de que mais deve ser feito para proteger crianças e adolescentes online, os legisladores não poderiam ser mais politizados sobre como as plataformas devem moderar o conteúdo e a melhor forma de alterar ou revogar a Seção 230.
Afora esse consenso, o TikTok e outros gigantes da tecnologia têm se autorregulado na moderação de conteúdo. Mas a indústria fez pouco progresso no crescente espaço de transmissão ao vivo.
As plataformas mostraram uma incapacidade de policiar comentários que fluem rapidamente com frequência nas transmissões ao vivo temporárias e depois desaparecem, diz Thiel, do Stanford Internet Observatory. E embora não seja difícil para a IA detectar e impedir discursos de ódio, eufemismos e palavras de código como as usadas com garotas no TikTok Live, a aplicação automatizada e em tempo real é um desafio, diz ele.
O TikTok tomou medidas para dar aos usuários mais controle sobre os comentários que recebem. A empresa anunciou este mês que começou a testar uma ferramenta que permite que os usuários “não gostem” de comentários que considerem inadequados. Os usuários também podem desativar os comentários que contenham certas palavras e atribua uma pessoa em quem confie para ajudá-los a gerenciar os comentários do público.
Ella Brown, caloura de uma faculdade perto de Kansas City, Missouri, disse que luta com a enxurrada de comentários no TikTok Live – e ela nem é menor de idade. “É super estranho que você não possa nem ficar ao vivo no TikTok sem esquisitões tentando tirar fotos de mulheres”, disse Brown, 18 anos, à Forbes, acrescentando que duvida que os homens que vão ao vivo sejam constantemente solicitados para uma “verificação de roupa”.
“Definitivamente, fique fora do Live se for uma menor de idade”, disse ela. Em apenas um TikTok Live no mês passado, Brown e sua colega de quarto levaram mais de 500 estranhos para sua casa (virtualmente), foram convidados a se encontrar pessoalmente com homens para jogar golfe (“velhos” da idade de seu pai) e foram oferecidos até US$ 50 (R$ 246,95) por fotos de seus pés (“eu não entendi nada”).
Brown disse que não aceitaria dinheiro por fotos de seus pés, mas outros certamente topariam. “US$ 20 é US$ 20 (R$ 98,78)”, disse ela. “Isso é café algumas vezes por semana.”
>> Inscreva-se ou indique alguém para participar da Lista Under 30 2022
