Centro de Combate ao Ódio Digital denuncia amplificação algorítmica de conteúdo prejudicial destinado a menores, apesar de remoções superficiais pelas plataformas
Exposição precoce a conteúdo nocivo
Um estudo do Center for Countering Digital Hate (CCDH) revela que o algoritmo do TikTok expõe adolescentes, inclusive novos utilizadores, a conteúdos relacionados com automutilação e transtornos alimentares num espaço de minutos após a inscrição. Contas criadas com perfil de utilizador de 13 anos receberam conteúdo sobre suicídio em apenas 2,6 minutos, e vídeos relacionados com transtornos alimentares em cerca de 8 minutos. Para contas consideradas “vulneráveis” (criadas com termos como “loseweight” no nome), essa exposição foi até 12 vezes superior à de utilizadores padrão.
No YouTube, um em cada três vídeos recomendados (33 %) a uma conta simulação de criança de 13 anos continha conteúdo sobre transtornos alimentares, e quase dois terços (cerca de 66 %) relacionavam-se a transtornos alimentares ou perda de peso. Aproximadamente 5 % envolviam conteúdo sobre automutilação ou suicídio.
Insuficiência das medidas implementadas pelas plataformas
O CCDH considera que as ações recentes – como a remoção de mais de meio milhão de vídeos associados à hashtag “#SkinnyTok” no TikTok – são insuficientes, uma vez que não corrigem o funcionamento profundo do algoritmo. Segundo os investigadores, embora conteúdos tenham sido removidos, a plataforma continua a privilegiar o envolvimento do utilizador acima da segurança mental dos jovens.
Em resposta, o TikTok afirma ter eliminado 98 % do conteúdo prejudicial à saúde mental identificado em investigação anterior e destacou a colaboração com a Organização Mundial da Saúde (OMS) para fornecer informação credível e encaminhar utilizadores para fontes validadas. Contudo, o CCDH sustenta que tais medidas não alteram o facto do algoritmo continuar a promover intensivamente conteúdo nocivo a utilizadores vulneráveis.
Efeitos estatísticos e risco replicado
Os dados estatísticos do estudo CCDH indicam:
-
56 hashtags ligadas a transtornos alimentares no TikTok com mais de 13,2 mil milhões de visualizações;
-
Para o YouTube, análise de 1 000 recomendações a utilizadores simulados de 13 anos concluiu que 344 vídeos (33 %) eram sobre transtornos alimentares prejudiciais, 638 (63,8 %) abordavam transtornos ou perda de peso, e 50 vídeos (5 %) envolviam self-harm ou suicídio, frequentemente com audiência média de aproximadamente 388 000 visualizações por vídeo.
Influência algorítmica e amplificação do risco
O CCDH destaca que os algoritmos dessas plataformas foram desenhados com foco na retenção do utilizador, não na proteção da saúde mental: o sistema “For You” do TikTok e as recomendações do YouTube são projetadas para fisgar o interesse do utilizador a qualquer custo, independentemente da natureza do conteúdo.
Consequentemente, mesmo que plataformas removam conteúdos nocivos, o “efeito tração algorítmica” permanece, pois este continua a empurrar utilizadores vulneráveis para vídeos cada vez mais extremos.
Quadro regulatório e recomendações da UE
A União Europeia, no âmbito da Lei dos Serviços Digitais (DSA), tem exigido maior transparência e responsabilidade das plataformas sobre os seus sistemas de recomendação, sobretudo no que toca ao impacto em menores. A Comissão Europeia solicitou recentemente à TikTok e ao YouTube orientações e informações sobre os riscos ligados ao seu design algorítmico e à sua influência em utilizadores jovens counterhate.com. No entanto, o CCDH considera que a legislação ainda não foi efetiva o suficiente para forçar mudanças de fundo no modo como as plataformas operam.
Necessidade de reformas profundas
Apesar dos anúncios das empresas de exclusão de conteúdos e colaboração com organismos de saúde, o CCDH conclui que as medidas atualmente implementadas pelo TikTok e YouTube não são suficientes para proteger adolescentes. O grau de exposição precoce e intensiva a conteúdos de automutilação e distúrbios alimentares — impulsionado por algoritmos que favorecem envolvimento acima de segurança — persiste como uma ameaça grave à saúde mental dos utilizadores jovens. Reformas estruturais, transparência algorítmica e responsabilidade real, exigidas pela DSA, são imperativas para travar esta amplificação prejudicial.
