Conteúdo gerado por inteligência artificial (IA) está sendo utilizado para sexualizar e ridicularizar pessoas com deficiência em plataformas como TikTok e Instagram. Uma pesquisa do Laboratório de Estudos sobre Desordem Informacional e Políticas Públicas (DesinfoPop), da Fundação Getulio Vargas (FGV), identificou que buscas por termos como “síndrome de Down”, “autismo” e “nanismo” levam a uma série de vídeos criados com IA que objetificam ou zombam dessas condições. Em muitos casos, os perfis que publicam esse material direcionam os usuários para grupos no Telegram e páginas de venda de conteúdo adulto.
Os vídeos manipulados por IA exploram as deficiências como uma estratégia de atração e diferenciação comercial. No entanto, a pesquisa revelou que, em diversas situações, as mulheres retratadas nos conteúdos adultos não possuem a deficiência alegada, sendo a condição uma montagem artificial. Em alguns casos, o conteúdo adulto sequer existe, servindo apenas como isca para aplicar golpes financeiros.
Para especialistas, o impacto mais significativo dessa prática recai sobre as pessoas com deficiência. Ao transformar suas condições em fetiche ou utilizá-las para ridicularização, essas publicações reforçam o capacitismo, naturalizam a objetificação e causam prejuízos emocionais e psicológicos. A facilidade com que esse conteúdo é encontrado é um dos aspectos mais preocupantes, segundo Ergon Cugler, pesquisador da FGV e integrante do DesinfoPop. “O algoritmo escolhe privilegiar conteúdos nocivos em vez de entregar vídeos educativos, democráticos ou simplesmente explicando essas condições. Isso mostra o quanto naturalizamos um comportamento que, fora do ambiente digital, seria considerado inaceitável”, afirma.
Algoritmos e a Facilitação da Disseminação
O levantamento da FGV aponta que os algoritmos das plataformas, especialmente o do TikTok, têm um papel crucial na amplificação desse tipo de conteúdo. Ao digitar “síndrome de Down”, por exemplo, o próprio TikTok sugere buscas como “síndrome de Down gata”, o que, segundo os pesquisadores, não é acidental. Essa prática reflete as escolhas de design dos algoritmos, que tendem a priorizar conteúdos com alto engajamento, independentemente de seu impacto ético ou social. A pesquisa identificou que os vídeos são publicados no TikTok e Instagram, mas a comercialização e o pagamento frequentemente ocorrem via Telegram, plataforma com menor moderação.
Além da sexualização, a pesquisa também identificou vídeos de IA que fazem piadas com pessoas com deficiência, autismo e nanismo, apresentando-as de forma caricatural e pejorativa. Em alguns casos, são simuladas pessoas com deficiência intelectual em cadeiras de rodas, frequentemente homens negros e pardos, acompanhadas de afirmações ofensivas sobre suas condições.
Responsabilidade das Plataformas e Impactos na Saúde Mental
O TikTok informou que o conteúdo encaminhado pela reportagem foi removido por violar suas diretrizes, que proíbem publicações que degradem indivíduos com base em aparência, inteligência ou condição médica. A plataforma declarou que seu sistema de moderação atua continuamente e que, no quarto trimestre de 2023, removeu proativamente 99,1% dos conteúdos que violaram suas políticas. O Telegram afirmou não permitir a distribuição de imagens íntimas não consensuais, incluindo deepfakes, e que seus moderadores monitoram a plataforma com ferramentas de IA e denúncias de usuários. A Meta, controladora do Instagram, e o X (antigo Twitter) não comentaram o assunto até a publicação da reportagem.
Especialistas alertam para os riscos à saúde mental das pessoas com deficiência. Ser reconhecido apenas por sua condição, e não por sua individualidade, afeta diretamente a autoestima, o senso de identidade e a forma como constroem relações afetivas. As consequências podem incluir transtornos de imagem, ansiedade, depressão, isolamento e dificuldade para criar vínculos. Contudo, é fundamental não negar a sexualidade dessas pessoas, que têm direito a vivenciá-la e a serem desejadas, conforme ressalta o psiquiatra Lucas Naufal.
A legislação brasileira, através do Marco Civil da Internet, não obriga as plataformas a monitorarem previamente todo o conteúdo. No entanto, decretos recentes têm introduzido o conceito de “dever de cuidado”, sugerindo que as empresas possam agir preventivamente em situações específicas para interromper a circulação de conteúdos ilícitos. A definição exata dos limites dessa obrigação e a busca por critérios objetivos para combater conteúdos manifestamente ilícitos sem ampliar excessivamente o poder de moderação das empresas permanecem como desafios para a regulamentação.
