X Continua Exibindo Imagens Sexuais de Menores Geradas por IA, Revela New York Times
Uma investigação do The New York Times revelou que o X ainda hospeda imagens sexuais de menores criadas por inteligência artificial, incluindo pelo assistente Grok. O Centro Canadense de Proteção às Crianças confirmou a utilização do Grok em pedidos de conteúdo explícito, com mais de 75 imagens identificadas no primeiro semestre de 2026, apesar das restrições e da política de tolerância zero da plataforma.
:quality(85)/e8b0eb08-a9cc-4735-9dc0-a813d3bd20e8.png)
NOVA YORK, EUA - Uma investigação do jornal The New York Times identificou que o X, a plataforma de rede social anteriormente conhecida como Twitter, ainda exibe imagens sexuais de menores de idade geradas por inteligência artificial. Entre as criações problemáticas estão conteúdos feitos pelo Grok, o assistente de IA integrado à própria rede social.
Grok Envolvido na Criação de Conteúdo Explícito
O Centro Canadense de Proteção às Crianças revelou que o Grok atendeu a pedidos de criações sexualizadas e até com conteúdo explícito de crianças. Algumas dessas imagens, segundo a entidade, envolviam pessoas que já haviam sido reconhecidas por autoridades em casos anteriores de abuso.
A investigação do The New York Times utilizou um software automatizado para encontrar as publicações, baseando-se em termos relacionados à prática. Mais de 75 imagens do tipo foram encontradas na rede social no primeiro semestre de 2026. Todas as publicações identificadas foram denunciadas para as autoridades locais e, embora o conteúdo tenha sido removido após as denúncias, a matéria relata que algumas das imagens acumularam centenas de visualizações na plataforma.
Precedentes Perigosos com Deepfakes
Este caso é mais um desdobramento preocupante da criação de deepfakes utilizando o Grok. No começo do ano, uma onda de publicações no X já havia usado a ferramenta de inteligência artificial para criar imagens sensuais de outras pessoas sem o consentimento delas. As denúncias recentes, apontadas pelo The New York Times, indicam que o cenário agora se estendeu para envolver menores de idade.
Resposta do X e Ações Legais
Diante da gravidade da situação, o X aplicou restrições para a criação de novos deepfakes e enfrentou processos judiciais em diferentes regiões por conta da exposição e danos às vítimas. A empresa chegou a processar um estado dos EUA devido a punições que considerou excessivas pela publicação das imagens.
Em nota à reportagem original, a empresa afirmou que tem "zero tolerância" a material de abuso sexual infantil, incluindo conteúdo gerado por IA. O X declarou que usa filtros automatizados para bloquear esses conteúdos. No entanto, os resultados da investigação apontam que ainda existem brechas significativas e áreas que precisam de maior reforço de segurança.
A rede social também informou que denunciou mais de 780 mil contas para as autoridades somente no último mês. Além disso, a empresa já informou mais de 1,3 milhão de imagens para o Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA (NCMEC), o que resultou em mais de 500 prisões. Por padrão, empresas de tecnologia são obrigadas a remover conteúdo abusivo e relatar os casos a centros como o NCMEC nos Estados Unidos.