Órgãos federais cobram providências imediatas do X contra geração de imagens sexualizadas por IA
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) anunciaram o reforço na fiscalização da plataforma X após avaliarem como insuficientes as medidas apresentadas pela empresa para conter o uso indevido da ferramenta de inteligência artificial Grok.
De acordo com os órgãos, persistem falhas que permitem a geração e a circulação de conteúdos sexualizados envolvendo crianças, adolescentes e adultos sem consentimento. Em resposta a recomendações anteriores, o X informou ter removido milhares de publicações, suspendido centenas de contas e adotado novas camadas de segurança. No entanto, conforme nota divulgada nesta quarta-feira (11), a empresa não apresentou relatórios técnicos, comprovações documentais nem mecanismos de monitoramento que atestem a efetividade das ações.
Testes preliminares conduzidos pelas equipes técnicas das três instituições indicaram que o problema continua, com registros de produção e disseminação de conteúdos considerados incompatíveis com as determinações já emitidas.
O caso ocorre em meio ao aumento das denúncias de crimes cibernéticos no país. Dados da SaferNet Brasil apontam crescimento nas notificações em 2025, sendo que 63.214 denúncias recebidas estavam relacionadas a imagens de abuso sexual infantil.
O debate sobre o uso de ferramentas de inteligência artificial também ganhou força. Levantamento do Center for Countering Digital Hate (CCDH) aponta que, após o lançamento do gerador de imagens do Grok, cerca de três milhões de imagens sexualizadas teriam sido produzidas, das quais aproximadamente 23 mil envolveriam crianças.
Diante do cenário, ANPD e Senacon determinaram que o X adote, de forma imediata, medidas técnicas, administrativas e organizacionais capazes de impedir que o Grok produza imagens, vídeos ou áudios envolvendo menores de idade e adultos sem consentimento.
O MPF, por sua vez, requisitou que a plataforma apresente relatórios mensais, a partir deste mês, detalhando as providências adotadas para prevenir e coibir a produção de conteúdos erotizados e deepfakes, com dados quantitativos sobre remoções e suspensões de contas.
O descumprimento das determinações poderá resultar na abertura de processos administrativos, aplicação de multas e outras sanções previstas na legislação brasileira.
