O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública, emitiram nesta terça-feira (20) recomendações formais à empresa responsável pela plataforma digital X.
A medida foi motivada por denúncias de que o Grok, assistente de inteligência artificial integrado ao serviço, estaria sendo usado para criar conteúdos sintéticos sexualizados de pessoas reais.
Segundo os relatos, confirmados por reportagens nacionais e internacionais e por testes conduzidos pelas próprias instituições, usuários têm recorrido ao Grok para produzir ilegalmente deepfakes eróticas e pornográficas envolvendo mulheres, crianças e adolescentes.
Também foram identificados casos de imagens de nudez ou em roupas íntimas, acessíveis a qualquer usuário, ampliando a exposição indevida e os riscos de danos às vítimas.
A gravidade das denúncias levou à atuação conjunta dos três órgãos, que apontam impactos diretos na proteção de dados pessoais, nas relações de consumo e na dignidade da pessoa humana, especialmente de grupos vulneráveis.
Recomendações
Entre as medidas exigidas pela ANPD, MPF e Senacon, estão:
Bloqueio imediato da geração de imagens, vídeos ou áudios sexualizados de crianças e adolescentes, bem como de adultos identificáveis sem autorização, em todas as versões e modalidades do Grok.
Criação, em até 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos já produzidos e ainda disponíveis na plataforma.
Suspensão imediata de contas envolvidas na produção de conteúdos sexuais ou erotizados sem consentimento, com comprovação mensal às instituições por meio de relatórios.
Implementação de canal transparente e acessível para denúncias de uso irregular de dados pessoais, garantindo resposta adequada em prazo razoável.
Elaboração de relatório de impacto específico sobre a proteção de dados pessoais nas atividades de geração de conteúdo sintético a partir de fotos, vídeos ou áudios enviados por usuários.
Possíveis sanções
Os órgãos alertam que, caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, poderão ser adotadas medidas administrativas e judiciais para assegurar a proteção dos cidadãos, em especial de mulheres, crianças e adolescentes.
As recomendações foram expedidas dentro das competências de cada instituição, que seguirão acompanhando as respostas e providências da empresa controladora da plataforma X.