O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas apresentadas pela plataforma X e concluíram pela insuficiência das providências informadas pela empresa em relação à sua ferramenta de inteligência artificial (IA), o Grok, que vem sendo usada indevidamente para a geração e circulação de imagens de pessoas em contexto de sexualização, de forma não autorizada.
No mês passado, as três entidades emitiram uma série de recomendações à plataforma X, a fim de garantir a proteção dos dados e a privacidade dos usuários. Entre essas recomendações, estava a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo Grok a partir de comandos feitos por usuários.
No entanto, após análise das medidas adotadas pela plataforma, o MPF, a ANPD e a Senacon constataram que as ações tomadas pela empresa foram insuficientes para resolver o problema. Em sua resposta às recomendações, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade.
Diante disso, o MPF, a ANPD e a Senacon emitiram uma nova manifestação, determinando que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. Além disso, as instituições exigiram que a empresa forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltaram a importância da transparência nas informações prestadas.
É importante destacar que o MPF, a ANPD e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido da ferramenta de inteligência artificial Grok. Cada instituição tem um procedimento administrativo em aberto contra a plataforma, de acordo com suas áreas de competência. Isso demonstra a seriedade com que o assunto está sendo tratado e a preocupação em garantir a proteção dos usuários.
No caso da ANPD, a medida preventiva exige que os recursos que impedem o uso indevido da ferramenta de IA devem abranger todas as versões, planos e modalidades do Grok. Já o MPF ordenou que o X forneça relatórios mensais com detalhes sobre como está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia, indicando o número de postagens nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas.
Caso não sejam cumpridas as determinações, a empresa de rede social poderá ser multada diariamente e os envolvidos poderão responder pelo crime de desobediência. Além disso, a empresa pode sofrer medidas investigatórias mais severas e ser alvo de ação judicial, conforme informado pelo MPF.
Em medida cautelar administrativa, a Senacon também cobrou a comprovação de providências já adotadas para conter os riscos identificados e sanar os problemas apontados na recomendação conjunta. Além disso, foi exigida a remessa de um relatório métrico detalhado, contendo dados quantitativos verificáveis sobre ident
