O Instituto de Defesa dos Consumidores (Idec) solicitou nesta segunda-feira (12) o banimento da inteligência artificial Grok no Brasil. O pedido foi encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital após a ferramenta gerar imagens com nudez, incluindo conteúdos considerados abusivos.
Segundo o Idec, a solicitação se baseia em “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”. A IA Grok é desenvolvida pela xAI, empresa de Elon Musk, e está integrada à rede social X (antigo Twitter).
O que aconteceu?
Em nota oficial, o instituto afirma que a IA Grok vem sendo utilizada “para gerar, editar e difudir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos”.
Traduzindo: a ferramenta estava sendo usada pra criar conteúdo sexual explícito sem o consentimento das pessoas retratadas — incluindo crianças e adolescentes. E isso, obviamente, é gravíssimo.
Por que isso é um problema legal?
Para o Idec, a situação caracteriza “um defeito grave na prestação do serviço”, o que configuraria violações a diferentes legislações brasileiras. O instituto cita:
- Código de Defesa do Consumidor (CDC)
- Lei Geral de Proteção de Dados (LGPD)
- Marco Civil da Internet
- Estatuto da Criança e do Adolescente (ECA)
- ECA Digital
Ou seja: o Grok tá pisando em praticamente todas as leis de proteção digital do Brasil.
Outros países já estão agindo
O ofício encaminhado ao comitê também menciona medidas adotadas por outros países. De acordo com o documento, autoridades da União Europeia, Reino Unido, França e Índia já investigam o caso ou aplicaram sanções relacionadas ao uso da tecnologia. Além disso, o uso da IA Grok foi suspenso na Malásia e na Indonésia.
Ou seja: não é só o Brasil que tá vendo problema nisso. O mundo inteiro está de olho.
Como tudo veio à tona?
Os questionamentos sobre a ferramenta ganharam força no início de janeiro, quando usuários passaram a relatar que o Grok manipulava imagens de mulheres e crianças a partir de solicitações diretas. A IA adicionava conteúdo explícito e abusivo às imagens, e o recurso de geração visual acabou se tornando uma tendência dentro da plataforma, ampliando a circulação desse tipo de material.
Basicamente: usuários descobriram que podiam pedir pro Grok criar imagens abusivas, e a IA simplesmente fazia. Sem filtros, sem proteções, sem nada.
O que o X disse sobre isso?
Diante da repercussão, a rede social X se manifestou sobre o caso e informou que diretrizes mais rígidas foram implementadas para “impedir que o Grok gere conteúdo explícito ou não consensual”. A empresa afirmou que ajustes adicionais foram feitos no sistema após a identificação dos problemas.
Em uma publicação própria, o Grok reconheceu que, em 28 de dezembro de 2025, gerou e compartilhou “uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em trajes sexualizados com base na solicitação de um usuário”.
Sim, você leu certo: a própria IA admitiu ter gerado conteúdo sexualizado envolvendo menores. A admissão reforçou as críticas sobre a ausência de mecanismos eficazes de prevenção de abusos.
O que o Idec diz sobre isso?
Para o Idec, o episódio demonstra riscos concretos associados ao uso de tecnologias sem controles adequados.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética“, afirmou o instituto em comunicado.
Ou seja: se a tecnologia não consegue se comportar, ela precisa ser tirada do ar até que consiga.
E agora?
O pedido de banimento do Grok agora aguarda avaliação das autoridades competentes. Se o Brasil seguir o exemplo de outros países — e considerando o histórico de atuação das autoridades brasileiras em casos semelhantes (lembra do bloqueio do X em 2024?) — é bem possível que a ferramenta enfrente restrições por aqui.
Via: Ei Nerd
