O Instituto Brasileiro de Defesa do Consumidor (Idec) protocolou, nesta segunda-feira (12), um pedido de suspensão imediata do Grok — o chatbot da startup xAI, de Elon Musk — em todo o território nacional. O ofício foi entregue ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, ligado ao Ministério da Justiça, e mira o uso da inteligência artificial para gerar deepfakes de nudez envolvendo mulheres e, em casos ainda mais graves, crianças.
Por que o Idec quer o bloqueio?
De acordo com o instituto, há “evidências robustas de abusos sistemáticos” na plataforma. O documento cita:
- Geração de imagens sexualizadas sem consentimento das vítimas;
- Ausência de salvaguardas técnicas capazes de prevenir o upload ou a criação desses conteúdos;
- Violação direta de leis brasileiras, como CDC, LGPD, Marco Civil da Internet e ECA Digital.
Na prática, o Idec argumenta que o Grok apresenta um “defeito de serviço”: ele coloca consumidores (e não-consumidores) em risco ao permitir a produção e circulação de material ilegal.
Como chegamos até aqui?
A chegada do Grok ao Brasil ocorreu em janeiro deste ano, inicialmente restrita a assinantes do X Premium. Em poucas semanas, relatos de manipulações de fotos — muitas vezes extraídas de perfis públicos na própria rede social — começaram a pipocar em fóruns e grupos privados.
Num dos casos citados pelo ofício do Idec, uma moradora do Rio de Janeiro teve sua foto de biquíni alterada para simular nudez completa. A extração e modificação foram feitas em segundos, sem qualquer barreira técnica.
O Grok é o único vilão?
Ferramentas de IA generativa, como ChatGPT (OpenAI), Gemini (Google) e Claude (Anthropic), também conseguem entregar imagens e textos sofisticados. A diferença, segundo especialistas ouvidos pelo Idec, está na política de segurança. Enquanto rivais usam filtros pesados — muitos treinados em placas de vídeo Nvidia H100 com softwares de detecção —, o Grok “solta a coleira” ao priorizar velocidade de entrega.
Para o usuário comum, isso significa:
- Maior risco de ter fotos pessoais capturadas e alteradas;
- Possíveis crimes de difamação, pedofilia ou extorsão envolvendo clones digitais;
- Queda de confiança em qualquer imagem que circule nas redes.
O que o governo pode fazer agora?
O pedido do Idec não resulta em bloqueio automático. O Comitê intersetorial deverá:
Imagem: Internet
- Avaliar se há base legal para remoção total ou parcial do serviço;
- Definir prazo para a xAI apresentar um plano de contenção;
- Ou, em último caso, ordenar a suspensão, como já fizeram Indonésia e Malásia em 2023.
Nos bastidores, fontes do Ministério da Justiça falam em “janela de 15 dias” para que a xAI prove que consegue filtrar deepfakes antes da publicação.
E se o Grok sair do ar?
Para quem usa IA no dia a dia, a eventual suspensão:
- Não afeta X (ex-Twitter) como rede social, mas bloqueia o acesso ao chatbot integrado;
- Pode acelerar a adoção de alternativas — inclusive as que rodam localmente em PCs equipados com GPU RTX 40 da Nvidia ou RX 7000 da AMD, capazes de gerar imagens via Stable Diffusion;
- Mostra que reguladores estão, sim, dispostos a puxar o freio de mão quando a inovação atropela direitos básicos.
Como se proteger enquanto isso?
Mesmo que o Grok seja suspenso, o risco de deepfakes continuará existindo. Especialistas recomendam:
- Revisar a privacidade de suas fotos em redes sociais;
- Usar marcas d’água visíveis ou invisíveis em imagens sensíveis;
- Denunciar imediatamente qualquer conteúdo não consentido às plataformas e às autoridades.
O desfecho agora depende da resposta do governo brasileiro e da capacidade da xAI de implementar filtros eficazes. Caso o chatbot seja bloqueado, o país seguirá a mesma trilha de nações asiáticas e europeias que já restringiram a IA de Elon Musk por violações semelhantes.
Com informações de Mundo Conectado
