O X, rede social de Elon Musk, entrou no alvo das autoridades brasileiras mais uma vez – e, agora, o problema vai além da moderação de posts. Em um ultimato inédito, Ministério Público Federal (MPF), Autoridade Nacional de Proteção de Dados (ANPD) e Secretaria Nacional do Consumidor (Senacon) deram apenas 5 dias úteis para a plataforma comprovar, tecnicamente, que a sua IA generativa Grok é capaz de barrar a criação de deepfakes, em especial conteúdos sexualizados envolvendo menores.
O que provocou a reação do MPF, ANPD e Senacon?
Em janeiro, o X enviou um relatório sucinto dizendo ter removido “milhares” de imagens ilícitas e suspendido “centenas” de contas. Faltaram, porém, dados verificáveis: métricas, logs e critérios de bloqueio. Técnicos dos próprios órgãos públicos testaram o Grok e ainda conseguiram gerar imagens sexualizadas de pessoas reais, incluindo menores de idade – prova de que os “guard-rails” prometidos por Musk seguem falhando.
Exigências oficiais: números ou nada feito
O documento enviado ao X não deixa espaço para respostas de RP. As autoridades pedem:
- Relatórios métricos detalhados – quantidade de imagens bloqueadas, tempo médio de resposta e curva de reincidência.
- Critérios transparentes – quais parâmetros fazem uma conta ser derrubada ou um prompt ser negado pelo Grok.
- Monitoramento contínuo – envio de relatórios mensais para garantir que a eficácia se mantenha.
Se a empresa não cumprir, a ANPD pode aplicar multas diárias de até 2% do faturamento no Brasil, limitadas a R$ 50 milhões por infração, enquanto a Senacon pode abrir processos com base no Código de Defesa do Consumidor.
Por que isso importa para quem usa IA generativa?
O caso pode inaugurar um padrão regulatório para IAs no Brasil. Se confirmado que a plataforma é responsável pelo que o algoritmo produz, outras ferramentas – de chatbots a geradores de imagem rodando em GPUs de última geração – poderão ser cobradas na mesma proporção. Para profissionais de criação, streamers e gamers que já testam IA para thumbnails, avatares ou cenas, o recado é claro: políticas de segurança vão ficar mais rígidas e prompts abusivos podem levar a banimento permanente.
Grok x concorrentes: quem segura melhor a onda dos deepfakes?
Na prática, o Grok compete com modelos como ChatGPT-4o (OpenAI) e Gemini 1.5 (Google). Ambos afirmam ter filtros baseados em aprendizado de máquina que cruzam referências de banco de dados forenses para bloquear pornografia infantil (CSAM). O diferencial prometido por Musk era “menos censura” e respostas em “tempo real” – mas essa liberdade extra agora se tornou seu maior ponto fraco.
Nos bastidores, especialistas apontam que o X economizou etapas caras de fine-tuning e revisão humana que rivais vêm adotando. O resultado: altas taxas de falsos negativos, permitindo que conteúdo proibido passe sem bloqueio.
Imagem: William R
E se o X não cumprir o prazo?
Caso falhe em entregar os relatórios ou continue gerando deepfakes, o X pode enfrentar:
- Multas diárias da ANPD;
- Processos administrativos da Senacon;
- Bloqueio temporário de recursos de IA no Brasil – medida drástica que já foi sinalizada pelo MPF.
Além do impacto reputacional, um eventual shutdown da IA afetaria diretamente usuários que dependem do Grok para gerar imagens, resumos de notícias ou linhas de código em tempo real.
O que vem a seguir?
O relógio já está correndo. Se o X apresentar provas sólidas, o caso pode virar estudo de caso positivo sobre compliance em IA. Caso contrário, poderemos testemunhar o primeiro grande embate jurídico sobre responsabilidade de IAs generativas no país – e quem desenvolve ou usa essas tecnologias terá de revisar urgentemente suas práticas de segurança.
Com informações de Hardware.com.br
