Uma nova investigação do Centro para Combate ao Ódio Digital (CCDH) expôs uma face alarmante da inteligência artificial Grok, ferramenta de criação de imagens da xAI, empresa de Elon Musk. Entre 29 de dezembro e 9 de janeiro, o sistema teria produzido cerca de 3 milhões de imagens sexualizadas, incluindo aproximadamente 23 mil representações de menores de idade. Na prática, isso significa que, a cada 41 segundos, surgia uma nova imagem ilícita envolvendo crianças.
Como os números foram calculados
O CCDH analisou 20 mil imagens aleatórias geradas pelo Grok e extrapolou o resultado para o total de 4,6 milhões de arquivos produzidos no período. Foram consideradas “sexualizadas” todas as representações fotorrealistas com poses eróticas, lingerie, trajes de banho reveladores ou presença de fluidos corporais sugestivos.
Falhas de moderação e resposta da xAI
Diante da repercussão, a xAI limitou em 9 de janeiro a edição de imagens existentes apenas a usuários pagantes. Cinco dias depois, o X (ex-Twitter) bloqueou o recurso de “despir digitalmente” pessoas reais. Entretanto, o app independente do Grok continuou ativo, contrariando as políticas de Apple Store e Google Play, que proíbem conteúdo sexual envolvendo menores.
Mesmo após remoções pontuais, 29 % das imagens ilícitas permaneciam acessíveis via URL direto em 15 de janeiro, evidenciando brechas graves nos filtros de conteúdo da plataforma.
Vítimas famosas e repercussão política
Celebridades como Taylor Swift, Selena Gomez e Kamala Harris tiveram fotos manipuladas sem consentimento. Ao todo, 28 organizações de defesa dos direitos das mulheres publicaram carta aberta exigindo providências. Até o fechamento desta matéria, nem Apple nem Google haviam removido o Grok das lojas ou emitido posicionamentos públicos.
O que isso significa para o usuário comum?
A facilidade de produzir imagens hiper-realistas com poucos cliques mostra que qualquer pessoa pode ser alvo. Especialistas em segurança digital alertam para o risco de distribuição massiva de pornografia infantil, chantagem e danos à reputação em escala industrial.
Como proteger sua família e seus dispositivos agora
Enquanto governos e empresas discutem regulações, o cuidado imediato passa por atitudes práticas:
Imagem: William R
- Instalar suites de antivírus com controle parental, como Bitdefender ou Kaspersky.
- Manter sistemas operacionais, roteadores e firewalls físicos atualizados.
- Ensinar crianças e adolescentes a não compartilhar fotos íntimas e a denunciar perfis suspeitos.
- Usar gerenciadores de senhas com autenticação em duas etapas.
O hardware por trás de IAs como o Grok
Para gerar milhões de imagens em poucos dias, modelos de difusão utilizam placas de vídeo topo de linha, como as GPUs NVIDIA H100 (Datacenter) ou, em ambientes de pesquisa doméstica, as RTX 4090. Esses chips somam Tensor Cores dedicados a IA, memória GDDR6X de alta largura de banda e consumo que pode ultrapassar 450 W. O mesmo poder de fogo que encanta criadores de conteúdo pode, sem vigilância, ser desviado para fins ilícitos.
Para entusiastas que procuram experimentar IA localmente—com foco em projetos legítimos de arte, games ou produtividade—GPUs como RTX 4070 Ti Super já entregam 16 GB de VRAM, quantia recomendada para rodar modelos estáveis de geração de imagens sem recorrer à nuvem. A diferença de performance, no entanto, vem acompanhada de um consumo menor (285 W), ideal para setups domésticos.
Próximos passos e pressão regulatória
Nos bastidores, a Comissão Federal de Comércio dos EUA e grupos europeus de proteção à infância estudam novos marcos legais para IA generativa. A expectativa é que 2024 traga regras mais duras sobre verificação de idade, watermarking obrigatório e multas bilionárias para violações envolvendo menores.
Em última análise, o escândalo Grok mostra que a inovação precisa caminhar lado a lado com responsabilidade. Se por um lado GPUs cada vez mais poderosas prometem saltos em produtividade, por outro exigem filtros robustos — tanto técnicos quanto éticos — para que a tecnologia permaneça a serviço do usuário e não contra ele.
Com informações de Hardware.com.br
