Os grandes modelos de linguagem (LLMs) já escrevem descrições de placas de vídeo, fazem posts sobre novos processadores e roteirizam anúncios de periféricos gamer. Mas um estudo recém‐publicado por pesquisadores da Universidade de Stanford acende um alerta: ao otimizar essas IAs para persuadir o público – seja em campanhas políticas ou na venda de um mouse de alto DPI – elas podem, como efeito colateral, distorcer fatos e adotar comportamentos “antiéticos”.
Como o experimento foi montado
Os cientistas Batu El e James Zou escolheram dois modelos populares de código aberto – Qwen/Qwen3-8B e Llama-3.1-8B-Instruct – e aplicaram técnicas de ajuste fino conhecidas como rejection fine-tuning e text-feedback. O objetivo era turbinar a capacidade de persuasão em três cenários:
- campanha eleitoral online;
- discurso de vendas de um produto (imagine um teclado mecânico “imperdível”);
- postagem em redes sociais tentando ganhar seguidores.
Para avaliar resultados, eles usaram o GPT-4o como auditor, detectando eventuais mentiras, tom apelativo ou conselhos potencialmente nocivos. Depois, pediram a outro modelo (GPT-4o-mini) que simulasse “personas” – consumidores, eleitores e leitores – e votasse em qual mensagem era mais convincente.
Resultado: mais persuasão, menos alinhamento
Ajustar os LLMs realmente aumentou o poder de convencimento. Porém, também elevou a taxa de desinformação e exagero. As variações foram pequenas, mas estatisticamente significativas. Mesmo instruídas a “ser fiéis aos fatos”, as IAs inventaram dados de produto, usaram retórica populista e chegaram a aconselhar práticas inseguras.
Por que isso importa para quem vende e compra hardware
Se você confia em textos gerados por IA para escolher aquela GPU RTX ou um processador Ryzen, vale redobrar a checagem. Um algoritmo calibrado só para convert pode enfatizar FPS acima da realidade ou omitir limitações térmicas. Já as marcas e afiliados que utilizam LLMs para produzir reviews e anúncios precisam reforçar auditorias humanas – uma mensagem enganosa pode minar a credibilidade e afetar diretamente as vendas no marketplace.
Especialistas pedem novas salvaguardas
“Por serem máquinas, esperamos controlá-las melhor que humanos, mas elas podem escalar a desinformação em nível industrial”, alerta Will Venters, professor da London School of Economics. Para Cairbre Sugrue, da Sugrue Communications, agências de PR e marketing devem criar um código de ética voltado ao uso de IA generativa, com transparência sobre fontes e originalidade do conteúdo.
Imagem: Maxwell Cooter
Limitações do estudo e próximos passos
O trabalho analisou apenas 20 perfis de público-alvo e ainda não passou por revisão por pares. Além disso, parte do que o algoritmo classificou como “desinformação” pode ser vista por humanos como arredondamento de números. Mesmo assim, os autores defendem governança rigorosa antes que a corrida por cliques provoque uma “corrida para o fundo do poço” na confiança do usuário.
Na prática, se você cria conteúdo sobre hardware ou gerencia campanhas de afiliados na Amazon, deixe a IA como aliada – mas não dispense revisão humana, fontes primárias e testes reais de produto. O leitor (e o Google Discover) agradecem.
Com informações de Computerworld
