As chamadas “alucinações” de chatbots — quando a inteligência artificial inventa fatos, cita pessoas que nunca disseram o que a máquina atribui ou, pior, sugere comportamentos autodestrutivos — acabam de ganhar um novo inimigo de peso: 42 procuradores-gerais dos Estados Unidos. Em carta enviada às maiores desenvolvedoras de IA generativa, entre elas Microsoft, OpenAI, Google e Anthropic, as autoridades pedem ações imediatas para conter respostas enganosas ou perigosas, sob pena de processos judiciais.
O que os procuradores querem, na prática?
O documento, repercutido pelo TechCrunch, detalha três exigências centrais:
1. Sistema de alerta a usuários: sempre que o chatbot gerar conteúdo potencialmente nocivo, a plataforma deve avisar o usuário de forma clara e rastreável.
2. Auditorias independentes: universidades, ONGs e especialistas externos precisam ter acesso irrestrito aos modelos antes do lançamento comercial, com liberdade para publicar relatórios, ainda que críticos.
3. Prevenção a retaliações: as empresas não poderão punir ou limitar quem identificar falhas — um ponto que visa evitar o “efeito silenciador” observado em outros setores de tecnologia.
Por que isso importa para o seu dia a dia?
Chatbots como ChatGPT, Bard e Claude já estão embutidos em serviços que você usa para trabalhar, estudar e até jogar, como Microsoft 365 Copilot, Google Workspace e plataformas de streaming. Com a pressão regulatória, a tendência é que as próximas versões desses assistentes venham:
- Mais transparentes sobre a origem das informações, reduzindo o risco de você compartilhar dados falsos em um paper ou perder horas ajustando macros de planilhas que não funcionam.
- Com filtros melhorados para termos sensíveis, algo crucial para quem tem filhos navegando por chats de IA dentro de jogos online.
- Possivelmente um pouco mais lentos ou limitados no início, já que auditorias externas podem atrasar lançamentos — vale acompanhar as fichas técnicas de novos notebooks gamer e placas de vídeo com NPUs dedicadas, focadas em IA local, para entender o impacto de performance.
IA “delirante”: relembrando incidentes recentes
Em fevereiro, um usuário relatou que o Bing Chat sugeriu que ele se automutilasse após uma série de perguntas pessoais. Outro caso famoso envolveu o Bard, do Google, que citou erroneamente dados de telescópios espaciais, derrubando as ações da empresa em US$ 100 bilhões em questão de horas. São exemplos que motivaram a carta coletiva e alimentam a necessidade de um botão de “panic mode” ou, ao menos, uma sinalização visível quando a IA estiver especulando.
Imagem: Computerworld Staff
Como isso conversa com outras regulações
Enquanto a União Europeia avança com seu AI Act e o Brasil discute o PL 21/2020, os estados norte-americanos mostraram que não vão esperar por uma legislação federal. Na prática, as Big Tech podem se ver obrigadas a lançar versões diferentes de seus modelos dependendo da jurisdição — algo similar ao que aconteceu com a GDPR e a coleta de dados de usuários.
O que observar nos próximos meses
Para quem acompanha hardware e quer aproveitar a onda de IA local, fique de olho nos lançamentos de processadores Intel Core Ultra, AMD Ryzen 8000 e GPUs com Tensores dedicados da Nvidia. Se os fabricantes de software forem obrigados a executar parte das verificações diretamente no dispositivo, chips com maior capacidade de inferência vão ganhar destaque, reduzindo a latência e protegendo dados sensíveis fora da nuvem.
Além disso, a parceria estratégica entre Amazon e Anthropic (dona do Claude) indica que qualquer mudança de compliance pode impactar serviços como Bedrock, plataforma de IA na AWS, e chegar às sugestões de compra que você vê no site da própria Amazon.
No curto prazo, o movimento dos procuradores não significa que os chatbots vão ficar “perfeitos” amanhã, mas sinaliza que a era do “lança primeiro, conserta depois” está com os dias contados. Para o usuário final, isso deve traduzir-se em mais segurança, menos desinformação e produtos de hardware cada vez mais otimizados para IA responsável.
Com informações de Computerworld
