A Califórnia, berço de gigantes como OpenAI, Nvidia e Anthropic, acaba de apertar o cerco contra algoritmos preconceituosos. Em ordem executiva assinada por Gavin Newsom, qualquer fornecedor de inteligência artificial que queira vender ao governo do estado terá de comprovar, em até 120 dias, salvaguardas claras contra vieses, violações de direitos civis e veiculação de conteúdo ilegal. Caso contrário, fica fora da disputa por contratos que movimentam bilhões de dólares por ano.
O que muda na prática para as empresas de IA?
• Certificação obrigatória: o Departamento de Serviços Gerais (DGS) e o Departamento de Tecnologia da Califórnia (CDT) terão quatro meses para criar um selo de conformidade. A empresa deverá atestar que:
- não permite exploração ou distribuição de material ilegal, como abuso infantil ou imagens íntimas não consensuais;
- reduz riscos de vieses prejudiciais em seus modelos;
- não viola liberdades civis, incluindo liberdade de expressão e proteção contra discriminação ou vigilância indevida.
• Barra extra para maus antecedentes: entidades condenadas por ferir privacidade ou direitos civis poderão ser automaticamente banidas de vender ao estado, indo além dos requisitos tradicionais de estabilidade financeira e performance.
Por que esse movimento importa?
A Califórnia concentra 33 das 50 maiores startups privadas de IA do mundo e responde por 25% das patentes de IA dos EUA. Quando o estado define uma regra de compra, ela tende a se espalhar como “padrão de fato” para o mercado nacional — e, muitas vezes, global.
Segundo o analista Neil Shah, da Counterpoint Research, a iniciativa “coloca ética e segurança ao lado de preço e uptime” como fator obrigatório em qualquer RFP (Request for Proposal). Para quem desenvolve IA localmente usando GPUs de ponta — como as Nvidia RTX 40 ou as recém-chegadas AMD Radeon RX 7000 —, a mensagem é clara: não basta ter poder de processamento; é preciso provar governança.
Choque de visões com Washington
A ordem chega em um momento de recuo regulatório federal. Em janeiro de 2025, o então presidente Donald Trump revogou o decreto de Joe Biden que exigia “red teaming” obrigatório e relatórios de segurança para modelos de alto risco, optando por uma linha de laissez-faire. Em dezembro, Trump ainda orientou o Departamento de Justiça a contestar leis estaduais que conflitem com a política federal — mas deixou contratações estaduais fora dessa briga, abrindo espaço para o plano de Newsom.
Watermark e acesso a GenAI seguro
Além do filtro para fornecedores, a Califórnia vai emitir diretrizes sobre marcação de conteúdo gerado por IA — essencial para identificar deepfakes — e liberar ferramentas generativas auditadas para servidores públicos. Há ainda a promessa de um guia de data minimization para órgãos que tratam dados sensíveis.
Imagem: Gyana Swain
Impacto para startups e mercado
Para empresas menores, o custo de compliance pode assustar. Por outro lado, quem passar na peneira de Sacramento ganha um selo que tende a ser reconhecido por outros estados, corporações e até mercados internacionais. É o mesmo efeito que a UE alcançou com o pacote “AI Act” e suas cláusulas contratuais modelo: quem se adequa primeiro sai na frente.
Se você está planejando implantar modelos de linguagem ou visão computacional em seus produtos — seja em um servidor equipado com a Nvidia H200, seja em um desktop gamer com a RTX 4070 Super —, vale ficar de olho. A tendência é que requisitos de auditabilidade, explicabilidade e mitigação de vieses se tornem parte do checklist de qualquer operação escalável de IA.
No fim das contas, a Califórnia transforma sua musculatura de compras públicas em alavanca regulatória. Quem quiser fazer negócios no maior mercado de tecnologia do planeta terá de provar, por A + B, que sua inteligência é realmente… inteligente — e justa.
Com informações de Computerworld
