Inteligência Artificial virou sinônimo de inovação – mas também de prejuízo em cascata. Prova disso é que gigantes do mercado de seguros nos Estados Unidos, como a Chubb e a W.R. Berkley, iniciaram um movimento inédito: pedir aos reguladores autorização para excluir, de vez, riscos ligados à IA de suas apólices corporativas.
Por que as seguradoras apertaram o freio?
Para o setor, algoritmos generativos e modelos preditivos ainda funcionam como uma “caixa-preta”. Em outras palavras, ninguém – nem mesmo os desenvolvedores – consegue explicar com 100% de certeza por que o sistema tomou determinada decisão. Essa opacidade deixa os atuários de cabelo em pé, pois basta um único bug para que milhares de sinistros sejam abertos ao mesmo tempo, num efeito dominó capaz de comprometer o balanço de qualquer seguradora.
Casos reais que acenderam o alerta vermelho
Se a teoria ainda soa distante, os exemplos recentes jogam luz sobre o problema:
- Um modelo do Google apontou falsamente irregularidades em uma empresa de energia solar, gerando um processo de US$ 110 milhões.
- A Air Canada teve prejuízo quando seu chatbot concedeu, por conta própria, um desconto que não existia.
- Criminosos clonaram a voz de um executivo da consultoria Arup e roubaram US$ 25 milhões em uma videochamada falsa.
Esses episódios mostram que o problema não é somente pagar indenizações isoladas; é lidar com falhas sistêmicas que atingem várias empresas simultaneamente.
Limite de tolerância: US$ 400 milhões… e olhe lá
Segundo um executivo da consultoria Aon, o setor consegue absorver sinistros até a casa de US$ 400 milhões (cerca de R$ 2,15 bilhões) causados por um único cliente. Mas uma falha ampla de IA poderia multiplicar esse valor por dez, gerando pedidos de indenização que extrapolam qualquer cálculo de reserva técnica.
Impacto prático para empresas de tecnologia e usuários finais
Se a exclusão de IA se confirmar, companhias que apostam em aprendizado de máquina para controle de estoque, atendimento ao cliente ou geração de conteúdo terão de:
Imagem: sim izquierdo
- Reavaliar onde a IA é realmente crítica e onde processos tradicionais (ou híbridos) ainda fazem sentido.
- Negociar apólices especializadas – possivelmente mais caras – focadas em riscos algorítmicos.
- Documentar melhor datasets, regras de negócio e governança para reduzir o argumento da caixa-preta na hora de buscar cobertura.
Já o usuário comum deve ficar de olho nos termos de serviço de aplicativos que usam IA: é cada vez mais provável encontrar cláusulas que limitam a responsabilidade do provedor em caso de erro.
O que vem pela frente?
Sem seguro amplo, a adoção da Inteligência Artificial pode desacelerar – ou, pelo menos, migrar para áreas menos sensíveis. Também ganha força a criação de padrões de auditoria e a busca por modelos explainable AI, em que o algoritmo fornece justificativas claras para cada decisão. O objetivo? Transformar a caixa-preta em uma caixa de vidro, reduzindo incertezas e, quem sabe, trazendo as seguradoras de volta ao jogo.
No fim das contas, empresas e desenvolvedores precisarão investir não apenas em GPUs e clusters de servidores, mas em governança e risco operacional – pilares tão essenciais quanto qualquer linha de código. Afinal, a IA continua poderosa, porém longe de ser infalível, e o mercado já deixou claro: quem paga a conta do bug?
Com informações de Olhar Digital
