Umjetna inteligencija je prerizična za osiguranje, kažu ljudi čiji je posao osiguranje rizika. Veliki osiguravatelji - uključujući AIG, Great American i WR Berkley - traže od američkih regulatora dopuštenje kako bi iz korporativnih polica mogli isključiti obveze povezane s umjetnom inteligencijom. Zašto? Kako je rekao jedan od njih, za njih je to "prevelika crna kutija". 

Industrija ima dobar razlog za strah. Googleov AI Overview lažno je optužio tvrtku za solarne panele za pravne probleme, što je u ožujku pokrenulo tužbu vrijednu 110 milijuna američkih dolara. Air Canada prošle je godine morala ispoštovati popust koji je izmislio njen robot za brbljanje. Prevaranti su prošle godine koristili digitalno kloniranu verziju više rangiranog direktora kako bi ukrali 25 milijuna USD od londonske tvrtke za projektiranje Arup tijekom video poziva koji se činio potpuno stvarnim.

Problem nije toliko u pojedinačnim velikim isplatama, koliko u sistemskom riziku koji bi mogao rezultirati tisućama istovremenih zahtjeva nakon što se umiješa neki od široko korištenih modela umjetne inteligencije.