Zvuči super, ali jesu li riješili problem "halucinacija" od kojih AI pati? Izmišlja laži da pojednostavim, i od toga pate svi jezični AI modeli. Kako će netko znati je li informacija laž koju ja AI izmislio (AI halucinacija)?
To je poprilično težak problem za riješiti, ali je jako bitan, ključan, jer su halucinacije (lažne informacije koje AI uvjerljivo prezentira) jako česte.
Nisam expert, ali sam pohvatao vijest, koja ide baš u smjeru odgovora na tvoje pitanje.
Berlinska bolnica koristi tehniku belinskog sveučilišta za alnalize mikroskopskih slika, gdje umjetna iteligencija "pogađa" jel tu ima karcinoma ili ne? Rezultati su bili prilično dobri, ali bolinica je zahtjevala objašnjenje: zašto stroj misli da je to karcinom?
I ekipa s fakulteta je prihvatila izazov i nedavno objavila alat za objašnjavanje kako je došlo do odluke pri analizi slika. Tehnika je laicima lako čitljiva, kroz heat-map overlay preko slike vidi se koji su djelovi stroju bili ključni pri odluci.
Izvori: Berlin TU (njemački) & nature.com (engleski).
