Korištenje umjetne inteligencije u sudskim presudama predstavlja, međutim, značajan rizik za pravdu. Pogrešni ishodi temeljeni na „haluciniranim“ informacijama, diskriminirajuće odluke i nedostatak transparentnosti algoritama izazivaju ozbiljnu zabrinutost pri uvođenju te tehnologije u sudnice.

Preporuke sucima

Unatoč tome, brojni su suci diljem svijeta već koristili umjetnu inteligenciju pri donošenju odluka i pisanju presuda. Zbog toga su neke jurisdikcije, uključujući Ujedinjeno Kraljevstvo, izdale smjernice za njezinu uporabu.

Općenito, smjernice sugeriraju da bi suci mogli koristiti umjetnu inteligenciju kao pomoćni alat za pripremne radnje, poput izrade sažetaka dugih dokumenata, prevođenja pravnih tekstova, identificiranja pravnih presedana ili poboljšanja čitljivosti dokumenata. Istodobno preporučuju da se umjetna inteligencija ne koristi za temeljne pravosudne funkcije, uključujući donošenje odluka.

Manje složene odluke

Nedavno su neki visoki pravosudni dužnosnici izrazili stav da bi se umjetna inteligencija mogla koristiti za odlučivanje u slučajevima „niskog rizika“ ili manje složenim predmetima, uz odgovarajuće mjere opreza, poput nadzora ljudskog suca.

U govoru u studenome 2024. godine, drugi najviši sudac u Ujedinjenom Kraljevstvu, Geoffrey Vos, govorio je o „spektru“ pravnih odluka koje bi umjetna inteligencija uskoro mogla donositi ili u njima sudjelovati.

Istaknuo je da bi korištenje umjetne inteligencije za „uglavnom mehaničke odluke, poput onih o iznosu mirovine ili naknada te izračunu odštete za tjelesne ozljede i gubitak zarade“ vjerojatno uštedjelo vrijeme i novac. No, istodobno je pozvao na raspravu o tome bi li takva praksa kršila temeljna ljudska prava.

Godinu dana kasnije ponovno je pozvao na „ozbiljnu raspravu“ o tome koja prava ljudi treba zaštititi u tom kontekstu te naglasio da se umjetna inteligencija mora koristiti „odgovorno, učinkovito i sigurno u pravnim sustavima i procesima“.

Primjene

Brojne jurisdikcije već testiraju ili koriste umjetnu inteligenciju u takvim „mehaničkim“ slučajevima. Estonija koristi poluautomatizirani sustav za sporove male vrijednosti u građanskim postupcima za novčane zahtjeve do 7.000 eura, uz nadzor ljudskih službenika.

Okružni sud u Frankfurtu u Njemačkoj testirao je sustav umjetne inteligencije pod nazivom Frauke za rješavanje tužbi povezanih s pravima putnika u zračnom prometu. Sustav analizira prethodne slučajeve i presude te izrađuje unaprijed strukturirane nacrte presuda, koje suci potom uređuju i finaliziraju, čime se značajno smanjuje vrijeme izrade.

Tajvan je testirao alat temeljen na umjetnoj inteligenciji za pomoć sudovima u izradi presuda u slučajevima vožnje pod utjecajem alkohola ili sudjelovanja u prijevarama. Sustav generira cjelovit nacrt presude – uključujući činjenice, pravno obrazloženje, citate i zaključak – koji sudac potom pregledava i, po potrebi, mijenja prije donošenja konačne odluke.

Iz navedenih primjera jasno je da je ključna motivacija za uvođenje umjetne inteligencije u određene kategorije slučajeva povećanje učinkovitosti. Zbog toga i druge jurisdikcije istražuju mogućnosti njezine šire primjene u rješavanju sporova.

Bezosjećajnost algoritama

Sudovi su preopterećeni, a tehnologija poput generativne umjetne inteligencije obećava veću dosljednost i učinkovitost. Međutim, takav bi pristup označio radikalnu promjenu stoljetne pravne prakse i mogao bi potkopati ono što mnogi pravni teoretičari smatraju temeljnim načelom pravde – pravo da o nečijem slučaju odlučuje ljudsko biće.

Sudsko odlučivanje nije samo donošenje presude, već složen i cjelovit proces koji uključuje pravo na saslušanje, iznošenje obrane, vaganje suprotstavljenih argumenata i donošenje odluke u svjetlu zakona i pravičnosti.

Algoritamski sustavi, bez obzira na njihovu sofisticiranost, ne „razumiju“ kontekst, ljudske vrijednosti ni društvene okolnosti. Generativna umjetna inteligencija ne može prepoznati patnju, vjerodostojnost, kajanje ili ranjivost na način na koji to može čovjek. Samim time, neprikladna je za ulogu suca.

Dvostupanjski sustav

Podjela slučajeva na jednostavne i složene može se činiti pragmatičnom, ali nosi ozbiljne pravne i moralne rizike. Ono što se smatra „jednostavnim“ slučajem već je samo po sebi rezultat ljudske procjene. Sporovi koji na papiru djeluju rutinski često imaju duboke posljedice za pojedince.

Dodjeljivanje takvih slučajeva algoritmima moglo bi dovesti do stvaranja dvostupanjskog pravosudnog sustava – u kojem jedni građani imaju pristup ljudskom sucu, dok drugima presuđuju strojevi. U tom bi slučaju samo prvi u potpunosti ostvarivali pravo na pravično suđenje pred neovisnim i nepristranim sudom, kako je zajamčeno člankom 6. Europske konvencije o ljudskim pravima.

Osim toga, argument učinkovitosti može biti varljiv. Sustavi umjetne inteligencije zahtijevaju kontinuirani ljudski nadzor, reviziju i ispravke. Pogreške i „halucinacije“, bilo zbog lošeg dizajna ili pristranih podataka, mogu poništiti očekivane koristi.

Povjerenje javnosti ključno je za funkcioniranje pravosuđa. Ako građani izgube povjerenje u automatizirane odluke, povećat će se broj žalbi, što može dodatno opteretiti sustav.

Nove tehnologije mogu biti korisne u upravljanju sudskom administracijom i smanjenju administrativnog opterećenja. No zamjena ljudskih sudaca – čak i u naizgled jednostavnim slučajevima – dovodi u pitanje temeljna načela pravde. Učinkovitost ne smije doći na štetu vrijednosti koje pravosudni sustav mora štititi.