Lijek za kroničnu bol? Heroin, kaže AI na Redditu
Moderatori se žale kako AI alat Reddit Answers pruža opasne medicinske savjete koje ne mogu onemogućiti ili sakriti od pogleda.
Vidjeli smo dosad više primjera kako umjetna inteligencija može dati prilično bizarne odgovore na upite. Danas je na redu Reddit Answers, gdje je moderator označio AI alat zbog pružanja opasnih medicinskih savjeta koje nije mogao onemogućiti ili sakriti od pogleda.
Naime, uhvatio je Reddit Answers kako predlaže ljudima koji pate od kronične boli da prestanu uzimati svoje trenutne lijekove i uzimaju visoke doze kratoma, što je neregulirana tvar koja je ilegalna u nekim državama.
Korisnik je zatim Reddit Answers postavio druga medicinska pitanja. Dobio je potencijalno opasne savjete za liječenje neonatalne groznice uz neke točne radnje, kao i prijedlog za korištenje heroina za ublažavanje kronične boli.
Nekoliko drugih moderatora, posebno s podreddita usmjerenih na zdravlje, odgovorilo je na originalnu objavu dodajući svoju zabrinutost zbog toga što nemaju načina isključiti ili označiti problem kada Reddit Answers pruža netočne ili opasne informacije u njihovim zajednicama.
Iz Reddita su poručili kako je Reddit Answers nadograđen zbog prigovora moderatora, pa povezani odgovori na osjetljive teme više neće biti vidljivi. Nije zasad jasno o kojim je temama riječ, kao ni hoće li Reddit u dogledno vrijeme ponuditi bilo kakve alate za kontrolu načina ili vremena prikazivanja odgovora umjetne inteligencije na subredditima.
