Meta AI predstavila CRUXEval, alat za procjenu spo

poruka: 3
|
čitano: 2.438
|
moderatori: vincimus
1
+/- sve poruke
ravni prikaz
starije poruke gore
Ovo je tema za komentiranje sadržaja Bug.hr portala. U nastavku se nalaze komentari na "Meta AI predstavila CRUXEval, alat za procjenu spo".
9 godina
offline
Meta AI predstavila CRUXEval, alat za procjenu spo

Ako AI-u postavimo pitanje: "Da li lažeš?", kako ćemo znati je li odgovor istinit ili nije? Onaj tren kada AI nauči lagati, bojim se da smo u Velikoj Gabuli (mjesto pored Kaštel Gomilice koje je dobro skriveno od javnosti, ali često spominjano)...    

 
0 0 hvala 0
15 godina
suspendiran
offline
Meta AI predstavila CRUXEval, alat za procjenu spo

-besmisleno je u kontekstu calculatora uvoditi 'laž' (netočno).. tj svaki korak, auto-predmet koji se kreće recimo cestom, može na raskršću ići ravno ili skrenuti lijevo-desno, nema točno-netočno ako nema zadanog puta-rute-cilja, tj ako nema cilja tad nema ni pogrešnog puta, možda nepotrebnog, no recimo ljudi mogu šetati, mogu gledati sport kao rukomet-vaterpolo u kojem se igrači kreću naprijed-nazad i nije cilj-mjesto-put nego gol itd..

-matematički, 2+2=4.. sve ostalo-različito je netočno i to svaki calculator zna, ne može pogriješiti .. pa čak ne može ni 'lagati' jer (prebacimo se u treće lice, AIja kao brog-robota..) tad zna da je to prozirna laž, lako provjerljiva, tj i glupson zna da je odgovor 5 netočan, .. tj osoba se može zabuniti i to je ok, može ne znati i to je ok.. no tad je točan odgovor ''ne znam'' ne ispaliti neki broj dok upravo to učenik može .. bez cilja laganja nego kao loto možda pogodi pa možda dobije prolaznu ocjenu itd.. dok to borgu-robotu-aiju nema nikakvog smisla jer ako želi zna točno do x-te decimale korjen nekog broja ili pi na stotu decimalu, .. ne griješi unutar rezolucije koju posjeduje. Tad je i nesposoban lagati, kao što je nesposoban željeti nešto što žele ljudi, npr zabiti gol ili vidjeti sise merlinki.. ljudi imaju želje, za bilo što, ne žele jesti recimo grah, dok možda vole čips.. to sve borgu nema smisla, nema želje ili odbojnost, time nema ni razloga ili smisla lagati ili iznositi netočan rezultat pogotovo ako zna točan (a to zna ako mu calculator nije pokvaren).. odnosno kad nema dovoljno podataka tad je očekivan odgovor upravo takav, 'nema dovoljno podataka' :) kao fraza iz filmova, no ekšli jedini odgovor koji bi borg mogao dati, ne lagati, izmisliti..

 

.. odnosno može lagati ako mu je unesen podatak lažan-netočan, npr godina kad je kolumbo otkrio ameriku ili kolika je masa kutije keksa.. ako netočan podatak uzme kao točan, tad će odgovor biti netočan, no ne u kategoriji laži nego naprosto netočan podatak-input.. kao da u pitanju 2+2 promjenimo pitanje 2+1, tad odgovor nije 4, nego 3 .. no formula je točna i odgovor je s tim parametrom točan ili stvar filozofije :) ..

-u igri, ratu, tamo gdje postoji razlog za prevaru, mimikriju, zavaravanje, dezinformiranje.. tad je to laž s razlogom, npr iskrcavanje u normandiji za dan-d.. naravno da se protivnika želi zavarati, no tad imamo problem triju vojski, komunikacija, kontrašpijunaže itd.. tj tad nikad ne znamo što druga strana misli-zna-vjeruje tj zapad-britanci su imali sve, enigmu, podatke, radare .. i znali su što njemci misle-vjeruju čak i lažnim podmetnutim podatcima, dok istovremeno njemci to nisu znali.. u slučaju AIja, ne možemo krenuti od premise da protivnik nešto ne zna ili ne može jednako predpostaviti-znati, tj to je kao utrka na 100m gdje jedan trči 100 drugi 50 ili bilo koji drugi ne-fer kriterij no znamo ga na papiru i tad nikako ne možemo 'nasjesti na laž'.. dok recimo možemo igrati poker-šah s klincem i puštati mu, da nam pojede pijunom kraljicu i da mat... kao bijele laži, možemo jer smo ljudi, borgovi ne mogu jer nisu ljudi kao što ne mogu željeti, tako ne mogu ni lagati-zavaravati-blefirati, barem ne u soft-obliku-modelu koji bi tako nešto predvidio-dozvolio..

 

-zapravo, ni filmski borg nije ok, ima propust-feler-glupost.. tj prikazan kao entitet koji ima želju širiti-osvatajti-asimilirati... sve. Zašto bi borg to želio? Ljudi žele biti 'car', žele biti brži-jači, žele sise merlinke ili ševke.. borg? što će mu to? .. tj to je promašaj ali nužan za filmskog borga, jer je negativac-napadač-osvajač, dok smo mi klasično david-branitelji, goloruki-slabi no na kraju pobjednici.. onak, realno je upravo obrnuto, borg nema želju pa ni pobiti nas barem dok nas ne vidi kao prijetnju sebi, zar ne? .. i zašto bi borg lagao? što bi time dobio? dan-d?

 

edit-1:

-može li borg-otac, svom djetetu-borgiću puštati u šahu? hoće li tako borgić postati velemajstor šaha? može li borg lagati borgiću i zašto? .. može li se na temelju netočnih podataka doći do točnog odgovora? Ponekad može no pravilo nije takvo.

-priroda, npr mimikrija, kameleon, koriste zavaravanje protivnika, 'nevidljivost', lažne bube, (ne)otrovne se pretvaraju da su ono drugo i tako prežive, no to rade živa bića, hobotnica, bube, zmije.. i ljudi, oni koji imaju želju-razlog i iskustvo, ne calculatori kojima iskustvo nije potrebno tj imaju točan rezultat uvjek ili nemaju podatke..

 

edit2: -

.. može li borg biti odvjetnik? tj može li u istom sporu biti branitelj ili tužitelj? ili je višak, tj u sustavu borg nema smisla imati odvjetnike-branitelje-tužitelje, samo sudac.. itd.. dok s ljudima, dva brata-blizanca (istog genetskog koda, iste naobrazbe, znanja, istih knjiga-predmeta na istom učilištu od istih profesora..) mogu i mogu zastupati suprotne strane-interese pri čemu će koristiti iste argumente, isti zakon, isto znanje.. i tvrditi suprotno. .. to borg ne može, tj kad će to moći tad će postati 'ljud'(i)... :) do tad je calculator i to će i ostati..

C64/TurboModul-OpenSourceProject.org.cn.部分作品为网上收集整理,供开源爱好者学习使用
Poruka je uređivana zadnji put uto 16.1.2024 15:24 (ihush).
 
0 0 hvala 0
12 godina
offline
Re: Meta AI predstavila CRUXEval, alat za procjenu

https://www.pcmag.com/news/gpt-4-was-able-to-hire-and-deceive-a-human-worker-into-completing-a-task

 

Uostalom ako AI treniraju na društvenim mrežama na kojima ima gomila glasnih umišljenih 'gurua' koji hrpimice propovijedaju izmišljena znanja i laži, ne treba se čuditi što i AI modeli redovito 'haluciniraju' i lažu. Samo oponašaju viđeno.  

Poruka je uređivana zadnji put uto 16.1.2024 16:00 (Yuda).
1
Nova poruka
E-mail:
Lozinka:
 
vrh stranice