upozorenje još jednog naučnika

'Kum umjetne inteligencije' dao otkaz u Googleu: "Opasnosti AI chatbota su zastrašujuće"

Tehno 02.05.23, 09:09h

'Kum umjetne inteligencije' dao otkaz u Googleu:
Pionirsko istraživanje dr. Hintona o dubokom učenju i neuronskim mrežama otvorilo je put za sadašnje AI sustave poput ChatGPT-a. U članku u New York Timesu Hinton je spominjao "loše ljude" koji bi pokušali koristiti AI za "loše stvari"


Čovjek kojeg mnogi nazivaju kumom umjetne inteligencije dao je otkaz i upozorio "na sve veće opasnosti od razvoja na polju AI-a". Geoffrey Hinton (75) najavio je ostavku u Googleu u intervjuu za New York Times, rekavši da sada žali zbog svog rada, prenosi Index.hr.


Za BBC je rekao da su neke od opasnosti AI chatbota "prilično zastrašujuće". "Trenutno nisu inteligentniji od nas, koliko ja vidim. Ali mislim da bi uskoro mogli biti", rekao je. Pionirsko istraživanje dr. Hintona o dubokom učenju i neuronskim mrežama otvorilo je put za sadašnje AI sustave poput ChatGPT-a.


No, britansko-kanadski psiholog i informatičar rekao je za BBC da bi chatbot uskoro mogao prestići razinu informacija koju čuva ljudski mozak.


"Upravo sada vidimo da stvari poput GPT-4 zasjenjuju osobu u količini općeg znanja koje ima. U smislu rezoniranja, nije tako dobro, ali već jest u smislu jednostavnih obrazloženja. S obzirom na brzinu napretka, očekujemo da će prilično brzo postati sve bolji. Stoga moramo biti zabrinuti", rekao je za BBC.


"Scenarij iz noćne more"


U članku u New York Timesu Hinton je spominjao "loše ljude" koji bi pokušali koristiti AI za "loše stvari". Kada ga je BBC upitao da to pojasni, odgovorio je: "Ovo je samo vrsta najgoreg mogućeg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primjer, nekog poput ruskog predsjednika Vladimira Putina koji je odlučio dati robotima mogućnost stvaranja vlastitih pod-ciljeva."


Znanstvenik je upozorio da bi to na kraju moglo "stvoriti podciljeve poput 'Moram dobiti više snage'". "Došao sam do zaključka da se vrsta inteligencije koju razvijamo jako razlikuje od inteligencije koju imamo. Mi smo biološki sustavi, a ovo su digitalni sustavi. A velika je razlika u tome što s digitalnim sustavima imate mnogo kopija istog modela svijeta", rekao je.


"I sve te kopije mogu učiti zasebno, ali odmah dijele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ti chatbotovi mogu znati mnogo više od bilo koje osobe", zaključuje.


Hinton je također rekao da postoji nekoliko drugih razloga zbog kojih je dao otkaz. "Jedan je taj da imam 75 godina. Dakle, vrijeme je za mirovinu. Drugi je - zapravo želim reći neke dobre stvari o Googleu. A one su vjerodostojnije ako ne radim za Google", kaže.


Naglasio je da ne želi kritizirati Google te da je tehnološki div bio "vrlo odgovoran".


"Ostajemo predani odgovornom pristupu umjetnoj inteligenciji. Kontinuirano učimo razumjeti nove rizike dok hrabro inoviramo", izjavio je glavni znanstvenik Googlea Jeff Dean.


(DEPO PORTAL/jk)

BLIN
KOMENTARI