Un inginer de software de la Google a fost suspendat de companie pentru că a făcut public ceva ce nu ar fi real. Inginerul de software Blake Lemoyne a ajuns la concluzia că inteligenţa artificială (IA) LaMDA are propria sa conştiinţă.
Începând din toamna lui 2021, Blake Lemoyne a testat modelul de limbaj al reţelei neuronale LaMDA. În timp ce monitoriza dacă chatbot-ul foloseşte discurs discriminatoriu sau instigator la ură, dezvoltatorul Lemoyne a devenit din ce în ce mai convins că IA, cu care avea de-a face, avea propria sa conştiinţă şi se percepea pe sine ca o persoană, scrie Washington Post, citat de adevarul.ro.
„Inteligența artificială LaMDA are propria conștiință”
„Dacă nu ştiam sigur că am de-a face cu un program de calculator pe care l-am scris recent, atunci aş fi crezut că vorbesc cu un copil de şapte sau opt ani, care din anumite motive s-a dovedit a fi un expert în fizică”, a spus programatorul într-un interviu, insinuând că o astfel de evoluție a roboților ar putea duce umanitatea la pierire.
De asemenea, inginerul a subliniat că poate recunoaște o fiinţă inteligentă când vorbește cu ea, indiferent dacă are creier sau miliarde de linii de cod.
Potrivit publicației citate, Lemoyne a ajuns personal la concluzia că IA cu care avea de-a face era inteligentă. Apoi şi-a propus să demonstreze acest lucru experimental pentru a prezenta datele conducerii. Ceea ce a și făcut, însă superiorii au considerat că argumentul angajatului nu este foarte convingător.
„Echipa noastră, inclusiv eticieni şi experţi tehnici, a analizat preocupările lui Blake conform principiilor pe care le aplicăm IA şi l-am informat că dovezile disponibile nu susţin ipoteza lui. I s-a spus că nu există dovezi că LaMDA este conştient, şi există o mulţime de dovezi care arată contrariul”, a declarat purtătorul de cuvânt al Google, Brian Gabriel.
Ce a urmat pentru inginerul de software Blake Lemoyne
Google l-a suspectat pe Lemoyne de încălcarea politicii de confidenţialitate a companiei. S-a dovedit că, în timpul experimentelor sale cu AI, s-a consultat cu experţi terţi. El a contactat, de asemenea, reprezentanţi ai Comitetului Judiciar al Camerei Reprezentanţilor din SUA pentru a-i informa cu privire la ceea ce credea că sunt încălcări etice din partea Google. În plus, în încercarea de a demonstra superiorilor săi că are dreptate, Lemoyne a apelat la un avocat care trebuia să reprezinte interesele LaMDA ca o fiinţă rezonabilă.
Toate aceste lucruri i-au adus suspendarea lui Lemoyne și plasarea acestuia în concediu plătit. Ulterior, a decis să vorbească public şi a acordat un interviu pentru The Washington Post.
Din aceeași categorie
