Cu toate acestea, luni, 1 mai, el s-a alăturat oficial unui cor tot mai mare de critici care spun că aceste companii se îndreaptă spre pericol prin campania lor agresivă de a crea produse bazate pe inteligența artificială generativă (GPT), tehnologia care alimentează chatboți populari precum ChatGPT.

Dr. Hinton a declarat că a renunțat la postul său de la Google, unde a lucrat mai bine de un deceniu și a devenit una dintre cele mai respectate voci din domeniu, pentru a putea vorbi liber despre riscurile inteligenței artificiale. O parte din el, a spus Hinton, regretă acum munca sa de o viață.

„Mă consolez cu scuza obișnuită: dacă nu aș fi făcut-o eu, altcineva ar fi făcut-o”, a declarat Dr. Hinton în timpul unui interviu acordat presei în sufrageria casei sale din Toronto, la mică distanță de locul unde el și studenții săi au făcut descoperirea.

Călătoria doctorului Hinton de la pionier al inteligenței artificiale la cel care a pus capăt acestei „catastrofe” marchează un moment remarcabil pentru industria IT, poate cel mai important punct de inflexiune din ultimele decenii. Liderii industriei consideră că noile sisteme de inteligență artificială ar putea fi la fel de importante ca și introducerea browserului web la începutul anilor 1990 și ar putea duce la descoperiri în domenii care variază de la cercetarea în domeniul medicamentelor la educație.

Dar mulți analiști și experți din cadrul industriei se arată îngrijorați că are loc lansarea unor programe „periculoase” în lume. Inteligența artificială generativă (GPT) poate fi deja un instrument de dezinformare, iar curând, ar putea reprezenta un risc pentru locurile de muncă. La un moment dat, spun cei care se tem cel mai mult de tehnologie, ar putea fi un risc pentru umanitate.

„Este greu de văzut cum poți împiedica actorii răi să o folosească pentru lucruri rele”, a declarat Dr. Hinton.

După ce OpenAI, un start-up din San Francisco, a lansat în martie o nouă versiune a ChatGPT, peste 1.000 de lideri din domeniul tehnologiei și cercetători au semnat o scrisoare deschisă în care au cerut un moratoriu de șase luni asupra dezvoltării de noi sisteme, deoarece tehnologiile de inteligență artificială prezintă „riscuri profunde pentru societate și umanitate”.

Câteva zile mai târziu, 19 actuali și foști lideri ai Asociației pentru Progresul Inteligenței Artificiale, o societate academică cu o vechime de 40 de ani, au publicat propria scrisoare în care avertizau asupra riscurilor AI. Din acest grup făcea parte Eric Horvitz, director științific la Microsoft, care a implementat tehnologia OpenAI într-o gamă largă de produse, inclusiv în motorul său de căutare Bing.

Dr. Hinton, numit adesea „nașul AI”, nu a semnat niciuna dintre aceste scrisori și a declarat că nu a dorit să critice public Google sau alte companii până când nu își va părăsi locul de muncă. Luna trecută, el a anunțat compania că demisionează, iar joi a vorbit la telefon cu Sundar Pichai, directorul executiv al companiei mamă a Google, Alphabet. El a refuzat să discute în mod public detaliile conversației sale cu Pichai.

Șeful departamentului de știință al Google, Jeff Dean, a declarat într-o declarație: „Rămânem dedicați unei abordări responsabile față de inteligența artificială. Învățăm continuu pentru a înțelege riscurile emergente, în timp ce inovăm cu îndrăzneală.”

Dr. Hinton, un expatriat britanic în vârstă de 75 de ani, este un profesor universitar de o viață, a cărui carieră a fost determinată de convingerile sale personale în ceea ce privește dezvoltarea și utilizarea inteligenței artificiale. În 1972, în calitate de student absolvent la Universitatea din Edinburgh, Dr. Hinton a emis o idee numită rețea neuronală. O rețea neuronală este un sistem matematic care învață abilități prin analizarea datelor. La acea vreme, puțini cercetători credeau în această idee. Dar aceasta a devenit munca vieții sale.

În anii 1980, Dr. Hinton a fost profesor de informatică la Universitatea Carnegie Mellon, dar a părăsit universitatea pentru Canada, deoarece a declarat că a fost reticent în a accepta finanțarea Pentagonului. La acea vreme, cea mai mare parte a cercetării în domeniul inteligenței artificiale din Statele Unite era finanțată de Departamentul Apărării. Dr. Hinton se opune profund utilizării inteligenței artificiale pe câmpul de luptă - ceea ce el numește „soldați roboți”.

În 2012, Dr. Hinton și doi dintre studenții săi din Toronto, Ilya Sutskever și Alex Krishevsky, au construit o rețea neuronală care poate analiza mii de fotografii și se poate învăța singură să identifice obiecte comune, cum ar fi flori, câini și mașini.

Google a cheltuit 44 de milioane de dolari pentru a achiziționa o companie înființată de Dr. Hinton și de cei doi studenți ai săi. Iar sistemul lor a dus la crearea unor tehnologii din ce în ce mai puternice, inclusiv a unor noi roboți de chat, precum ChatGPT și Google Bard. Ilia Sutskever a continuat să devină cercetător șef la OpenAI. În 2018, Dr. Hinton și alți doi colaboratori de lungă durată au primit Premiul Turing, adesea numit „Premiul Nobel al informaticii”, pentru activitatea lor în domeniul rețelelor neuronale.

Cam în aceeași perioadă, Google, OpenAI și alte companii au început să construiască rețele neuronale care să învețe din cantități uriașe de text digital. Dr. Hinton a considerat că era o modalitate puternică pentru ca mașinile să înțeleagă și să genereze limbaj, dar era inferioară modului în care oamenii gestionau limbajul.

Apoi, anul trecut, pe măsură ce Google și OpenAI au construit sisteme care foloseau cantități mult mai mari de date, opinia sa s-a schimbat. El credea în continuare că sistemele erau inferioare creierului uman în unele privințe, dar credea că eclipsau inteligența umană în altele. „Poate că ceea ce se întâmplă în aceste sisteme”, a spus el, „este de fapt mult mai bun decât ceea ce se întâmplă în creier”.

Pe măsură ce companiile își îmbunătățesc sistemele de inteligență artificială, crede el, acestea devin din ce în ce mai periculoase. „Uitați-vă cum era acum cinci ani și cum este acum”, a spus el despre tehnologia AI. „Luați diferența și propagați-o înainte. Asta este înfricoșător”.

Până anul trecut, a spus el, Google a acționat ca un „administrator adecvat” pentru această tehnologie, atent să nu lanseze ceva care ar putea provoca daune. Dar acum că Microsoft și-a îmbogățit motorul de căutare Bing cu un chatbot - provocând activitatea principală a Google - Google se grăbește să implementeze același tip de tehnologie. Giganții tehnologiei sunt blocați într-o competiție care ar putea fi imposibil de oprit, a declarat Dr. Hinton.

Preocuparea sa imediată este că internetul va fi inundat de fotografii, videoclipuri și texte false, iar persoana obișnuită „nu va mai fi capabilă să știe ce este adevărat”.

De asemenea, el este îngrijorat de faptul că tehnologiile de inteligență artificială vor bulversa în timp piața muncii. În prezent, roboții de chat, precum ChatGPT, tind să completeze lucrătorii umani, dar ar putea înlocui asistenții judiciari, asistenții personali, traducătorii și alte persoane care se ocupă de sarcini repetitive. „Elimină munca de rutină”, a spus el. „Ar putea elimina mai mult decât atât”.

Pe viitor, el este îngrijorat că viitoarele versiuni ale tehnologiei reprezintă o amenințare pentru umanitate, deoarece acestea învață adesea comportamente neașteptate din cantitățile uriașe de date pe care le analizează. Acest lucru devine o problemă, a spus el, pe măsură ce indivizii și companiile permit sistemelor de inteligență artificială nu numai să genereze propriul cod informatic, ci și să ruleze efectiv acest cod pe cont propriu. Și se teme de o zi în care armele cu adevărat autonome - acei roboți ucigași - vor deveni realitate.