Timp de o jumătate de secol, Geoffrey Hinton a dezvoltat tehnologia care stă la baza chatbots precum ChatGPT. Acum, el se teme că aceasta poate deveni un real pericol, informează New York Times.
Geoffrey Hinton a fost un pionier al inteligenței artificiale. În 2012, Dr. Hinton și doi dintre studenții săi absolvenți de la Universitatea din Toronto au creat o tehnologie care a devenit baza intelectuală pentru sistemele de inteligență artificială pe care cele mai mari companii din industria tehnologică le consideră cheia viitorului lor.
Luni, însă, el s-a alăturat oficial unui cor tot mai mare de critici care spun că aceste companii se îndreaptă cu viteză spre reale pericole prin campania lor agresivă de a crea produse bazate pe inteligența artificială generativă, tehnologia care alimentează chatbots precum ChatGPT.
Dr. Hinton a declarat că a renunțat la jobul lui de la Google, unde a lucrat mai mult de un deceniu și a devenit una dintre cele mai respectate voci din domeniu, pentru a putea vorbi liber despre riscurile inteligenței artificiale. o parte din el, a spus el, regretă acum munca sa de o viață.
„Mă consolez cu scuza obișnuită: dacă nu aș fi făcut-o eu, altcineva ar fi făcut-o”, a declarat Dr. Hinton în timpul unui interviu lung, săptămâna trecută, în sufrageria casei sale din Toronto, la mică distanță de locul unde el și studenții săi au făcut descoperirea.
Călătoria doctorului Hinton de la pionier al inteligenței artificiale la un om care condamnă astfel de tehnologii marchează un moment extrem de important pentru acest domenii, poate cel mai important punct de inflexiune din ultimele decenii. Liderii din industrie consideră că noile sisteme de inteligență artificială ar putea fi la fel de importante ca și introducerea browserului web la începutul anilor 1990 și ar putea duce la descoperiri în domenii care variază de la cercetarea farmaceutică la educație.
Dar pe mulți dintre cei din industrie îi macină teama că lansează ceva periculos în natură. Inteligența artificială generativă poate fi deja un instrument de dezinformare. În curând, ar putea reprezenta un risc pentru locurile de muncă. La un moment dat, spun cei care se tem cel mai mult de tehnologie, ar putea fi un risc pentru umanitate.
„Este greu de văzut cum poți împiedica actorii răi să o utilizeze pentru lucruri rele”, a declarat Dr. Hinton.
După ce OpenAI, un start-up din San Francisco, a lansat în martie o nouă versiune a ChatGPT, peste 1.000 de lideri din domeniul tehnologiei și cercetători au semnat o scrisoare deschisă în care au cerut un moratoriu de șase luni asupra dezvoltării de noi sisteme, deoarece tehnologiile de inteligență artificială prezintă „riscuri profunde pentru societate și umanitate”.
Câteva zile mai târziu, 19 actuali și foști lideri ai Asociației pentru Progresul Inteligenței Artificiale, o societate academică cu o vechime de 40 de ani, au publicat propria scrisoare în care avertizau asupra riscurilor I.A. Din acest grup făcea parte Eric Horvitz, director științific la Microsoft, care a implementat tehnologia OpenAI într-o gamă largă de produse, inclusiv în motorul său de căutare Bing.
Dr. Hinton, numit adesea „nașul inteligenței artificiale”, nu a semnat niciuna dintre aceste scrisori și a declarat că nu a dorit să critice public Google sau alte companii până când nu își va părăsi locul de muncă. Luna trecută, el a anunțat compania că demisionează, iar joi a vorbit la telefon cu Sundar Pichai, directorul executiv al companiei mamă a Google, Alphabet. El a refuzat să discute în mod public detaliile conversației sale cu domnul Pichai.
Șeful departamentului de știință al Google, Jeff Dean, a spus într-o declarație: „Rămânem dedicați unei abordări responsabile față de inteligența artificială. Învățăm continuu pentru a înțelege riscurile emergente, în timp ce inovăm cu îndrăzneală.”
Dr. Hinton, un expatriat britanic în vârstă de 75 de ani, este un academician de o viață, a cărui carieră a fost determinată de convingerile sale personale cu privire la dezvoltarea și utilizarea I.A. În 1972, în calitate de student absolvent la Universitatea din Edinburgh, Dr. Hinton a îmbrățișat o idee numită rețea neuronală. O rețea neuronală este un sistem matematic care învață abilități prin analizarea datelor. La acea vreme, puțini cercetători credeau în această idee. Dar aceasta a devenit munca vieții sale.
În anii 1980, Dr. Hinton a fost profesor de informatică la Universitatea Carnegie Mellon, dar a părăsit universitatea pentru Canada, deoarece a declarat că a fost reticent în a accepta finanțarea Pentagonului. La acea vreme, cea mai mare parte a cercetării în domeniul inteligenței artificiale din Statele Unite era finanțată de Departamentul Apărării. Dr. Hinton se opune profund utilizării inteligenței artificiale pe câmpul de luptă – ceea ce el numește „soldați roboți”.
În 2012, Dr. Hinton și doi dintre studenții săi din Toronto, Ilya Sutskever și Alex Krishevsky, au construit o rețea neuronală care poate analiza mii de fotografii și se poate învăța singură să identifice obiecte comune, cum ar fi flori, câini și mașini.
Discussion about this post