Un grup de experți în tehnologie din întreaga lume au avertizat că tehnologia inteligenței artificiale ar trebui să fie considerată un risc societal și să fie tratată cu prioritate în aceeași clasă cu pandemiile și războaiele nucleare, relatează The Guardian.
Declarația, semnată de sute de directori și cadre universitare, a fost publicată de Centrul pentru siguranța inteligenței artificiale, pe fondul îngrijorărilor tot mai mari legate de reglementare și de riscurile pe care tehnologia le prezintă pentru omenire.
„Atenuarea riscului de extincție cauzat de IA ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”, se arată în declarație.
Printre semnatari s-au numărat directorii executivi ai DeepMind de la Google, dezvoltatorul OpenAI de ChatGPT și startup-ul de inteligență artificială Anthropic.
Liderii mondiali și experții din industrie – cum ar fi liderii OpenAI – au făcut apel la reglementarea tehnologiei din cauza temerilor existențiale că aceasta ar putea afecta în mod semnificativ piețele forței de muncă, dăuna sănătății a milioane de oameni și ar putea deveni o armă de dezinformare, discriminare și impersonare.
În această lună, cel care este adesea prezentat ca fiind nașul inteligenței artificiale – Geoffrey Hinton, de asemenea semnatar – a părăsit Google, invocând „riscul existențial” al acesteia.
Riscul a fost menționat și recunoscut săptămâna trecută pentru prima dată de către Nr. 10 – o schimbare rapidă de direcție în cadrul guvernului, care a venit la două luni după publicarea unei cărți albe privind inteligența artificială, despre care reprezentanții industriei au avertizat că este deja depășită.
În timp ce scrisoarea publicată marți nu este prima, aceasta este potențial cea mai importantă, având în vedere numărul mai mare de semnatari și preocuparea existențială de bază, potrivit lui Michael Osborne, profesor de învățare automată la Universitatea din Oxford și cofondator al Mind Foundry.
„Este cu adevărat remarcabil faptul că atât de mulți oameni au semnat această scrisoare. Acest lucru arată că există o conștientizare tot mai mare în rândul celor care lucrează în domeniul inteligenței artificiale că riscurile existențiale reprezintă o preocupare reală”, a spus el.
Potențialul IA de a exacerba riscurile existente, cum ar fi pandemiile proiectate și cursele militare de înarmare, sunt preocupări care l-au determinat pe Osborne să semneze scrisoarea publică, alături de noile amenințări existențiale ale IA.
Apelurile de limitare a amenințărilor urmează succesului ChatGPT, lansat în noiembrie. Modelul lingvistic a fost adoptat pe scară largă de milioane de persoane și a avansat rapid dincolo de previziunile celor mai bine informați din industrie.
„Deoarece nu înțelegem foarte bine inteligența artificială, există perspectiva ca aceasta să joace un rol ca un fel de nou organism concurent pe planetă, deci un fel de specie invazivă pe care am proiectat-o și care ar putea juca un rol devastator în supraviețuirea noastră ca specie”, a declarat Osborne.
Discussion about this post