Un grup de actuali și foști angajați ai unor companii de inteligență artificială (AI), inclusiv OpenAI, susținută de Microsoft (MSFT.O) și Google DeepMind și-au exprimat îngrijorarea cu privire la riscurile pe care le prezintă tehnologia emergentă.
O scrisoare deschisă a unui grup de 11 actuali și foști angajați ai OpenAI și un actual și un alt fost angajat al Google DeepMind a declarat că motivațiile financiare ale companiilor de inteligență artificială împiedică o supraveghere eficientă.
„Nu credem că structurile personalizate de guvernanță corporativă sunt suficiente pentru a schimba acest lucru”, se adaugă în scrisoare.
Aceasta avertizează, de asemenea, asupra riscurilor generate de IA nereglementată, de la răspândirea dezinformării la pierderea sistemelor independente de IA și la adâncirea inegalităților existente, care ar putea duce la „dispariția umană”.
Cercetătorii au găsit exemple de generatoare de imagini de la companii precum OpenAI și Microsoft care produc fotografii cu dezinformări legate de vot, în ciuda politicilor împotriva unui astfel de conținut.
Companiile de inteligență artificială au „obligații slabe” de a împărtăși cu guvernele informații despre capacitățile și limitările sistemelor lor, se arată în scrisoare, adăugând că nu se poate conta pe aceste firme pentru a împărtăși aceste informații în mod voluntar.
Scrisoarea deschisă este cea mai recentă care ridică probleme de siguranță în legătură cu tehnologia generativă de inteligență artificială, care poate produce rapid și ieftin texte, imagini și imagini asemănătoare cu cele umane.
