Discursul lui Sam Altman la Consiliul de Securitate al ONU

Astăzi, Sam Altman, CEO-ul OpenAI, s-a adresat Consiliului de Securitate al Organizației Națiunilor Unite pe tema inteligenței artificiale. El a discutat despre potențialul AI de a extinde oportunitățile, despre importanța menținerii sistemelor puternice sub control uman și despre nevoia cooperării internaționale pentru siguranța AI.

Vă mulțumesc, domnule președinte și Excelențele Voastre. Este o onoare să mă aflu aici și să vă pot vorbi tuturor în acest moment important.

Vorbim despre inteligența artificială de ani buni, dar în ultimele săptămâni și luni situația pare diferită. Progresul rapid al modelelor a făcut ca timpul disponibil să pară mai scurt, beneficiile mai concrete, iar miza și riscurile mai imediate.

Avem de făcut o alegere. AI poate aduce fie o nouă Renaștere a creativității și descoperirii, fie o nouă Revoluție industrială marcată de tulburări și dezordine.

Renașterea a fost o epocă în care instrumente, idei și instituții noi au extins limitele a ceea ce oamenii credeau că pot face. AI poate juca acest rol în epoca noastră. Cred că oamenii sunt mult mai capabili decât își imaginează, dar au fost limitați de o tehnologie care trebuia să le ofere mai multă putere, însă care, în schimb, le distrage atenția și adesea le-o acaparează.

Cea mai bună versiune a AI nu presupune transformarea oamenilor în rotițe ale unei mașinării uriașe și nici optimizarea fiecărei părți a vieții până când elementele umane dispar. Este vorba despre a le oferi oamenilor mai multă autonomie într-o lume tot mai complexă: mai multă capacitate de a învăța, crea, descoperi, construi și participa. Există multe lucruri pe care AI nu le poate automatiza și nici nu ar trebui să o facă.

AI ar trebui construită pentru oameni, nu doar pentru a face mașinăriile să funcționeze mai repede ca scop în sine. Unele dintre afirmațiile celor care lucrează la construirea AI sunt atât de distopice, încât par desprinse din scenariul unui film SF prost.

Orice lucru atât de puternic este și intimidant. Este un moment complicat, în care simțim simultan un potențial uriaș și o neliniște cât se poate de firească.

Aceste modele îi pot ajuta pe oameni să dobândească noi cunoștințe, să descopere medicamente noi, să îmbunătățească asistența medicală și educația și să construiască economii mai productive. Ele pot fi instrumente noi cu care oamenii să-și urmeze visurile și aspirațiile care astăzi par inaccesibile. Pentru omul obișnuit, complexitatea vieții a crescut enorm. AI poate fi atât un instrument de apărare împotriva acestei complexități, cât și unul al descoperirii și inovării fără precedent.

Pe de altă parte, pe măsură ce sistemele de AI devin mai capabile și mai autonome, ele ar putea evolua mai repede decât instituțiile noastre, ar putea concentra puterea în prea puține mâini sau ar putea lua decizii pe care oamenii nu le mai înțeleg și nu le mai controlează.

Această preocupare devine deosebit de importantă pe măsură ce ne apropiem de sisteme capabile să se îmbunătățească pe ele însele și să îmbunătățească versiunile lor viitoare, un proces numit adesea autoîmbunătățire recursivă. Pe măsură ce procesul de dezvoltare a AI devine tot mai automatizat, ritmul progresului AI s-ar putea accelera rapid. Acest moment impune o prudență extremă.

Sunt în mare măsură de acord cu profesorul Bengio. Deși eu voi spune două în loc de trei, cred că există două moduri în care progresul AI ar putea lua o turnură foarte rea și pe care trebuie să le evităm.

În primul rând, am putea pierde în fața AI controlul asupra viitorului. Riscul este ca ea să evolueze atât de repede, încât oamenii să nu mai poată urmări ce se întâmplă sau interveni când este nevoie. Evident, acest lucru ar fi îngrozitor.

Industria nu trebuie să accepte riscuri tehnologice excesive doar pentru că beneficiile sunt uriașe și par prea importante pentru a încetini ritmul. Dorința de a învinge alte companii într-o cursă competitivă nu justifică deciziile pripite. Și nici nu credem că suntem prinși într-o cursă în care nu putem încetini. În trecut, am încetinit din proprie inițiativă. Vom proceda la fel și în viitor. Nu vrem să construim sisteme — și credem că este important ca nimeni să nu construiască astfel de sisteme — pentru care nu putem oferi garanțiile necesare de aliniere, monitorizare și siguranță.

Trebuie să înțelegem ce fac aceste sisteme și să avem dovezi solide că vor acționa așa cum intenționează oamenii, chiar și atunci când devin extrem de inteligente. De fapt, mai ales atunci când devin extrem de inteligente. Nu contează dacă oamenii estimează riscul unei catastrofe la 10%, 1%, 12% sau 0,1%. Niciunul dintre aceste niveluri nu este nici pe departe acceptabil. Și nu ar trebui să antrenăm modele dacă nu putem demonstra extrem de convingător că le vom putea menține sub control uman.

Așadar, acesta este unul dintre modurile în care lucrurile pot merge prost. La cealaltă extremă, aceste sisteme ar putea concentra prea multă putere în prea puține mâini. Nicio persoană, companie sau țară nu ar trebui să poată folosi cele mai puternice modele AI pentru a-și impune viziunea asupra lumii tuturor celorlalți. O companie sau o țară care crede că doar ei i se poate încredința această tehnologie poate folosi această convingere pentru a justifica aproape orice altceva. Trebuie să respingem această logică, chiar și atunci când îi convine unui anumit actor.

Cred că există o cale pragmatică printre aceste două extreme. La OpenAI, abordăm aceste întrebări având un obiectiv clar: AI ar trebui să le ofere oamenilor mai multă putere asupra propriilor vieți. Mai multă libertate de a trăi așa cum își doresc. Mai multă capacitate de a rezolva probleme, mari sau mici, și de a-și îmbunătăți comunitățile. Nu vrem să cădem în capcana optimismului orb. Dar nici în capcana fatalismului. Dacă ne lăsăm atrași de oricare dintre aceste extreme, nu vom putea găsi soluții bune la provocările din fața noastră, mai ales într-o perioadă în care lumea și oamenii ei se confruntă cu probleme uriașe pe care această tehnologie poate contribui la rezolvarea lor. De aceea, încercăm să urmăm calea de mijloc dintre acești doi poli.

Pentru noi, aceasta înseamnă trei principii.

În primul rând, pe măsură ce AI devine mai capabilă, oamenii trebuie să rămână în centrul deciziilor luate cu ajutorul ei. Alinierea nu este o problemă abstractă de cercetare. Ea presupune să ne asigurăm că aceste sisteme rămân în mod fiabil sub control uman, reflectă valorile umane și îi ajută pe oameni să orienteze următoarele etape ale dezvoltării. Nu încercăm și nici nu trebuie să automatizăm judecata sau valorile umane.

În al doilea rând, beneficiile progresului științific și ale creșterii economice trebuie create de oameni și pentru oameni. AI ar trebui să-i ajute pe cercetători să facă descoperiri, pe medici să trateze pacienți, pe profesori să-și educe elevii, pe antreprenori să înființeze companii, iar comunitățile să rezolve probleme care păreau imposibile și multe altele. Firul neîntrerupt al progresului uman nu arată că instrumentele înlocuiesc capacitatea oamenilor de a acționa. Arată că instrumentele potrivite îi fac pe oameni mai capabili, iar eu cred că acest lucru va merge mult mai departe decât ne imaginăm că este posibil.

În al treilea rând, această tehnologie trebuie să-i ajute pe oameni să devină mai puternici ca indivizi. Un viitor extraordinar va fi construit de oameni care își valorifică potențialul și creează valoare pentru ei înșiși, pentru comunitățile și țările lor și pentru întreaga lume. Poate că suntem printre cei care construiesc această tehnologie, dar nu noi suntem eroii acestei povești. Rolul nostru este să le oferim oportunități oamenilor din întreaga lume și să avem încredere în magia talentului și a capacităților umane.

Avem acum modele capabile să descopere cunoștințe la care nu am avut niciodată acces. Gândește-te la progresele pe care le-am văzut în matematică. Acum trei veri, modelele noastre se descurcau acceptabil la matematica de școală primară. Acum două veri, se descurcau destul de bine la concursurile de matematică pentru liceeni. Vara trecută, am atins nivelul unei medalii de aur la cea mai prestigioasă competiție internațională de matematică. Iar în urmă cu doar câteva săptămâni, în această vară, unul dintre modelele noastre a rezolvat una dintre Problemele Premiului Mileniului: ecuațiile Navier–Stokes.

Aceste ecuații sunt folosite la proiectarea aeronavelor, prognoza meteo și studiul fluxului sanguin. Nu rezolvăm probleme de matematică doar de dragul matematicii, ci pentru a le permite oamenilor să descopere cunoștințe noi și să le folosească pentru a îmbunătăți asistența medicală, a ridica nivelul de trai și a extinde potențialul tuturor, oriunde în lume. Mai sunt încă atât de multe de descoperit.

Dar este foarte important ca firmele să nu se substituie procesului democratic.

Dacă AI trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar de laboratoarele din San Francisco. Ele trebuie conturate prin procese democratice și de guverne care răspund în fața oamenilor pe care îi servesc.

La nivel internațional, acest lucru va necesita cooperare. De-a lungul istoriei, au existat momente când țări aflate în competiție și care nu se simpatizau prea mult s-au unit totuși în numele intereselor comune și al binelui colectiv, în fața unei noi tehnologii puternice. Credem că acesta trebuie să fie unul dintre acele momente.

Avem nevoie de un mecanism pentru standarde naționale și internaționale complementare privind AI de vârf: standarde pentru măsurarea capacităților, evaluarea riscurilor, stabilirea caracterului suficient al măsurilor de protecție și păstrarea unei supravegheri umane semnificative pe măsură ce sistemele devin mai autonome.

Avem nevoie de standarde comune, astfel încât țările să poată compara dovezile, verifica respectarea cerințelor și avea un limbaj și o înțelegere comune asupra a ceea ce se întâmplă.

Avem nevoie de raportarea rapidă și precisă a incidentelor, precum și de protocoale de clasificare și raportare, pentru ca lumea să poată învăța din eșecuri înainte ca acestea să devină catastrofe.

Și avem nevoie de canale securizate prin care guvernele, operatorii infrastructurilor critice și experții tehnici să comunice vulnerabilitățile emergente și noile amenințări.

Evident, aceste standarde nu ar trebui să consolideze poziția actorilor consacrați și nici să favorizeze un model de afaceri în detrimentul altuia. Ele trebuie să sprijine dezvoltatorii de modele deschise și închise, noii actori și laboratoarele consacrate, autoritatea națională și cooperarea internațională. Fiecare guvern ar trebui să decidă cum să integreze standardele în propriul sistem juridic. Dar tuturor ne va fi mai bine dacă putem conveni, la nivel global, ce înseamnă dovezi solide, măsuri de protecție adecvate și o bună supraveghere.

Nu avem toate răspunsurile și suntem foarte deschiși la orice idee mai bună. Suntem gata să colaborăm cu tine și să facem tot posibilul pentru a găsi calea de urmat.

Ne aflăm la o răscruce. O cale duce spre o lume în care puterea este concentrată, deciziile sunt opace, iar oamenii simt că cea mai importantă tehnologie din viața lor este ceva ce li se impune. Cealaltă cale duce spre o lume în care AI lucrează în beneficiul oamenilor, deoarece aceștia contribuie, prin instituții democratice, la deciziile privind dezvoltarea și orientarea ei; în care progresul științific îmbunătățește vieți reale; în care mai mulți oameni pot participa la construirea viitorului; și în care această tehnologie continuă să le ofere oamenilor și comunităților mai multă putere de a trăi așa cum aleg. Este un viitor al potențialului valorificat, al entuziasmului și al uimirii.

Și este viitorul pe care credem că merită să-l construim. Îți mulțumim foarte mult.