AI are potențialul de a îmbunătăți semnificativ multe aspecte ale societății.
Această tehnologie, ca și altele dinaintea ei, le va oferi oamenilor mai multe capabilități și autonomie; ceea ce vor putea face oamenii cu AI va depăși cu mult ceea ce puteau face cu motoarele cu abur sau cu electricitatea.
Ne imaginăm o lume cu o prosperitate larg răspândită la un nivel care în prezent este greu de imaginat și o lume în care potențialul individual, autonomia și împlinirea cresc semnificativ. Multe dintre lucrurile pe care ne-am permis să le visăm doar în SF ar putea deveni realitate, iar majoritatea oamenilor ar putea duce vieți mai pline de sens decât reușesc cei mai mulți astăzi.
Dar acest rezultat nu este garantat. Puterea în viitor poate fi deținută fie de un mic număr de companii care folosesc și controlează superinteligența, fie poate fi deținută într-un mod descentralizat de oameni. Noi credem că a doua variantă este mult mai bună, iar obiectivul nostru este să punem o AI cu adevărat generală în mâinile cât mai multor oameni. La fel ca prezentul, viitorul nu va fi nici în întregime rău, nici în întregime bun, dar deciziile pe care le luăm acum pot ajuta la maximizarea binelui.
Misiunea noastră este să ne asigurăm că AGI aduce beneficii întregii omeniri. Iată principiile care ne ghidează activitatea.
1. Democratizare. Vom rezista tendinței acestei tehnologii de a concentra puterea în mâinile câtorva.
Asta înseamnă că, pe lângă faptul de a oferi tuturor acces la AI, trebuie să ne asigurăm că deciziile-cheie despre AI sunt luate prin procese democratice și pe baza unor principii egalitare, nu doar de laboratoarele de AI.
2. Capacitare. Credem că AI le poate da tuturor puterea de a-și atinge obiectivele, de a învăța mai mult, de a fi mai fericiți și mai împliniți și de a-și urma visurile și că societatea în ansamblu va beneficia de acest lucru.
Pentru a realiza acest lucru, trebuie să le permitem oamenilor să exploreze potențialul enorm din fața noastră și trebuie să construim produse care fac posibil acest lucru. Utilizatorii ar trebui să poată realiza în mod fiabil sarcini din ce în ce mai valoroase cu serviciile noastre.
Lumea este diversă, iar oamenii au nevoi diferite. Vrem să le oferim utilizatorilor autonomia de care au nevoie și să permitem cât mai mult posibil în mod rezonabil.
Deși vrem să le oferim utilizatorilor noștri o marjă foarte largă de libertate în modul în care folosesc serviciile noastre și credem cu tărie că AI va fi, în ansamblu, extrem de benefică, avem responsabilitatea de a o construi și implementa într-un mod care minimizează daunele. Asta include, desigur, prevenirea daunelor catastrofale, dar și minimizarea daunelor locale și evitarea unor potențiale efecte sociale corozive. Asta va însemna să înclinăm spre prudență în fața incertitudinii și să relaxăm constrângerile pe măsură ce apar mai multe dovezi.
3. Prosperitate universală. Ne dorim un viitor în care toată lumea să poată avea o viață excelentă.
Punând în mâinile tuturor sisteme de AI ușor de folosit, cu multă putere de calcul, credem că oamenii vor găsi noi modalități de a genera valoare și de a îmbunătăți masiv calitatea vieții pentru toți, mai ales prin descoperirea de noi științe.
Pentru ca prosperitatea să fie realizată pe deplin și împărtășită pe scară largă, credem că 1) guvernele noastre ar putea trebui să ia în considerare noi modele economice pentru a se asigura că toată lumea poate participa la crearea valorii care ne stă înainte și 2) trebuie să construim cantități uriașe de infrastructură AI și să dezvoltăm noi tehnologii pentru a reduce foarte mult costurile infrastructurii AI.
Multe dintre lucrurile pe care le facem și care par ciudate — cumpărarea unor cantități uriașe de putere de calcul în timp ce veniturile noastre sunt relativ mici, integrarea verticală pentru a reduce costurile și a face tehnologia noastră mai ușor de folosit, impulsul de a construi centre de date în întreaga lume și multe altele — sunt determinate de convingerea noastră fundamentală într-un viitor al prosperității universale.
4. Reziliență. AI va introduce noi riscuri, iar noi vom colabora cu alte companii, ecosisteme, guverne și cu societatea pentru a le rezolva. Vom folosi într-o măsură semnificativă resursele Fundației noastre pentru a sprijini această activitate.
Niciun laborator de AI nu poate asigura singur un viitor bun. Un exemplu evident este că pot exista modele extrem de capabile care fac mai ușoară crearea unui nou agent patogen și avem nevoie de o abordare la nivelul întregii societăți pentru a ne apăra împotriva acestui lucru prin contramăsuri independente de agentul patogen. Un alt exemplu este că, pe măsură ce cresc capacitățile de securitate cibernetică ale modelelor, trebuie să folosim rapid aceste modele pentru a ajuta la securizarea software-ului open-source și a infrastructurii critice, instruind în același timp modelele să-i ajute pe toți să creeze software mai sigur.
Aceasta este o extindere a strategiei noastre de lungă durată de implementare iterativă; credem că societatea trebuie să se confrunte cu fiecare nivel succesiv al capacităților AI, să îl înțeleagă, să îl integreze și să stabilească împreună cea mai bună cale de urmat. Acest lucru nu se poate face în vid; societatea și tehnologia coevoluează, iar asta necesită timp.
Nu vrem să spunem că aceasta este singura noastră strategie de siguranță; trebuie, de asemenea, să dezvoltăm sisteme sigure și să continuăm munca excelentă privind alinierea tehnică.
Ne așteptăm să existe perioade în care va trebui să colaborăm cu guverne, agenții internaționale și alte eforturi AGI pentru a ne asigura că am rezolvat suficient de bine problemele serioase de aliniere, siguranță sau de natură socială înainte de a merge mai departe cu activitatea noastră.
5. Adaptabilitate. Continuăm să credem că singura modalitate de a face față provocărilor unui viitor foarte imprevizibil este să fim pregătiți să ne actualizăm pozițiile pe măsură ce învățăm mai mult. Recunoaștem, de asemenea, că OpenAI este o forță mult mai mare în lume decât era acum câțiva ani și vom fi transparenți cu privire la momentul, modul și motivele pentru care principiile noastre de funcționare se schimbă. Ca exemplu concret, deși suntem destul de încrezători că prosperitatea universală va rămâne foarte importantă, ne putem imagina perioade în viitor în care va trebui să sacrificăm o parte din capacitare pentru mai multă reziliență.
Dezvoltarea AI a adus multe surprize și urmează și altele. Pe măsură ce tehnologia avansează, comportamentele sale emergente vor deveni tot mai greu de prezis. Noi acceptăm această incertitudine avansând cu grijă capacitățile, implementând sistemele iterativ și învățând din interacțiunile lor cu lumea.
Nu cu mult timp în urmă eram îngrijorați să publicăm ponderile lui GPT‑2 pentru că nu eram siguri care vor fi impacturile asupra societății. Evident, retrospectiv, aceasta a fost o îngrijorare nefondată, dar ne-a condus la descoperirea strategiei de implementare iterativă, care a fost unul dintre cele mai importante lucruri pe care le-am înțeles.
__
Intrăm într-o etapă cu impact foarte mare pe măsură ce tehnologia continuă să se îmbunătățească. Este absolut legitim să fim criticați pentru fiecare decizie; merităm un nivel enorm de examinare având în vedere importanța a ceea ce facem. Nu vom face totul corect, dar vom învăța rapid și vom corecta direcția.
Ne angajăm să ne facem partea pentru ca viitorul să fie mai bun decât trecutul; ne considerăm norocoși că putem să ne asumăm o muncă atât de importantă.
