OpenAI

Fjala e Sam Altman në Këshillin e Sigurimit të OKB-së

Sot, drejtori ekzekutiv i OpenAI, Sam Altman, mbajti një fjalim për inteligjencën artificiale në Këshillin e Sigurimit të Kombeve të Bashkuara. Ai foli për potencialin e IA-së për të krijuar më shumë mundësi, rëndësinë e mbajtjes së sistemeve të fuqishme nën kontrollin njerëzor dhe nevojën për bashkëpunim ndërkombëtar në fushën e sigurisë së IA-së.

Fjala e mbajtur

Faleminderit, zoti President dhe Shkëlqesi. Është nder për mua të jem këtu dhe të mund t'ju drejtohem të gjithëve në këtë moment të rëndësishëm.

Prej vitesh flasim për inteligjencën artificiale, por javët dhe muajt e fundit situata duket ndryshe. Përparimi i shpejtë i modeleve na ka bërë të ndiejmë se afatet kohore janë shkurtuar dhe përfitimet e mundshme janë bërë më të prekshme, por edhe se rëndësia e asaj që është në lojë dhe rreziqet janë bërë më të menjëhershme.

Kemi përpara një zgjedhje. IA-ja mund të sjellë një Rilindje të re të krijimtarisë dhe zbulimeve, ose një Revolucion të ri Industrial, të shoqëruar me ndryshime rrënjësore dhe kaos.

Rilindja ishte një periudhë kur mjetet, idetë dhe institucionet e reja zgjeruan kufijtë e asaj që njerëzit besonin se mund të arrinin. IA-ja mund të luajë të njëjtin rol në kohën tonë. Besoj se njerëzit janë shumë më të aftë nga sa e imagjinojnë veten, por janë penguar nga teknologjia e kufizuar, e cila duhej t’u jepte më shumë mundësi, por në vend të kësaj ua shpërqendron mendjen dhe shpesh ua rrëmben vëmendjen.

Versioni më i mirë i IA-së nuk synon t’i kthejë njerëzit në ingranazhe të një makinerie gjigante apo të optimizojë çdo aspekt të jetës deri në atë pikë sa të zhduket ana njerëzore e saj. Ai synon t’u japë njerëzve më shumë mundësi për të vepruar dhe për të marrë vendime në një botë gjithnjë e më komplekse: më shumë mundësi për të mësuar, krijuar, zbuluar, ndërtuar dhe marrë pjesë. Ka shumë gjëra që IA-ja nuk mund dhe nuk duhet t’i automatizojë.

IA-ja duhet të zhvillohet në shërbim të njerëzve, jo thjesht për t’i bërë makineritë të punojnë më shpejt, pa ndonjë qëllim tjetër. Disa nga gjërat që kanë thënë njerëzit që punojnë për zhvillimin e IA-së janë aq distopike, sa duken si skenarë filmash të dobët fantastiko-shkencorë.

Çdo teknologji kaq e fuqishme ngjall edhe frikë. Ky është një moment kompleks, pasi ndiejmë njëkohësisht potencialin e jashtëzakonshëm të kësaj teknologjie dhe një shqetësim krejtësisht të kuptueshëm.

Këto modele mund t’i ndihmojnë njerëzit të zbulojnë njohuri të reja: ilaçe të reja, kujdes shëndetësor më të mirë, arsim më cilësor dhe të ndërtojnë ekonomi më produktive. Ato mund të shërbejnë si mjete të reja që u mundësojnë njerëzve të ndjekin ëndrrat dhe ambiciet që sot u duken të paarritshme. Jeta është bërë shumë më komplekse për njeriun e zakonshëm. IA-ja mund të jetë një mjet që i ndihmon njerëzit të përballojnë këtë kompleksitet, po aq sa mund të jetë një mjet për zbulime dhe inovacione të paprecedenta.

Nga ana tjetër, ndërsa sistemet e IA-së bëhen më të afta dhe më autonome, ato mund të përparojnë më shpejt se institucionet tona, ta përqendrojnë pushtetin në duart e një numri shumë të vogël njerëzish ose të marrin vendime që njerëzit nuk i kuptojnë dhe nuk i kontrollojnë më.

Ky shqetësim bëhet veçanërisht i rëndësishëm ndërsa po i afrohemi zhvillimit të sistemeve që mund të përmirësojnë vetveten dhe versionet e tyre të ardhshme, një proces që shpesh quhet vetëpërmirësim rekursiv. Ndërsa procesi i zhvillimit të IA-së bëhet gjithnjë e më i automatizuar, ritmi i përparimit të saj mund të përshpejtohet ndjeshëm. Ky moment kërkon kujdes të jashtëzakonshëm.

Jam kryesisht dakord me profesor Bengio. Megjithatë, unë do të përmend dy mënyra në vend të tri: besoj se ka dy mënyra se si përparimi i IA-së mund të marrë një drejtim shumë të keq dhe që duhet t’i shmangim.

Së pari, mund të humbasim kontrollin mbi të ardhmen dhe t’ia lëmë atë IA-së. Rreziku është që ajo të përparojë aq shpejt, sa njerëzit të mos jenë më në gjendje të ndjekin atë që po ndodh ose të ndërhyjnë kur është e nevojshme. Kjo do të ishte padyshim e tmerrshme.

Industria nuk duhet të pranojë rreziqe të tepruara teknologjike vetëm sepse përfitimet janë kaq të mëdha dhe ngadalësimi i ritmit të zhvillimit duket i papranueshëm. Përpjekja për të lënë pas kompanitë e tjera në garën konkurruese nuk është arsye për të marrë vendime të nxituara. Ne as nuk besojmë se jemi të përfshirë në një garë që na pengon të ngadalësojmë ritmin. E kemi ngadalësuar zhvillimin me nismën tonë në të kaluarën dhe do ta bëjmë sërish në të ardhmen. Ne nuk duam të ndërtojmë sisteme dhe mendojmë se është e rëndësishme që të gjithë të shmangin ndërtimin e sistemeve për të cilat nuk mund të japim garancitë e nevojshme për përafrimin e tyre me vlerat dhe synimet njerëzore, mundësinë e monitorimit dhe sigurinë.

Duhet të kuptojmë se çfarë po bëjnë këto sisteme dhe të kemi prova të forta se ato do të veprojnë ashtu siç synojnë njerëzit, edhe kur të bëhen shumë, shumë inteligjente. Në fakt, sidomos kur të bëhen kaq inteligjente. Nuk ka rëndësi nëse njerëzit e vlerësojnë rrezikun e një katastrofe në 10%, 1%, 12% apo 0,1%. Asnjëri prej këtyre niveleve të rrezikut nuk është aspak i pranueshëm. Dhe nuk duhet të trajnojmë modele nëse nuk mund të argumentojmë me prova jashtëzakonisht bindëse se do të jemi në gjendje t’i mbajmë nën kontrollin njerëzor.

Pra, kjo është një nga mënyrat se si gjërat mund të shkojnë keq. Nga ana tjetër, këto sisteme mund ta përqendrojnë pushtetin e tepërt në duart e një numri shumë të vogël njerëzish. Asnjë individ, kompani apo vend nuk duhet të jetë në gjendje t’i përdorë modelet më të fuqishme të IA-së për t’ua imponuar të tjerëve botëkuptimin e vet. Një kompani ose një vend që beson se vetëm atij mund t’i besohet kjo teknologji, mund ta përdorë këtë bindje për të justifikuar pothuajse çdo veprim tjetër. Duhet ta refuzojmë këtë logjikë, edhe kur ajo i leverdis një pale të caktuar.

Besoj se ekziston një rrugë pragmatike për t’i trajtuar të dyja këto çështje. Në OpenAI, ne u qasemi këtyre pyetjeve me një synim të qartë: IA-ja duhet t’u japë njerëzve më shumë kontroll mbi jetën e tyre. Më shumë liri për ta jetuar jetën ashtu siç dëshirojnë. Më shumë mundësi për të zgjidhur probleme, të mëdha apo të vogla, dhe për të përmirësuar komunitetet e tyre. Nuk duam të biem në grackën e optimizmit të verbër. Por nuk duam as të biem në grackën e pesimizmit ekstrem. Nëse anojmë drejt cilitdo prej këtyre dy ekstremeve, nuk do të arrijmë t’i përballojmë me sukses sfidat që kemi përpara, sidomos në një kohë kur bota dhe njerëzit e saj përballen me sfida kaq të mëdha, në zgjidhjen e të cilave kjo teknologji mund të ndihmojë. Prandaj, përpiqemi të ndjekim një rrugë të mesme mes këtyre dy skajeve.

Për ne, kjo nënkupton tri parime.

Së pari, ndërsa IA-ja bëhet gjithnjë e më e aftë, njerëzit duhet të mbeten në qendër të vendimmarrjes për IA-në. Përafrimi i IA-së me vlerat dhe synimet njerëzore nuk është thjesht një çështje abstrakte kërkimore. Ai nënkupton punën për të siguruar që këto sisteme të mbeten vazhdimisht nën kontrollin e njerëzve, të pasqyrojnë vlerat njerëzore dhe t’i ndihmojnë njerëzit të drejtojnë fazat e ardhshme të zhvillimit. Ne nuk synojmë dhe nuk duhet të synojmë automatizimin e gjykimit apo të vlerave njerëzore.

Së dyti, përfitimet e përparimit shkencor dhe të rritjes ekonomike duhet të krijohen nga njerëzit dhe të jenë në shërbim të tyre. IA-ja duhet t’i ndihmojë studiuesit të bëjnë zbulime, mjekët të trajtojnë pacientët, mësuesit të mësojnë nxënësit, sipërmarrësit të krijojnë kompani, komunitetet të zgjidhin probleme që më parë dukeshin të pazgjidhshme e shumë më tepër. Historia e vazhdueshme e përparimit njerëzor nuk është historia e mjeteve që zëvendësojnë aftësinë e njerëzve për të vepruar dhe për të marrë vendime. Përkundrazi, është historia e mjeteve të duhura që i bëjnë njerëzit më të aftë dhe besoj se kjo do të shkojë shumë më tej nga sa mund ta imagjinojmë sot.

Së treti, kjo teknologji duhet të fuqizojë çdo individ. Një e ardhme e mirë do të ndërtohet nga njerëzit që realizojnë potencialin e tyre dhe krijojnë vlera për veten, komunitetet e tyre, vendet e tyre dhe botën në tërësi. Ne mund të jemi ndër ata që e ndërtojnë këtë teknologji, por nuk jemi heronjtë e kësaj historie. Roli ynë është t’u japim mundësi njerëzve në mbarë botën të realizojnë potencialin e tyre dhe të besojmë në fuqinë e jashtëzakonshme të aftësive dhe zotësive njerëzore.

Tashmë kemi modele të afta të zbulojnë njohuri që nuk i kemi pasur kurrë më parë. Merrni, për shembull, përparimin që kemi parë në matematikë. Tre vera më parë, modelet tona kishin aftësi të kënaqshme në matematikën e shkollës fillore. Dy vera më parë, ato arrinin rezultate mjaft të mira në konkurset e matematikës për nxënësit e shkollave të mesme. Verën e kaluar, arritëm nivelin e medaljes së artë në konkursin më prestigjioz ndërkombëtar të matematikës. Dhe vetëm pak javë më parë, gjatë kësaj vere, një nga modelet tona zgjidhi një nga Problemet e Çmimit të Mijëvjeçarit, ekuacionet Navier-Stokes.

Këto ekuacione përdoren për projektimin e avionëve, parashikimin e motit dhe studimin e qarkullimit të gjakut. Nuk po zgjidhim probleme matematikore thjesht për hir të tyre, por për t'i fuqizuar njerëzit të zbulojnë njohuri të reja dhe t'i përdorin ato për të përmirësuar kujdesin shëndetësor, për të ngritur standardet e jetesës dhe për të zgjeruar potencialin e të gjithëve në mbarë botën. Mbetet ende kaq shumë për t'u zbuluar.

Por është shumë e rëndësishme që kompanitë të mos zëvendësojnë procesin demokratik.

Nëse IA-ja duhet të jetë demokratike, vendimet më të rëndësishme nuk mund të merren vetëm nga laboratorët në San-Francisko. Ato duhet të formësohen përmes proceseve demokratike dhe nga qeveritë që japin llogari përpara qytetarëve të cilëve u shërbejnë.

Në nivel ndërkombëtar, kjo do të kërkojë bashkëpunim. Historia na ka treguar se ka pasur raste kur vende që konkurrojnë me njëri-tjetrin dhe që jo gjithmonë kanë marrëdhënie të mira, janë bashkuar për interesa të përbashkëta dhe për të mirën kolektive përballë një teknologjie të re e të fuqishme. Ne besojmë se ky duhet të jetë një nga ato momente.

Na nevojitet një mekanizëm për vendosjen e standardeve kombëtare dhe ndërkombëtare plotësuese për IA-në e avancuar: standarde për matjen e aftësive, vlerësimin e rreziqeve, përcaktimin nëse masat mbrojtëse janë të mjaftueshme dhe ruajtjen e mbikëqyrjes kuptimplotë njerëzore, ndërsa sistemet bëhen gjithnjë e më autonome.

Na nevojiten standarde të përbashkëta që vendet të mund të krahasojnë provat, të verifikojnë përputhshmërinë me standardet dhe të kenë një gjuhë dhe kuptim të përbashkët për atë që po ndodh.

Na nevojiten protokolle për raportimin e saktë dhe të shpejtë të incidenteve, si dhe për klasifikimin dhe dokumentimin e tyre, në mënyrë që bota të mësojë nga dështimet përpara se ato të kthehen në katastrofa.

Na nevojiten gjithashtu kanale të sigurta komunikimi mes qeverive, operatorëve të infrastrukturës kritike dhe ekspertëve teknikë për të shkëmbyer informacione mbi cenueshmëritë e reja të sigurisë dhe kërcënimet e reja.

Natyrisht, këto standarde nuk duhet të favorizojnë aktorët ekzistues të tregut apo një model biznesi kundrejt një tjetri. Ato duhet të mbështesin si zhvilluesit e modeleve të hapura, ashtu edhe ata të modeleve të mbyllura, si aktorët e rinj, ashtu edhe laboratorët e konsoliduar, si autoritetin kombëtar, ashtu edhe bashkëpunimin ndërkombëtar. Çdo qeveri duhet të vendosë vetë se si t’i përfshijë standardet në sistemin e saj ligjor. Por të gjithë do të përfitojmë nëse arrijmë të biem dakord në nivel global se çfarë përbën prova të besueshme, masa mbrojtëse të përshtatshme dhe mbikëqyrje efektive.

Ne nuk i kemi të gjitha përgjigjet dhe jemi shumë të hapur ndaj çdo ideje më të mirë. Jemi të gatshëm të bashkëpunojmë me të gjithë ju dhe të bëjmë çmos për të gjetur rrugën përpara.

Ndodhemi në një udhëkryq. Njëra rrugë na çon drejt një bote ku pushteti është i përqendruar, vendimet merren pa transparencë dhe njerëzit ndiejnë se teknologjia më e rëndësishme e jetës së tyre po u imponohet, pa pasur mundësi të ndikojnë në të. Rruga tjetër na çon drejt një bote ku IA-ja është në shërbim të njerëzve, sepse ata, përmes institucioneve demokratike, ndihmojnë për të vendosur se si duhet të zhvillohet dhe për të orientuar zhvillimin e saj; ku përparimi shkencor përmirëson jetën e njerëzve; ku më shumë njerëz mund të marrin pjesë në formësimin e së ardhmes; dhe ku kjo teknologji vazhdon t’u japë individëve dhe komuniteteve më shumë mundësi për ta jetuar jetën ashtu siç dëshirojnë. Kjo është një e ardhme ku potenciali bëhet realitet dhe që ngjall entuziazëm e mahnitje.

Dhe kjo është e ardhmja që besojmë se ia vlen ta ndërtojmë. Ju faleminderit shumë.