Përparimi i hulumtimit të pavarur mbi përshtatjen e AI

Ndërsa sistemet e inteligjencës artificiale bëhen më të afta dhe më autonome, kërkimi për përshtatjen duhet të ecë në hap me zhvillimet dhe të zgjerojë diversitetin. Në OpenAI, ne investojmë shumë në kërkime për përshtatjen dhe sigurinë në fushën e avangardës, pasi kjo është thelbësore për misionin tonë. Ne gjithashtu besojmë se sigurimi që AGI të jetë i sigurt dhe i dobishëm për të gjithë nuk mund të arrihet nga asnjë organizatë e vetme dhe duam të mbështesim kërkimin e pavarur dhe qasjet konceptuale që mund të ndiqen jashtë laboratorëve avangardë. Ne besojmë se e ardhmja e AI nuk do të zhvillohet saktësisht siç parashikohet nga askush, dhe se shumë më tepër njerëz duhet të kenë një pjesë në formësimin e rezultatit.

Sot, po shpallim një grant prej 7,5 milionë USD për The Alignment Project⁠(hapet në një dritare të re), një fond global për kërkime të pavarura mbi përshtatjen, i krijuar nga Instituti i Sigurisë për AI në Mbretërinë e Bashkuar (UK AISI). Renaissance Philanthropy po mbështet administrimin e grantit. Ky kontribut ndihmon që The Alignment Project të bëhet një nga përpjekjet më të mëdha të dedikuara për financimin e kërkimeve të pavarura mbi përshtatjen deri më sot dhe forcon ekosistemin më të gjerë dhe të pavarur.

Laboratorët avangardë si OpenAI janë në një pozicion unik për të ndjekur kërkime mbi përshtatjen që varen nga aksesi në modelet avangardë dhe llogaritje të mëdha — punë që shpesh është e vështirë për studiuesit e pavarur ta eksplorojnë. Ne u kushtojmë një pjesë të madhe të përpjekjeve tona të brendshme për përafrim zhvillimit të metodave të shkallëzueshme, në mënyrë që progresi i përafrimit të jetë në hap me progresin e aftësive. Ne besojmë se implementimi iterativ — duke rritur gradualisht aftësitë ndërkohë që forcojmë masat mbrojtëse — ndihmon të identifikojmë problemet herët dhe na ofron prova konkrete për atë që funksionon në praktikë, dhe se zhvillimi i përgjegjshëm kërkon një punë të konsiderueshme për përafrim dhe siguri që është e integruar ngushtë me ndërtimin dhe implementimin e modelit.

Paralelisht, fusha përfiton nga investime të qëndrueshme në kërkime të pavarura dhe eksploruese, të cilat mund të zgjerojnë hapësirën e ideve dhe të zbulojnë drejtime të reja. Kërkimi i pavarur mbetet thelbësor; në shumë lloje hetimesh të dobishme, laboratorët nuk kanë një avantazh krahasues. Një ekosistem i shëndetshëm i përshtatjes varet nga ekipe të pavarura që testojnë supozime të ndryshme, zhvillojnë korniza alternative dhe eksplorojnë ide konceptuale, teorike dhe të hapura që mund të mos përputhen qartë me planin e punës së asnjë organizate të vetme.

Dhe meqë përparimi drejt AGI mund të varet përfundimisht nga arritje themelore që ndryshojnë formën e problemit të përafrimit dhe cilat qasje janë më të dobishme, është e rëndësishme të mbështeten kërkime që do të kenë rëndësi edhe nëse metodat dominuese të sotme nuk shkallëzohen siç presim. Në ato botë, është veçanërisht e rëndësishme të ekzistojë një ekosistem i fortë i jashtëm që kryen punë themelore, konceptuale dhe të pavarur. Problemi i përshtatjes dhe sigurisë së AI është i një rëndësie të paprecedentë, dhe na duhen të gjithë të angazhuar, pasi ende nuk e dimë se cilat qasje do të jenë më të qëndrueshme ndërsa aftësitë vazhdojnë të përparojnë.

Granti ynë — afërsisht 5,6 milionë GBP me kurset aktuale të këmbimit — do të bashkëfinancojë The Alignment Project⁠(hapet në një dritare të re) së bashku me mbështetës të tjerë publikë, filantropikë dhe të industrisë. Fondi total tejkalon 27 milionë GBP dhe është projektuar për të mbështetur një portofol të gjerë projektesh kërkimore mbi përafrimin në mbarë botën, duke përfshirë tema të larmishme si teoria e kompleksitetit llogaritës, teoria ekonomike dhe teoria e lojërave, shkenca njohëse, si dhe teoria e informacionit dhe kriptografia. Projektet individuale zakonisht financohen me 50 mijë GBP deri në 1 milion GBP dhe mund të marrin gjithashtu akses opsional në burime llogaritëse dhe mbështetje nga ekspertë.

Financimi ynë nuk krijon një program të ri ose proces përzgjedhjeje, as nuk ndikon në procesin ekzistues; ai rrit numrin e projekteve⁠(hapet në një dritare të re) të cilësisë së lartë, tashmë të verifikuara, që mund të financohen në raundin aktual.

UK AISI është pozicionuar mirë për të drejtuar financimin e përputhjes në këtë shkallë dhe gamë. Ai sjell një koalicion të konsoliduar ndërsektorial që përfshin qeverinë, akademinë, filantropinë dhe industrinë, së bashku me një proces dhënie grantesh tashmë në zhvillim dhe një numër të madh propozimesh që janë shqyrtuar nga ekspertët. Si një organizatë kërkimore e qeverisë së Mbretërisë së Bashkuar brenda Departamentit për Shkencë, Inovacion dhe Teknologji (DSIT), ajo gjithashtu ka një mandat të përqendruar në rreziqet serioze të inteligjencës artificiale dhe ka përvojë në drejtimin e programeve të financimit të kërkimit.

Meqenëse e ardhmja e AI nuk do të zhvillohet saktësisht siç e parashikon kushdo — dhe mund të përparojë shumë shpejt — ne besojmë se demokratizimi, “qëndrueshmëria e AI”, dhe zbatimi iterativ janë thelbësore. Ndërsa vazhdojmë të avancojmë kërkimet tona për përafrimin dhe sigurinë në avangardë në OpenAI, përparimi do të përfitojë nga një ekosistem i fuqishëm, i larmishëm dhe i pavarur që ndjek qasje plotësuese ndërsa aftësitë përparojnë. Ky grant është një hap drejt atij qëllimi. Ne presim me padurim të vazhdojmë të bashkëpunojmë me komunitetin më të gjerë të kërkimit ndërsa fusha përparon.