Að efla sjálfstæðar rannsóknir á samræmingu gervigreindar

Eftir því sem gervigreindarkerfi verða hæfari og sjálfstæðari, þurfa rannsóknir á samræmingu bæði að halda í við þróunina og auka fjölbreytni. Hjá OpenAI fjárfestum við mikið í rannsóknum á framarlegri samræmingu og öryggi þar sem það er mikilvægt fyrir markmið okkar. Við teljum einnig að það sé ekki á færi neinnar einnar stofnunar að tryggja að AGG sé öruggt og gagnlegt fyrir alla og viljum styðja sjálfstæðar rannsóknir og hugmyndafræðilegar nálganir sem hægt er að þróa utan framarlega rannsóknarstofa. Við trúum því að framtíð gervigreindar muni ekki þróast nákvæmlega eins og nokkur spáir fyrir um og að mun fleiri ættu að taka þátt í að móta niðurstöðuna.

Í dag tilkynnum við um 7,5 milljóna USD styrk til The Alignment Project⁠(opnast í nýjum glugga), alþjóðlegs sjóðs fyrir sjálfstæðar rannsóknir á samræmingu sem UK AI Security Institute (UK AISI) stofnaði. Renaissance Philanthropy styður við umsýslu styrksins. Þetta framlag gerir The Alignment Project að einu stærsta sérhæfða fjármögnunarátaki fyrir sjálfstæðar samræmingarrannsóknir hingað til og styrkir víðara, sjálfstætt vistkerfi.

Framarlegar rannsóknarstofur eins og OpenAI eru í einstakri stöðu til að stunda rannsóknir á samræmingu sem byggja á aðgangi að framarlegum líkanum og verulegri tölvuvinnslu—verkefni sem er oft erfitt fyrir óháða rannsakendur að kanna. Við verjum miklum hluta af innri samræmingarvinnu okkar í að þróa stigstærðar aðferðir svo að framfarir í samræmingu haldist í hendur við framfarir í getu. Við teljum að ítrekuð dreifing—að auka getu smám saman á sama tíma og styrkja varúðarráðstafanir—hjálpi til við að greina vandamál snemma og veiti okkur áþreifanlegar sannanir um hvað virkar í reynd og að ábyrg þróun krefjist verulegrar samræmingar- og öryggisvinnu sem er nátengd líkanagerð og innleiðingu.

Samhliða nýtur sviðið góðs af stöðugri fjárfestingu í sjálfstæðum, könnunarannsóknum—sem getur víkkað hugmyndasviðið og leitt í ljós nýjar stefnur. Sjálfstæðar rannsóknir eru enn nauðsynlegar; í mörgum tegundum gagnlegra rannsókna hafa rannsóknarstofur ekki lengur samanburðarforskot. Heilbrigt vistkerfi fyrir samræmingu byggir á því að óháð teymi prófi fjölbreyttar forsendur, þrói aðrar ramma og kanni hugmyndalegar, fræðilegar og nýstárlegar hugmyndir sem gætu ekki samræmst áreynslulaust við vegvísi neinnar einnar stofnunar.

Og þar sem framfarir í átt að AGG kunna að lokum að ráðast af grundvallarbyltingum sem breyta eðli samræmingarvandans og hvaða nálganir eru gagnlegastar, er mikilvægt að styðja rannsóknir sem myndu skipta máli jafnvel þótt ríkjandi aðferðir dagsins í dag reynist ekki skala á þann hátt sem við búumst við. Í slíkum heimum verður sérstaklega mikilvægt að hafa sterkt utanaðkomandi vistkerfi sem sinnir grunnvinnu, hugmyndavinnu og óháðri vinnu. Vandamálið við samræmi og öryggi gervigreindar er fordæmalaust mikilvægt, og við þurfum alla með í liði þar sem við vitum enn ekki hvaða aðferðir munu reynast varanlegastar eftir því sem hæfileikar halda áfram að þróast.

Styrkurinn okkar—um það bil 5,6 milljónir GBP miðað við núverandi gengi—mun fjármagna The Alignment Project að hluta⁠(opnast í nýjum glugga) samhliða öðrum opinberum, góðgerðar- og iðnaðarbakhjörlum. Heildarsjóðurinn fer yfir 27 milljónir GBP og er ætlaður til að styðja við fjölbreytt safn rannsóknarverkefna á sviði samræmingar um allan heim, sem ná yfir jafn ólík viðfangsefni og reikniflækjufræði, hagfræðikenningar og leikjafræði, hugvísindi, upplýsingafræði og dulmál. Einstök verkefni eru venjulega fjármögnuð með 50.000 til 1 milljón punda og geta einnig fengið valfrjálsan aðgang að tölvuvinnsluauðlindum og sérfræðiaðstoð.

Fjármögnun okkar skapar hvorki nýtt forrit né nýtt valferli, né hefur hún áhrif á núverandi ferli; hún eykur fjölda þegar yfirfarinna, hágæða verkefna⁠(opnast í nýjum glugga) sem hægt er að fjármagna í núverandi lotu.

UK AISI er vel í stakk búið til að beina fjármögnun til samræmingar á þessum mælikvarða og sviði. Það sameinar rótgróið samstarf sem nær yfir stjórnvöld, háskóla, góðgerðarsamtök og atvinnulíf, ásamt styrkveitingaferli sem er þegar í gangi og stórum fjölda tillagna sem hafa verið yfirfarnar af sérfræðingum. Sem rannsóknastofnun breskra stjórnvalda innan Vísinda-, nýsköpunar- og tækniráðuneytisins (DSIT) hefur hún einnig umboð sem beinist að alvarlegri áhættu af völdum gervigreindar og hefur reynslu af því að reka rannsóknarstyrkjaáætlanir.

Þar sem framtíð gervigreindar mun ekki þróast nákvæmlega eins og nokkur spáir fyrir um—og gæti þróast mjög hratt—teljum við að lýðræðisvæðing, „seigla gervigreindar“ og ítrekuð dreifing séu nauðsynleg. Á meðan við höldum áfram að efla framarlegar samræmingar- og öryggisrannsóknir okkar hjá OpenAI, munu framfarir njóta góðs af öflugu, fjölbreyttu, óháðu vistkerfi sem sækist eftir viðbótarnálgunum eftir því sem geta eykst. Þessi styrkur er eitt skref í átt að því markmiði. Við hlökkum til að halda áfram samstarfi við víðara rannsóknarsamfélagið eftir því sem sviðið þróast.