Tekoälyn yhdenmukaistamista koskevan riippumattoman tutkimuksen edistäminen

Tekoälyjärjestelmien muuttuessa kyvykkäämmiksi ja itsenäisemmiksi yhdenmukaistamistutkimuksen on sekä pysyttävä kehityksen mukana että skaalattava monimuotoisuutta. OpenAI:lla investoimme voimakkaasti edistyneeseen yhdenmukaistamis- ja turvallisuustutkimukseen, koska se on keskeistä tehtävällemme. Uskomme myös, että mikään yksittäinen organisaatio ei voi varmistaa, että AGI on turvallista ja hyödyllistä kaikille, ja haluamme tukea itsenäistä tutkimusta ja käsitteellisiä lähestymistapoja, joita voidaan toteuttaa myös edistyneiden laboratorioiden ulkopuolella. Uskomme, että tekoälyn tulevaisuus ei kehity täsmälleen niin kuin kukaan ennustaa ja että paljon useammalla ihmisellä pitäisi olla osuus lopputuloksen muovaamisessa.

Tänään julkistamme 7,5 miljoonan dollarin apurahan The Alignment Project⁠(avautuu uudessa ikkunassa) -hankkeelle, joka on Britannian AI Security Institute -instituutin (UK AISI) perustama maailmanlaajuinen rahasto riippumattomalle yhdenmukaistamistutkimukselle. Renaissance Philanthropy tukee apurahan hallinnointia. Tämä panos auttaa tekemään The Alignment Project -hankkeesta yhden tähän mennessä suurimmista riippumattoman yhdenmukaistamistutkimuksen rahoitushankkeista ja vahvistaa laajempaa, riippumatonta ekosysteemiä.

Edistyneet laboratoriot, kuten OpenAI, ovat ainutlaatuisessa asemassa harjoittaakseen yhdenmukaistamistutkimusta, joka edellyttää pääsyä edistyneisiin malleihin ja merkittävää laskentakapasiteettia – työtä, jota riippumattomien tutkijoiden on usein vaikea tutkia. Käytämme suuren osan sisäisestä yhdenmukaistamistyöstämme skaalautuvien menetelmien kehittämiseen, jotta yhdenmukaistamisen edistyminen pysyy kyvykkyyden edistymisen tahdissa. Uskomme, että iteratiivinen käyttöönotto – asteittainen kyvykkyyksien lisääminen ja samanaikainen suojatoimien vahvistaminen – auttaa havaitsemaan ongelmia varhaisessa vaiheessa ja antaa meille konkreettista näyttöä siitä, mikä toimii käytännössä. Vastuullinen kehittäminen edellyttää lisäksi merkittävää yhdenmukaistamis- ja turvallisuustyötä, joka on tiiviisti integroitu mallien luomiseen ja käyttöönottoon.

Samanaikaisesti ala hyötyy jatkuvista investoinneista riippumattomaan, tutkivaan tutkimukseen, mikä voi laajentaa ideoiden tilaa ja paljastaa uusia suuntia. Riippumaton tutkimus on edelleen välttämätöntä: monissa hyödyllisissä tutkimuksissa laboratorioilla ei ole suhteellista etua. Terve yhdenmukaistamisekosysteemi on riippuvainen riippumattomista tiimeistä, jotka testaavat erilaisia oletuksia, kehittävät vaihtoehtoisia viitekehyksiä ja tutkivat käsitteellisiä, teoreettisia ja blue-sky-ideoita, jotka eivät välttämättä ole täysin linjassa minkään organisaation etenemissuunnitelman kanssa.

Ja koska edistyminen kohti AGI:tä saattaa lopulta riippua perustavanlaatuisista läpimurroista, jotka muuttavat yhdenmukaistamisongelman luonnetta sekä sitä, mitkä lähestymistavat ovat hyödyllisimpiä, on tärkeää tukea tutkimusta, jolla olisi merkitystä, vaikka tämän päivän hallitsevat menetelmät eivät skaalautuisikaan odotetulla tavalla. Tällaisissa maailmoissa on erityisen tärkeää, että vahva ulkoinen ekosysteemi tekee perustavanlaatuista, käsitteellistä ja riippumatonta työtä. Tekoälyn yhdenmukaistamis- ja turvallisuusongelma on ennennäkemättömän tärkeä, ja tarvitsemme kaikki mukaan, sillä emme vielä tiedä, mitkä lähestymistavat osoittautuvat kestävimmiksi kyvykkyyksien kehittyessä.

Apurahamme – noin 5,6 miljoonaa puntaa nykyisellä valuuttakurssilla – rahoittaa The Alignment Project⁠(avautuu uudessa ikkunassa) -hanketta yhdessä muiden julkisten, hyväntekeväisyys- ja teollisuusrahoittajien kanssa. Kokonaisrahoitus ylittää 27 miljoonaa puntaa, ja se on suunniteltu tukemaan laajaa valikoimaa yhdenmukaistamistutkimushankkeita maailmanlaajuisesti – kattaen niin monipuolisia aiheita kuin laskennallisen kompleksisuuden teoria, talousteoria ja peliteoria, kognitiotiede sekä informaatioteoria ja kryptografia. Yksittäisten hankkeiden rahoitus on tyypillisesti 50 000 – 1 000 000 puntaa, ja ne voivat myös saada valinnaisen pääsyn laskentaresursseihin ja asiantuntijatukeen.

Rahoituksemme ei luo uutta ohjelmaa tai valintaprosessia eikä vaikuta nykyiseen prosessiin, vaan se lisää jo arvioitujen, korkealaatuisten hankkeiden⁠(avautuu uudessa ikkunassa) määrää, jotka voidaan rahoittaa nykyisellä kierroksella.

UK AISI on hyvin sijoittunut ohjaamaan yhdenmukaistamisrahoitusta tässä mittakaavassa ja laajuudessa. Se tuo yhteen vakiintuneen, eri sektoreita yhdistävän koalition, joka kattaa julkishallinnon, akateemisen maailman, hyväntekeväisyyden ja teollisuuden, sekä jo käynnissä olevan avustusten myöntämisprosessin ja suuren määrän ehdotuksia, jotka ovat läpikäyneet asiantuntija-arvioinnin. Tiede-, innovaatio- ja teknologiaministeriön (DSIT) alaisuudessa toimivana Britannian hallituksen tutkimusorganisaationa sillä on myös vakaviin tekoälyriskeihin keskittyvä toimeksianto sekä kokemusta tutkimusrahoitusohjelmien toteuttamisesta.

Koska tekoälyn tulevaisuus ei kehity täsmälleen niin kuin kukaan ennustaa – ja se voi edetä hyvin nopeasti – uskomme, että demokratisointi, ”tekoälyn resilienssi” ja iteratiivinen käyttöönotto ovat olennaisia. Samalla kun jatkamme OpenAI:lla yhdenmukaistamis- ja turvallisuustutkimuksen edistämistä, edistystä hyödyttää vankka, monipuolinen ja riippumaton ekosysteemi, joka pyrkii täydentäviin lähestymistapoihin kyvykkyyksien kehittyessä. Tämä apuraha on yksi askel kohti kyseistä tavoitetta. Odotamme innolla, että voimme jatkaa yhteistyötä laajemman tutkimusyhteisön kanssa alan kehittyessä.