Matematiikan ja tekoälyn neuvonantajaryhmä
Aloitimme 28. elokuuta uuden sisäisen mallin kouluttamisen. Tämä malli on ratkaissut Navier–Stokesin Millennium-palkinto-ongelman lisäksi jo yli sata pitkään avoimena ollutta ongelmaa lähes kaikilta matematiikan aloilta. Mallin matematiikassa saavuttaman edistyksen nopeus on yllättänyt OpenAIlla työskentelevät matemaatikot. Tämän vuoksi olemme keskustelleet sisäisesti siitä, miten nopeasta edistyksestä olisi parasta kertoa yhteisölle, jotta ala voi valmistautua ja mukautua.
Matematiikka on perustiede, ja uudet löydöt voivat johtaa monenlaisiin sovelluksiin. Näihin kykyihin liittyy siksi huomattavia mahdollisuuksia, ja niiden vastuullinen kehittäminen ja käyttöönotto on tärkeää myös matematiikan ulkopuolella. Tiedostamme tämän ja selvitämme, miten matematiikkaan liittyviä tekoälykykyjä voidaan ottaa laajemmin käyttöön vastuullisesti.
Matemaatikot ovat hiljattain julkaistussa avoimessa kirjeessä ”Tekoälyn vakava kohdistusongelma matematiikassa(avautuu uudessa ikkunassa)” ilmaisseet huolensa kielteisistä ulkoisvaikutuksista, joita syntyy, kun avoimien ongelmien ratkaisemista käytetään uusien tekoälyjärjestelmien vertailukohtana.
Heidän kritiikkinsä korostaa, että tekoäly-yritysten on tehtävä harkittua yhteistyötä matematiikkayhteisön kanssa. Tätä varten teemme yhteistyötä matemaatikkojen kanssa, jotka ovat perustaneet riippumattoman matematiikan neuvonantajaryhmän. Ryhmä toimii yhdyssiteenä matematiikkayhteisöön ja laajempaan yleisöön sekä antaa matemaatikoille mahdollisuuden vaikuttaa siihen, miten etenemme.
Ryhmä neuvoo uusien tulosten arvioinnissa ja niistä viestimisessä: se auttaa OpenAIta arvioimaan tulosten merkitystä sekä neuvoo niiden julkistamisen koordinoinnissa ja matemaattisen tutkimuksen akateemisissa ja ammatillisissa käytännöissä. Se neuvoo myös siinä, miten työkalumme voivat tukea matematiikan tutkimusta ja oppimista. Haluamme antaa matemaatikoille tehokkaita työkaluja, jotta he voivat tutkia parhaiten tuntemiaan kysymyksiä ja kehittää uusia ideoita.
Ryhmä toimii OpenAIsta riippumattomasti. Ryhmä voi antaa meille neuvoja pyytämättäkin, kommentoida OpenAIn vaikutusta matematiikkaan ja julkistaa neuvonsa. Ryhmän arvo perustuu siihen, että sen jäsenet voivat käyttää omaa harkintaansa ja kyseenalaistaa näkemyksemme. OpenAI ei maksa ryhmän jäsenille palkkiota, ja ryhmä voi muuttaa kokoonpanoaan parhaaksi katsomallaan tavalla. On tärkeää huomata, ettei ryhmän tehtävänä ole neuvoa meitä siinä, miten nopeasti edistämme sisäistä matematiikkatyötämme.
Yhteistyö tämän ryhmän kanssa on ensimmäinen askel. Edessä on vaikeita kysymyksiä siitä, miten tekoäly voi edistää matematiikan ymmärtämistä ja miten näiden kykyjen hyödyt saadaan laajemman yhteisön ulottuville. Haluamme matemaatikkojen olevan keskeisessä asemassa vastausten muovaamisessa.
Ensimmäiset jäsenet matematiikan ja tekoälyn neuvonantajaryhmässä(avautuu uudessa ikkunassa), jonka isäntäorganisaatio on Institute for Advanced Study(avautuu uudessa ikkunassa):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
