OpenAI forritaskil

Við erum að gefa út forritaskil fyrir aðgang að nýjum líkönum sem þróuð eru af OpenAI. Ólíkt flestum gerigreindarkerfum sem eru hönnuð fyrir eitt notkunartilfelli, veita forritaskilin í dag almennt „texta inn, texta út“ viðmót, sem gerir notendum kleift að prófa það í nánast hvaða verkefni sem er á ensku. Þú getur nú óskað eftir aðgangi til að samþættum forritaskil í vöruna þína, þróað algjörlega nýtt forrit eða hjálpað okkur að kanna styrkleika og takmörk þessarar tækni.

Við hvaða kvaðningu sem er munu forritaskilin skila textafyllingu og reyna að passa við mynstrið sem þú gafst því. Þú getur „forritað“ það með því að sýna því nokkur dæmi um hvað þú vilt að það geri; árangur þess er almennt breytilegur eftir því hversu flókið verkefnið er. Forritaskil gera þér einnig kleift að bæta frammistöðu í tilteknum verkefnum með því að framkvæma þjálfun á gagnasafni (litlu eða stóru) af dæmum sem þú gefur, eða með því að læra af mannlegum ábendingum frá notendum eða merkingum.

Við höfum hannað forritaskilin þannig að þau séu bæði einföld í notkun fyrir alla en einnig nógu sveigjanlegt til að bæta afköst vélnámsteyma. Reyndar eru mörg teymi okkar nú að nota forritaskilin svo þau geti einbeitt sér að rannsóknum á vélnámi frekar en vandamálum með dreifð kerfi. Í dag keyra forritaskiln líkön með færibreytum úr GPT‑3⁠(opnast í nýjum glugga) fjölskyldunni með mörgum úrbótum á hraða og afköstum. Vélnám þróast mjög hratt og við erum stöðugt að uppfæra tæknina okkar svo að notendur okkar haldi sér við.

Hraði framfara á þessu sviði þýðir að oft kemur það upp að gervigreind sé notuð á óvæntan hátt, bæði jákvæðan og neikvæðan. Við munum loka aðgangi forritaskila fyrir augljóslega skaðleg notkunartilvik, svo sem áreitni, ruslpóst, róttækni eða falskan stuðning. En við vitum líka að við getum ekki séð fyrir allar mögulegar afleiðingar þessarar tækni, svo í dag byrjum við í lokuðu beta-prófi frekar en almennu aðgengi, smíðum verkfæri til að hjálpa notendum að stjórna betur efninu sem viðmót forritaskilanna skilar og rannsökum öryggisþætti tungumálatækni (eins og að greina, draga úr og grípa inn í skaðleg hlutdrægni). Við munum deila því sem við lærum svo að notendur okkar og samfélagið geti byggt upp fleiri gervigreindarkerfi sem gagnast manninum.

Auk þess að vera tekjulind sem hjálpar okkur að standa straum af kostnaði⁠ við að ná markmiði okkar⁠ hafa forritaskilin hvatt okkur til að skerpa á áherslu okkar á almenna gervigreindartækni — að þróa tæknina, gera hana nothæfa og íhuga áhrif hennar í raunheimi. Við vonum að forritaskilin muni draga verulega úr þröskuldinum⁠(opnast í nýjum glugga) við framleiðslu gagnlegra vara knúnar af gervigreind, sem leiðir til verkfæra og þjónustu sem erfitt er að ímynda sér í dag.

Hefurðu áhuga á að kanna forritaskilin? Slástu í hóp með fyrirtækjum eins og Algolia⁠(opnast í nýjum glugga),  Quizlet⁠(opnast í nýjum glugga) og Reddit⁠(opnast í nýjum glugga), og rannsakendum við stofnanir eins og Middlebury Institute⁠(opnast í nýjum glugga) í  lokuðu beta⁠(opnast í nýjum glugga) okkar.

Að lokum er það sem skiptir okkur mestu máli⁠ það að tryggja að almenn gervigreind komi öllum til góða. Við lítum á þróun viðskiptavara sem eina af leiðunum til að tryggja að við höfum nægilegt fjármagn til að ná árangri.

Við trúum einnig að það verði erfitt að tryggja öryggi í notkun öflugra gervigreindarkerfa í heiminum. Við útgáfu forritaskilanna vinnum við náið með samstarfsaðilum okkar til að sjá hvaða áskoranir koma upp þegar gervigreindarkerfi eru notuð í raunheimum. Þetta mun hjálpa okkur í viðleitni okkar til að skilja hvernig innleiðing gervigreindarkerfa framtíðarinnar muni verða og hvað við þurfum að gera til að tryggja að þau séu örugg og gagnleg fyrir alla.

Það eru þrjár meginástæður fyrir því að við gerðum þetta. Í fyrsta lagi hjálpar markaðssetning tækninnar okkur að fjármagna áframhaldandi rannsóknir okkar á sviði gervigreindar, öryggis og stefnumótunar.

Í öðru lagi eru mörg af líkönunum sem liggja að baki forritaskilunum mjög stór og krefjast mikillar sérþekkingar í þróun og uppsetningu sem gerir þau mjög dýr í rekstri. Þetta gerir það erfitt fyrir alla nema stærri fyrirtæki að njóta góðs af undirliggjandi tækni. Við erum vongóð um að forritaskilin muni gera öflug gervigreindarkerfi aðgengilegri fyrir smærri fyrirtæki og stofnanir.

Í þriðja lagi gerir líkan forritaskila okkur kleift að bregðast auðveldlega við misnotkun tækninnar. Þar sem erfitt er að spá fyrir um notkunartilvik líkana okkar, finnst okkur í eðli sínu öruggara að gefa þau út í gegnum forritaskil og auka aðgang með tímanum, frekar en að gefa út opið líkan þar sem ekki er hægt að breyta aðgangi ef það reynist hafa skaðleg forrit.

Í GPT‑2 sneru áhyggjur okkar m.a. sérstaklega að notkun líkansins í slæmum tilgangi (t.d. til að dreifa rangfærslum), sem er erfitt að koma í veg fyrir þegar líkan er opið. Fyrir forritaskilin getum við komið betur í veg fyrir misnotkun með því að takmarka aðgang við samþykkta viðskiptavini og notkunartilfelli. Við höfum skyldubundið framleiðsluendurskoðunarferli áður en fyrirhuguð forrit geta farið í loftið. Í framleiðsluúttektum metum við forrit á nokkrum sviðum og spyrjum spurninga eins og: Er þetta notkunartilfelli sem er stutt núna?, Hversu opið er forritið?, Hver er áhættan tengd forritinu?, Hvernig ætlarðu að bregðast við hugsanlegri misnotkun? og Hverjir eru endnotendur forritsins?.

Við lokum aðgangi að forritaskilum fyrir notkunartilvik sem valda (eða eru ætluð til að valda) líkamlegum, tilfinningalegum eða sálfræðilegum skaða á fólki, þar á meðal en ekki takmarkað við áreitni, vísvitandi blekkingu, öfgahyggju, falskar umsagnir eða ruslpóst, sem og forrit sem hafa ekki nægjanlegar varnir til að takmarka misnotkun af hálfu notenda. Eftir því sem við öðlumst meiri reynslu af notkun forritaskila munum við stöðugt bæta þá notkunarflokka sem við getum aðstoðað með, bæði til að víkka úrval forrita sem við getum aðstoðað og til að búa til nákvæmari flokka í tilfellum þar sem við höfum áhyggjur af misnotkun.

Einn lykilþáttur sem við metum þegar við samþykkjum notkun forritaskila er að hversu miklu leiti forrit sýnir opna hegðun í samanburði við takmarkaða hegðun með tilliti til undirliggjandi sköpunargetu kerfisins. Opin forrit forritaskila (þ.e. þau sem gera kleift að búa til mikið magn af sérhönnuðum texta með handahófskenndum kvaðningum) eru sérstaklega viðkvæm fyrir misnotkun. Takmarkanir sem geta gert skapandi notkunartilvik öruggari eru meðal annars kerfishönnun sem tryggir að raunveruleg persóna sé alltaf með í ferlinu, aðgangstakmarkanir fyrir notendur, eftirvinnsla á frálögum, síun efnis, takmarkanir á lengd inntaks og frálaga, virkt eftirlit og takmarkanir á efnislegu innihaldi.

Við höldum einnig áfram að framkvæma rannsóknir á mögulegri misnotkun líkana sem forritaskil þjónar, þar á meðal með utanaðkomandi rannsóknaraðilum í gegnum akademíska aðgangsáætlun okkar⁠(opnast í nýjum glugga). Við erum að byrja með mjög takmarkaðan fjölda rannsakenda að þessu sinni og höfum nú þegar nokkrar niðurstöður frá samstarfsaðilum okkar við Middlebury Institute⁠(opnast í nýjum glugga), University of Washington og Allen Institute for AI⁠(opnast í nýjum glugga). Við höfum tugþúsundir umsækjenda í þessa áætlun nú þegar og erum nú að forgangsraða umsóknum sem beinast að rannsóknum á sanngirni og fulltrúum.

Það er erfitt að draga úr neikvæðum áhrifum á borð við skaðlegri hlutdrægni og það er víðtækt og alvarlegt vandamál í geiranum. Eins og við ræðum í GPT‑3 greininni⁠(opnast í nýjum glugga) og líkanspjaldinu⁠(opnast í nýjum glugga), sýna forritaskilslíkön okkar skekkjur sem koma fram í texta sem þau búa til. Hér eru skrefin sem við erum að taka til að leysa þessi mál:

• Við höfum þróað notkunarleiðbeiningar sem hjálpa forriturum að skilja og takast á við hugsanleg öryggisvandamál.
• Við vinnum náið með notendum til að skilja notkunartilvik þeirra og þróa verkfæri til að greina og grípa inn í til að draga úr skaðlegri hlutdrægni.
• Við erum að framkvæma okkar eigin rannsóknir á birtingarmyndum skaðlegrar hlutdrægni og víðtækari vandamálum þegar kemur að sanngirni og framsetningu, sem munu hjálpa við að móta vinnu okkar með bættri skráningu á núverandi líkönum og ýmsum endurbótum á framtíðarlíkönum.
• Við viðurkennum að hlutdrægni er vandamál sem kemur fram þar sem kerfi og samhengi skarast; snjallforrit sem eru byggð með tækni okkar eru félagstæknileg kerfi og við vinnum með forriturum okkar til að tryggja að þeir setji upp viðeigandi ferla og mannleg kerfi til að fylgjast með óæskilegri hegðun.

Markmið okkar er að halda áfram að þróa skilning okkar á hugsanlegum skaða forritaskila í öllum notkunarsamhengjum og bæta stöðugt verkfæri okkar og ferla til að hjálpa til við að lágmarka þau.

Uppfært 18. september 2020