AI-fremgang og anbefalinger

Da den populære oppfatningen av Turing-testen suste forbi, syntes mange av oss det var litt rart hvor mye dagliglivet bare fortsatte. Dette var en milepæl folk hadde snakket om i flere tiår. Det føltes umulig å nå, så plutselig føltes det nært, og så plutselig var vi på den andre siden. Vi har fått noen flotte nye produkter, og ikke mye i verden har endret seg, selv om datamaskiner nå kan samtale og tenke over vanskelige problemer.

De fleste i verden tenker fortsatt på AI som chatboter og bedre søk, men i dag har vi systemer som kan overgå de smarteste menneskene i noen av våre mest utfordrende intellektuelle konkurranser. Selv om AI-systemer fortsatt er ujevne og står overfor alvorlige svakheter, virker systemer som kan løse slike vanskelige problemer mer som 80% av veien for en AI-forsker enn 20% av veien. Gapet mellom hvordan de fleste bruker AI og hva AI for øyeblikket er i stand til, er enormt.

AI-systemer som kan oppdage ny kunnskap – enten autonomt eller ved å gjøre folk mer effektive – vil sannsynligvis ha en betydelig innvirkning på verden.

I løpet av bare noen få år har AI gått fra å kunne utføre oppgaver (spesielt innen programvareteknikk) som en person kan gjøre på få sekunder, til oppgaver som tar en person mer enn en time. Vi forventer å ha systemer som snart kan utføre oppgaver som tar en person dager eller uker, men vi vet ikke hvordan vi skal tenke på systemer som kan utføre oppgaver som ville ta en person årevis.

Samtidig har kostnaden per enhet for et gitt nivå av intelligens falt kraftig, 40 ganger per år er et rimelig anslag de siste årene! 

I 2026 forventer vi at AI vil kunne gjøre svært små oppdagelser. I 2028 og utover er vi ganske sikre på at vi vil ha systemer som kan gjøre mer betydningsfulle oppdagelser (selv om vi selvfølgelig kan ta feil, det er dette vår forskningsfremgang ser ut til å indikere).

Vi har lenge følt på at AI-fremgang skjer på overraskende måter, og at samfunnet finner måter å utvikle seg sammen med teknologien. Selv om vi forventer raske og betydelige fremskritt innen AI-kapasiteter de neste årene, forventer vi at hverdagen fortsatt vil føles overraskende konstant; måten vi lever på har mye treghet, selv med mye bedre verktøy.

Spesielt forventer vi at fremtiden vil gi nye og forhåpentligvis bedre måter å leve et meningsfylt liv på, og at flere mennesker skal oppleve et slikt liv enn det gjør i dag. Det er sant at arbeidet vil være annerledes, den økonomiske overgangen kan være svært utfordrende på enkelte måter, og det er til og med mulig at den grunnleggende sosioøkonomiske kontrakten må endres. Men i en verden med bredt fordelt overflod, kan folks liv bli mye bedre enn de er i dag.

AI-systemer vil hjelpe folk med å forstå helsen sin, akselerere fremgang innen felt som materialvitenskap, legemiddelutvikling og klimamodellering, og utvide tilgangen til personlig utdanning for studenter over hele verden. Å demonstrere denne typen konkrete fordeler bidrar til å bygge en felles visjon om en verden der AI kan gjøre livet bedre, ikke bare mer effektivt.

OpenAI er dypt forpliktet til sikkerhet⁠, som vi tenker på som praksisen med å muliggjøre AIs positive effekter ved å redusere de negative effektene. Selv om de potensielle fordelene er enorme, behandler vi risikoen ved superintelligente systemer som potensielt katastrofale og tror at empirisk⁠ studie⁠ av sikkerhet⁠ og tilpasning⁠ kan hjelpe globale beslutninger, som om hele feltet bør bremse utviklingen for å studere disse systemene mer nøye etter hvert som vi kommer nærmere systemer som er i stand til rekursiv selvforbedring. Åpenbart bør ingen distribuere superintelligente systemer uten å kunne justere og kontrollere dem robust, og dette krever mer teknisk arbeid. 

Her er flere ting vi tenker kan bidra til å oppnå en positiv fremtid med AI:

Vi tenker at banebrytende laboratorier bør bli enige om felles sikkerhetsprinsipper og dele sikkerhetsforskning⁠, lærdom om nye risikoer, mekanismer for å redusere konkurransedynamikk og mer. Vi kan forestille oss at ideer som banebrytende laboratorier som godtar visse standarder rundt AI-kontrollevalueringer, kan være ganske nyttige.

Samfunnet gikk gjennom en lignende prosess for å etablere byggeforskrifter og brannstandarder, noe som har reddet utallige liv.

Det finnes to typer tankevitenskap om AI. En er at AI er som "normal teknologi", ved at den vil utvikle seg som andre teknologiske revolusjoner i fortiden, fra trykkpressen til nettet Ting vil utvikle seg på måter som gir folk og samfunnet en sjanse til å tilpasse seg, og konvensjonelle verktøy for offentlig politikk bør fungere. Vi må prioritere ideer som å fremme innovasjon, beskytte personvernet i samtaler med kunstig intelligens og forsvare oss mot misbruk av bunnsterke systemer av aktører med onde hensikter ved å samarbeide med føderale myndigheter.

Vi tror at AI på dagens kapasitetsnivåer er omtrent her, og bør spre seg overalt. Dette betyr at de fleste utviklere og open-source-modeller, samt nesten alle implementeringer av dagens teknologi burde ha minimale ekstra regulatoriske byrder sammenlignet med det som allerede finnes. Det skal absolutt ikke måtte møte et lappeteppe av 50 stater.

Den andre er der superintelligens utvikler seg og sprer seg på måter og i en hastighet menneskeheten ikke har sett før. Her bør vi gjøre det meste av det ovennevnte, men vi må også være mer innovative. Hvis forutsetningen er at noe slikt vil være vanskelig for samfunnet å tilpasse seg på den «normale måten», bør vi heller ikke forvente at typisk regulering kan gjøre mye heller. I dette tilfellet må vi sannsynligvis jobbe tett med den utøvende grenen og relaterte byråer i flere land (som de ulike sikkerhetsinstituttene) for å sikre god koordinering, spesielt innen områder som å redusere AI-applikasjoner i forbindelse med bioterrorisme (og bruke AI for å oppdage og forhindre bioterrorisme) og implikasjonene av selvforbedrende AI.

Den viktigste prioriteten bør være ansvarliggjøring overfor offentlige institusjoner, men hvordan vi kommer dit, kan måtte være annerledes enn tidligere.

I begge scenariene vil det være essensielt å bygge ut et økosystem for AI-resiliens. Da internett dukket opp, beskyttet vi det ikke med en enkelt policy eller selskap – vi bygde et helt felt innen cybersikkerhet: programvare, krypteringsprotokoller, standarder, overvåkingssystemer, nødsituasjonssvarteam osv. Dette økosystemet eliminerte ikke risikoen, men reduserte den til et nivå som samfunnet kunne leve med, slik at folk kunne stole på den digitale infrastrukturen nok til å bygge livene og økonomiene sine på den. Vi trenger noe tilsvarende for AI, og nasjonale myndigheter har en viktig rolle i å fremme industripolitikk for å oppmuntre til dette.

En forståelse av hvordan AI konkret påvirker verden gjør det lettere å styre denne teknologien mot en positiv innvirkning. Forutsigelse er vanskelig: for eksempel har virkningen av AI på arbeidsplasser vært vanskelig å forutse, delvis fordi dagens styrker og svakheter ved AI er svært forskjellige fra menneskers intelligens. Måling av hva som skjer i praksis, er sannsynligvis svært informativt.

Vi mener at voksne skal kunne bruke AI på sine egne premisser, innenfor brede rammer definert av samfunnet. Vi forventer at tilgang til avansert AI vil bli en grunnleggende tjeneste i de kommende årene—på linje med strøm, rent vann eller mat. Til syvende og sist tenker vi at samfunnet bør støtte å gjøre disse verktøyene allment tilgjengelige, og at ledestjernen bør være å hjelpe folk med å oppnå sine mål.