AI-fremskridt og anbefalinger

Da den populære opfattelse af Turing-testen susede forbi, syntes mange af os, at det var lidt underligt, hvor meget dagligdagen bare fortsatte. Dette var en milepæl, som folk havde talt om i årtier. Det føltes umuligt at nå, så pludselig føltes det tæt på, og så pludselig var vi på den anden side. Vi har fået nogle fantastiske nye produkter, og der er ikke sket meget i verden, selvom computere nu kan samtale og tænke over komplekse problemer.

De fleste mennesker i verden tænker stadig på AI som chatbots og bedre søgning, men i dag har vi systemer, der kan overgå de klogeste mennesker i nogle af vores mest udfordrende intellektuelle konkurrencer. Selvom AI-systemer stadig er ustabile og har alvorlige svagheder, virker systemer, der kan løse sådanne komplekse problemer, mere som 80 % af vejen for en AI-forsker end 20 % af vejen. Kløften mellem, hvordan de fleste mennesker bruger AI, og hvad AI i øjeblikket er i stand til, er enorm.

AI-systemer, der kan opdage ny viden – enten autonomt eller ved at gøre folk mere effektive – vil sandsynligvis have en betydelig indvirkning på verden.

På få år er AI gået fra kun at kunne udføre opgaver (specifikt inden for softwareudvikling), som en person kan klare på få sekunder, til opgaver, der tager en person mere end en time. Vi forventer snart at have systemer, der kan udføre opgaver, som tager en person dage eller uger; vi ved ikke, hvordan vi skal tænke på systemer, der kan udføre opgaver, som ville tage en person århundreder.

Samtidig er omkostningerne pr. enhed for et givet intelligensniveau faldet drastisk; 40 gange om året er et rimeligt skøn over de sidste par år! 

I 2026 forventer vi, at AI vil kunne gøre meget små opdagelser. I 2028 og fremover er vi ret sikre på, at vi vil have systemer, der kan gøre mere betydningsfulde opdagelser (selvom vi selvfølgelig kunne tage fejl, er det, hvad vores forskningsfremskridt ser ud til at indikere).

Vi har længe følt, at AI-fremskridt udspiller sig på overraskende måder, og at samfundet finder måder at udvikle sig sammen med teknologien. Selvom vi forventer hurtige og betydelige fremskridt i AI-kapaciteterne i de næste par år, forventer vi, at hverdagen stadig vil føles overraskende konstant; den måde, vi lever på, har en stor inerti, selv med meget bedre værktøjer.

Vi forventer især, at fremtiden vil give nye og forhåbentlig bedre måder at leve et tilfredsstillende liv på, og at flere mennesker oplever et sådant liv end i dag. Det er sandt, at arbejdet vil ændre sig, den økonomiske overgang kan være meget vanskelig på nogle områder, og det er endda muligt, at den grundlæggende socioøkonomiske kontrakt skal ændres. Men i en verden med bredt fordelt overflod kan folks liv være meget bedre, end de er i dag.

AI-systemer vil hjælpe folk med at forstå deres helbred, fremskynde fremskridt inden for områder som materialevidenskab, lægemiddeludvikling og klimamodellering og udvide adgangen til personlig uddannelse for studerende over hele verden. At demonstrerer disse typer håndgribelige fordele, hvilket hjælper med at skabe en fælles vision om en verden, hvor AI kan forbedre livet, ikke kun gøre det mere effektivt.

OpenAI er dybt engageret i sikkerhed⁠, hvilket vi betragter som praksissen med at muliggøre AI's positive virkninger ved at afbøde de negative. Selvom de potentielle fordele er enorme, betragter vi risiciene ved superintelligente systemer som potentielt katastrofale og mener, at empirisk⁠ undersøgelse⁠ af sikkerhed⁠ og justering⁠ kan hjælpe med globale beslutninger, såsom om hele feltet bør bremse udviklingen for at studere disse systemer mere omhyggeligt, efterhånden som vi nærmer os systemer, der er i stand til rekursiv selvforbedring. Det er klart, at ingen bør implementere superintelligente systemer uden at være i stand til robust at justere og kontrollere dem, og dette kræver mere teknisk arbejde. 

Her er flere ting, vi mener kan bidrage til at opnå en positiv fremtid med AI:

Vi tænker, at grænselaboratorier bør blive enige om fælles sikkerhedsprincipper og dele sikkerhedsforskning⁠, lære om nye risici, mekanismer til at reducere racedynamik og meget mere. Vi kan forestille os, at ideer som banebrydende laboratorier, der bliver enige om visse standarder for AI-kontrolevalueringer, kan være ganske nyttige.

Samfundet gennemgik en lignende proces for at etablere bygningsreglementer og brandstandarder, hvilket har reddet utallige liv.

Der er to opfattelser af AI. En af dem er, at AI er som 'normal teknologi', idet den vil udvikle sig som andre teknologiske revolutioner i fortiden, fra trykpressen til internettet. Tingene vil udvikle sig på en måde, der giver mennesker og samfund mulighed for at tilpasse sig, og konventionelle redskaber inden for offentlig politik bør fungere. Vi bliver nødt til at prioritere idéer som fremme af innovation, beskyttelse af privatlivets fred i samtaler med AI og forsvar mod misbrug af magtfulde systemer af onde aktører ved at indgå partnerskab med den føderale regering.

Vi mener, at AI på det nuværende kapacitetsniveau stort set er her, og at det bør spredes overalt, hvilket betyder, at de fleste udviklere og open source-modeller og næsten alle implementeringer af den nuværende teknologi bør have minimale yderligere reguleringsmæssige byrder i forhold til det, der allerede findes. Det bør bestemt ikke skulle stå over for et patchwork af 50 stater.

Den anden er, hvor superintelligens udvikler sig og spreder sig på måder og med en hastighed, som menneskeheden ikke har oplevet før. Her skal vi gøre de fleste af de ovennævnte ting, men vi skal også være mere innovative. Hvis forudsætningen er, at noget som dette vil være vanskeligt for samfundet at tilpasse sig på den “normale måde”, bør vi heller ikke forvente, at en typisk regulering kan gøre meget. I dette tilfælde vil vi sandsynligvis være nødt til at arbejde tæt sammen med den udøvende magt og relaterede myndigheder i flere lande (f.eks. de forskellige sikkerhedsinstitutter) for at sikre en god koordinering, især inden for områder som begrænsning af AI-anvendelser til bioterrorisme (og brug af AI til at opdage og forhindre bioterrorisme) og konsekvenserne af selvforbedrende AI.

Den overordnede del bør være ansvarlighed over for offentlige institutioner, men måden, vi når dertil, bliver måske nødt til at være anderledes end tidligere.

I begge scenarier vil det være essentielt at opbygge et økosystem for AI-modstandsdygtighed. Da internettet opstod, beskyttede vi det ikke med en enkelt politik eller virksomhed – vi skabte et helt felt inden for cybersikkerhed: software, krypteringsprotokoller, standarder, overvågningssystemer, beredskabsteams osv. Det økosystem eliminerede ikke risikoen, men det reducerede den til et niveau, som samfundet kunne leve med, hvilket gjorde det muligt for folk at stole på den digitale infrastruktur nok til at bygge deres liv og økonomier på den. Vi får brug for noget tilsvarende for kunstig intelligens, og der er en stærk rolle for nationale regeringer i at fremme industripolitik for at opmuntre dette.

Når man forstår, hvordan AI konkret påvirker verden, bliver det lettere at styre denne teknologi i en positiv retning. Forudsigelser er svære: For eksempel har det været svært at forudse AI's indvirkning på job, delvis fordi nutidens AI's styrker og svagheder er meget forskellige fra menneskers. Det vil sandsynligvis være meget informativt at måle, hvad der sker i praksis.

Vi mener, at voksne skal kunne bruge AI på deres egne vilkår, inden for brede rammer defineret af samfundet. Vi forventer, at adgang til avanceret AI vil blive en grundlæggende forsyning i de kommende år – på niveau med elektricitet, rent vand eller mad. I sidste ende mener vi, at samfundet bør støtte dét at gøre disse værktøjer bredt tilgængelige, og at ledestjernen bør hjælpe med at give folk mulighed for at nå deres mål.