Sam Altmans tale til FN's Sikkerhedsråd

I dag talte OpenAI's administrerende direktør, Sam Altman, til FN's Sikkerhedsråd om kunstig intelligens. Han talte om AI's potentiale til at skabe flere muligheder, vigtigheden af at holde stærke systemer under menneskelig kontrol og behovet for internationalt samarbejde om AI-sikkerhed.

Tak, hr. formand og Deres Excellencer. Det er en ære at være her og få mulighed for at tale med jer alle på dette vigtige tidspunkt.

Vi har talt om kunstig intelligens i årevis, men i de seneste uger og måneder har det føltes anderledes. De hurtige fremskridt inden for modeller har fået tidshorisonten til at virke kortere og fordelene mere håndgribelige, men har også gjort konsekvenserne og risiciene mere nærværende.

Vi står over for et valg. AI kan enten blive som en ny renæssance præget af kreativitet og opdagelser eller som en ny industriel revolution præget af omvæltning og kaos.

Renæssancen var en tid, hvor nye værktøjer, idéer og institutioner udvidede menneskers opfattelse af, hvad de kunne udrette. AI kan spille den rolle i vores tid. Jeg mener, at mennesker er langt dygtigere, end de selv forestiller sig, men at de er blevet holdt tilbage af begrænset teknologi, som skulle styrke dem, men i stedet distraherer dem og ofte stjæler deres opmærksomhed.

Den bedste udgave af AI handler ikke om at gøre mennesker til tandhjul i en enorm maskine eller optimere alle dele af livet, indtil det menneskelige forsvinder. Den handler om at give mennesker større handlekraft i en stadig mere kompleks verden: bedre mulighed for at lære, skabe, opdage, bygge og deltage. Der er mange ting, som AI ikke kan – og ikke bør – automatisere.

AI skal bygges til mennesker, ikke blot for at få maskineriet til at køre hurtigere for dets egen skyld. Nogle af de udtalelser, som mennesker, der arbejder på at bygge AI, er kommet med, er så dystopiske, at de lyder som handlingen i dårlige science fiction-film.

Alt med så stor styrke virker også skræmmende. Dette øjeblik er komplekst, fordi vi samtidig oplever et enormt potentiale og en helt forståelig bekymring.

Disse modeller kan hjælpe mennesker med at opdage ny viden: nye lægemidler, bedre sundhedspleje og stærkere uddannelse samt med at opbygge mere produktive økonomier. De kan blive nye værktøjer, som hjælper mennesker med at forfølge drømme og ambitioner, der i dag virker uopnåelige. For det enkelte menneske er livets kompleksitet steget dramatisk. AI kan både være et værn mod denne kompleksitet og et redskab til opdagelser og innovation uden fortilfælde.

På den anden side kan AI-systemer, efterhånden som de bliver mere kompetente og autonome, udvikle sig hurtigere end vores institutioner, koncentrere magten på for få hænder eller træffe beslutninger, som mennesker ikke længere forstår eller kontrollerer.

Denne bekymring bliver særligt vigtig, når vi nærmer os systemer, der kan forbedre sig selv og fremtidige udgaver af sig selv – det kaldes ofte rekursiv selvforbedring. Efterhånden som udviklingen af AI bliver mere automatiseret, kan fremskridtene inden for AI accelerere hurtigt. Dette øjeblik kræver ekstrem forsigtighed.

Jeg er i store træk enig med professor Bengio. Men jeg vil sige to i stedet for tre – jeg mener, at udviklingen inden for AI kan gå helt galt på to måder, som vi er nødt til at undgå.

For det første kan vi miste kontrollen over fremtiden til AI. Risikoen er, at udviklingen går så hurtigt, at mennesker ikke længere kan følge med i, hvad der sker, eller gribe ind, når det er nødvendigt. Det ville naturligvis være forfærdeligt.

Branchen må ikke acceptere for store teknologiske risici, blot fordi fordelene er så store, og udviklingen føles for vigtig til at sætte farten ned. Ønsket om at slå andre virksomheder i kapløbet er ikke en grund til at træffe forhastede beslutninger. Vi mener heller ikke, at vi er fastlåst i et kapløb, hvor vi ikke kan sætte farten ned. Vi har tidligere ensidigt sat farten ned. Det vil vi også gøre fremover. Vi ønsker ikke at bygge systemer – og vi mener, at det er vigtigt, at alle undgår at bygge systemer – hvor vi ikke kan stille de nødvendige garantier for tilpasning, mulighed for overvågning og sikkerhed.

Vi skal forstå, hvad disse systemer gør, og have stærk dokumentation for, at de vil gøre det, mennesker ønsker, selv når de bliver meget, meget intelligente. Faktisk især når de bliver meget, meget intelligente. Det er ligegyldigt, om mennesker vurderer risikoen for en katastrofe til 10 %, 1 %, 12 % eller 0,1 %. Ingen af disse risikoniveauer er tilnærmelsesvis acceptable. Og vi bør ikke træne modeller, medmindre vi kan fremlægge en ekstremt overbevisende argumentation for, at vi vil kunne holde dem under menneskelig kontrol.

Det er altså én måde, det kan gå galt på. I den anden retning kan disse systemer koncentrere for meget magt på for få hænder. Ingen enkeltperson, virksomhed eller stat bør kunne bruge de mest kraftfulde AI-modeller til at påtvinge alle andre sit verdenssyn. En virksomhed eller stat, der mener, at kun den kan betros denne teknologi, kan bruge den overbevisning til at retfærdiggøre næsten hvad som helst. Vi er nødt til at afvise den logik, selv når den er belejlig for en bestemt aktør.

Jeg mener, at der findes en pragmatisk vej gennem begge disse udfordringer. Hos OpenAI går vi til disse spørgsmål med et klart mål: AI skal give mennesker større indflydelse på deres eget liv. Større frihed til at leve, som de ønsker. Bedre muligheder for at løse store og små problemer og forbedre deres lokalsamfund. Vi ønsker ikke at falde i den blinde optimismes fælde. Vi ønsker heller ikke at falde i dommedagstænkningens fælde. Hvis vi lader os trække mod en af yderlighederne, hjælper det os ikke med at håndtere de udfordringer, vi står over for – især ikke på et tidspunkt, hvor verden og dens befolkning står over for enorme udfordringer, som denne teknologi kan bidrage til at løse. Derfor forsøger vi at følge en middelvej mellem disse to poler.

For os betyder det tre principper.

For det første skal mennesker forblive i centrum for beslutninger om AI, efterhånden som teknologien bliver mere kompetent. Tilpasning er ikke et abstrakt forskningsspørgsmål. Det handler om at sikre, at disse systemer pålideligt forbliver under menneskelig kontrol, afspejler menneskelige værdier og hjælper mennesker med at styre de næste udviklingstrin. Vi forsøger ikke – og må ikke forsøge – at automatisere menneskelig dømmekraft eller menneskelige værdier.

For det andet skal fordelene ved videnskabelige fremskridt og økonomisk vækst skabes af mennesker og være til gavn for mennesker. AI skal hjælpe forskere med at gøre opdagelser, læger med at behandle patienter, lærere med at undervise elever, iværksættere med at starte virksomheder og lokalsamfund med at løse problemer, der før virkede uoverkommelige – og meget mere. Den gennemgående fortælling om menneskelige fremskridt er ikke, at værktøjer erstatter menneskers handlekraft. Den er, at de rette værktøjer gør mennesker dygtigere, og jeg tror, at dette vil række langt ud over, hvad vi i dag anser for muligt.

For det tredje skal denne teknologi styrke den enkelte. En god fremtid vil blive skabt af mennesker, der realiserer deres potentiale og skaber værdi for sig selv, deres lokalsamfund, deres lande og verden som helhed. Vi er måske blandt dem, der bygger denne teknologi, men vi er ikke heltene i denne fortælling. Vores rolle er at give mennesker over hele verden muligheder og stole på magien i menneskehedens evner og talenter.

Vi har nu modeller, der kan opdage viden, som vi aldrig tidligere har haft. Tænk på de fremskridt, vi har set inden for matematik. For tre somre siden var vores modeller rimelige til matematik på folkeskoleniveau. For to somre siden klarede de sig ret godt i matematikkonkurrencer på gymnasieniveau. Sidste sommer nåede vi guldmedaljeniveau i verdens mest prestigefyldte matematikkonkurrence. Og for blot få uger siden denne sommer løste en af vores modeller et af millenniumproblemerne: Navier-Stokes-ligningerne.

Disse ligninger bruges til flydesign, vejrudsigter og studier af blodgennemstrømning. Vi løser ikke matematiske problemer for deres egen skyld, men for at give mennesker mulighed for at opdage ny viden og bruge den til at forbedre sundhedsplejen, hæve levestandarden og udvide alles muligheder verden over. Der er stadig så meget at opdage.

Men det er meget vigtigt, at virksomheder ikke træder i stedet for den demokratiske proces.

Hvis AI skal være demokratisk, kan de vigtigste beslutninger ikke træffes af laboratorier i San Francisco alene. De skal formes gennem demokratiske processer og af regeringer, der står til ansvar over for de mennesker, de tjener.

På internationalt plan vil det kræve samarbejde. Historien har budt på tidspunkter, hvor lande, der konkurrerer og ikke altid bryder sig særlig meget om hinanden, alligevel er gået sammen om fælles interesser og det fælles bedste over for en ny og stærk teknologi. Vi mener, at dette skal være et af de tidspunkter.

Vi har brug for en mekanisme for supplerende nationale og internationale standarder for banebrydende AI: standarder for måling af kapaciteter, vurdering af risici, afgørelse af, om sikkerhedsforanstaltningerne er tilstrækkelige, og fastholdelse af meningsfuldt menneskeligt tilsyn, efterhånden som systemerne bliver mere autonome.

Vi har brug for fælles standarder, så lande kan sammenligne dokumentation, kontrollere efterlevelsen og have et fælles sprog og en fælles forståelse af, hvad der sker.

Vi har brug for præcis og hurtig indberetning af hændelser samt protokoller for klassificering og indberetning, så verden kan lære af fejl, før de udvikler sig til katastrofer.

Og vi har brug for sikre kanaler mellem regeringer, operatører af kritisk infrastruktur og tekniske eksperter, så de kan dele oplysninger om nye sårbarheder og trusler.

Disse standarder bør naturligvis ikke fastlåse de etablerede aktørers position eller favorisere én forretningsmodel frem for en anden. De skal understøtte udviklere af både åbne og lukkede modeller, nye aktører og etablerede laboratorier, national myndighed og internationalt samarbejde. Hver regering bør beslutte, hvordan standarderne skal indarbejdes i landets eget retssystem. Men vi vil alle stå bedre, hvis vi globalt kan blive enige om, hvad der udgør god dokumentation, gode sikkerhedsforanstaltninger og godt tilsyn.

Vi har ikke alle svarene, og vi er meget åbne over for bedre idéer. Vi er klar til at samarbejde med jer alle og gøre vores yderste for at finde vejen frem.

Vi står ved en skillevej. Den ene vej fører til en verden, hvor magten er koncentreret, beslutningerne er uigennemsigtige, og mennesker føler, at deres livs vigtigste teknologi er noget, der bliver påtvunget dem. Den anden vej fører til en verden, hvor AI arbejder for mennesker, fordi mennesker gennem demokratiske institutioner er med til at beslutte, hvordan den skal udvikles og styres; hvor videnskabelige fremskridt forbedrer virkelige menneskers liv; hvor flere kan tage del i fremtiden; og hvor denne teknologi fortsat giver enkeltpersoner og lokalsamfund større mulighed for at leve, som de ønsker. Det er en fremtid præget af indfriet potentiale, begejstring og forundring.

Og det er den fremtid, vi mener er værd at bygge. Mange tak.