AI-framsteg och rekommendationer

När den populära uppfattningen om Turingtestet susade förbi tyckte många av oss att det var lite konstigt hur mycket vardagslivet bara fortsatte. Det var en milstolpe som folk pratat om i årtionden. Turingtestet kändes först omöjligt att nå, sedan kändes det plötsligt nära och plötsligt var vi på andra sidan. Vi har fått några fantastiska nya produkter och inte mycket i världen har förändrats även om datorer nu kan samtala och lösa svåra problem.

Större delen av världen ser fortfarande AI som chatbotar och bättre sökning men idag har vi system som kan överträffa de smartaste människorna i några av våra mest utmanande intellektuella tävlingar. Även om AI-system fortfarande är ytliga och har allvarliga svagheter känns det fortfarande för personer som använder AI till att lösa problem som att det tar dem 80 % av vägen snarare än 20 %. Skillnaden mellan hur de flesta använder AI och vad AI kan göra idag är enorm.

AI-system som kan upptäcka ny kunskap självständigt eller genom att göra människor mer effektiva kommer sannolikt att ha en stor påverkan på världen.

På bara några år har AI gått från att endast kunna utföra uppgifter (specifikt inom mjukvaruutveckling) som en person kan göra på ett par sekunder till uppgifter som tar en person över en timme. Vi förväntar oss att snart ha system som kan utföra uppgifter som tar en person dagar eller veckor. Vi vet inte hur vi ska tänka på system som kan utföra uppgifter som skulle ta en person århundraden.

Kostnaden per enhet för en viss nivå av intelligens har även sjunkit kraftigt, 40 gånger per år är en rimlig uppskattning under de senaste åren! 

År 2026 förväntar vi oss att AI kommer att kunna göra mycket små upptäckter. År 2028 och framåt är vi ganska säkra på att vi kommer att ha system som kan göra mer betydande upptäckter (även om vi självklart kan ha fel, detta är vad våra forskning verkar indikera).

Vi har länge känt att framsteg inom AI sker på överraskande sätt och att samhället hittar sätt att samexistera med tekniken. Även om vi förväntar oss snabba och betydande framsteg inom AI under de närmaste åren förväntar vi oss att vardagen fortfarande kommer att kännas förvånansvärt konstant, sättet vi lever ändras långsamt även med mycket bättre verktyg.

I synnerhet förväntar vi oss att framtiden kommer att erbjuda nya och förhoppningsvis bättre sätt att leva ett meningsfullt liv och att fler människor kommer få uppleva ett sådant liv än idag. Det är sant att arbetet kommer att se annorlunda ut, den ekonomiska övergången kan bli mycket svår på vissa sätt och det är till och med möjligt att det grundläggande socioekonomiska kontraktet måste förändras. Fast i en värld av brett distribuerat överflöd kan människors liv vara mycket bättre än de är idag.

AI-system kommer hjälpa människor att förstå sin hälsa, påskynda framsteg inom områden som materialvetenskap, läkemedelsutveckling och klimatmodellering samt utöka tillgången till personlig utbildning för studenter runt om i världen. Att visa dessa typer av konkreta fördelar hjälper till att skapa en gemensam vision om en värld där AI kan förbättra livet, inte bara göra det mer effektivt.

OpenAI är djupt engagerat i säkerhet⁠ vilket vi ser som en metod för att möjliggöra AI:s positiva effekter genom att mildra de negativa. Även om de potentiella fördelarna är enorma ser vi riskerna med superintelligenta system som potentiellt katastrofala och tror att empirisk⁠ studie⁠ av säkerhet⁠ och anpassning⁠ kan hjälpa till med globala beslut såsom om området bör sakta ner utvecklingen för att mer noggrant studera dessa system i takt med att vi närmar oss system som kan utföra rekursiv självförbättring. Självklart bör ingen driftsätta superintelligenta system utan att kunna robust anpassa och kontrollera dem och detta kräver mer tekniskt arbete. 

Här är några saker vi tror kan hjälpa till att skapa en positiv framtid med AI:

Vi tycker att banbrytande laboratorier bör enas om gemensamma säkerhetsprinciper och dela säkerhetsforskning⁠, insikter om nya risker, mekanismer för att minska tävlingsdynamik med mer. Vi tycker att idéer såsom att pionjärlaboratorier ska följa vissa standarder för AI-kontrollutvärderingar kan vara ganska hjälpsamt.

Samhället genomgick en liknande process för att fastställa byggnormer och brandstandarder vilket har räddat otaliga mängder liv.

Det finns två tankeskolor om AI. En är att AI är som "normal teknik" eftersom den kommer att utvecklas som andra tekniska revolutioner i det förflutna, från tryckpressen till internet. Saker och ting kommer att utvecklas på ett sätt som ger människor och samhället en chans att anpassa sig och konventionella verktyg för offentlig politik bör fungera. Vi måste prioritera idéer såsom att främja innovation, skydda integriteten i samtal med AI och försvara oss mot missbruk av kraftfulla system av onda aktörer genom att samarbeta med den federala regeringen.

Vi tror att AI på runt dagens kapacitetsnivåer är här och bör spridas överallt vilket innebär att de flesta utvecklare och modeller med öppen källkod (nästan alla implementeringar av dagens teknik) bör ha minimala ytterligare regelbördor i förhållande till vad som redan finns. Separata regelverk från 50 olika stater är absolut inte nödvändigt

Den andra är där superintelligens utvecklas och sprider sig på sätt och med en hastighet som mänskligheten inte skådat förut. Här borde vi göra det mesta av ovanstående men vi måste även vara mer innovativa. Om premissen är att något likt detta kommer att vara svårt för samhället att anpassa sig till på ett "normalt sätt" bör vi inte heller förvänta oss att reglering kommer att göra särskilt mycket. I det här fallet kommer vi förmodligen att behöva arbeta tillsammans med den verkställande makten och relaterade myndigheter i flera länder (såsom de olika säkerhetsinstituten) för att samordna, särskilt kring områden såsom att mildra AI-tillämpningar för bioterrorism (och använda AI för att upptäcka och förebygga bioterrorism) och konsekvenserna av självförbättrande AI.

Det viktigaste borde vara ansvarsskyldighet gentemot offentliga institutioner men hur vi kommer dit kan behöva skilja sig från det förflutna.

I båda scenarierna kommer det att vara avgörande att skapa ett ekosystem för AI-motståndskraft. När internet uppstod skyddade vi det inte med en enda policy eller ett enda företag, vi byggde upp ett helt område inom cybersäkerhet: programvara, krypteringsprotokoll, standarder, övervakningssystem, räddningsteam etc. Ekosystemet eliminerade inte risken men det minskade den till en nivå som samhället kunde leva med vilket gjorde det möjligt för människor att lita på den digitala infrastrukturen tillräckligt för att bygga sina liv och ekonomier på den. Vi kommer att behöva något liknande för AI och nationella regeringar har en kraftfull roll att spela i att främja politik för att uppmuntra detta.

Förståelse för hur AI konkret påverkar världen gör det lättare att styra denna teknik mot en positiv inverkan. Det är svårt att komma med förutsägelser: AI:s påverkan på jobb har till exempel varit svår att förutse, delvis för att styrkorna och svagheterna hos dagens AI:s skiljer sig mycket från människors. Att mäta vad som sker i praktiken är sannolikt mycket informativt.

Vi tycker att vuxna ska kunna använda AI på sina egna villkor inom breda ramar definierade av samhället. Vi förväntar oss att tillgång till avancerad AI kommer att bli en grundläggande nyttighet under de kommande åren i nivå med elektricitet, rent vatten och mat. Vi tycker i slutändan att samhället bör hjälpa till med att göra dessa verktyg allmänt tillgängliga och att ledstjärnan bör vara att hjälpa människor uppnå sina mål.