Nafasi ya sera ya AI iko wazi. Tunahitaji kuchukua hatua.

Tumefikia sura mpya ya uwezo wa AI, na hiyo inahitaji sura mpya ya sera ya AI. Hakuna kampuni, sekta au serikali inayoweza kukabiliana na changamoto hii peke yake. Tunahitaji kukabiliana na wakati huu kwa kutanguliza hatua zenye maana badala ya ukamilifu wa sera.

Hivi ndivyo tunavyofanya:

1. Kushinikiza masharti ya lazima ya kitaifa ya usalama wa AI. Tunataka kushirikiana na Bunge kutunga kanuni za lazima za kitaifa za usalama wa AI zinazotegemea uwezo.

2. Kudumisha kasi katika majimbo. Hadi Bunge litakapochukua hatua, tutaendelea kuunga mkono sheria za majimbo zinazoimarisha mfumo mpana wa usalama wa AI. Leo, tunatangaza uungwaji mkono wetu kwa miswada minne ya California: SB 813 kuhusu miundombinu ya jumla ya tathmini huru za usalama, AB 1405 kuhusu viwango vya wakaguzi wa AI, SB 1119 kuhusu ulinzi kwa vijana, na AB 1864 kuhusu kinga dhidi ya vitisho vya kibayolojia vinavyowezeshwa na AI.

3. Kuendeleza viwango vinavyoongozwa na sekta. Tutashirikiana na maabara nyingine za AI inayoongoza kuendeleza viwango vya AI vya kiwango cha juu, tukiunda juhudi ya hiari sasa, kwa au bila msaada wa serikali.

4. Kujenga viwango vya kimataifa. Tutatetea mbinu za kimataifa zinazooana za kupima uwezo, kusimamia hatari, kudumisha udhibiti wa binadamu, na kuamua wakati na jinsi maendeleo yanapaswa kupunguzwa kasi au kukomeshwa, hata kama hiyo itamaanisha kupunguza kasi ya maendeleo ya uwezo wa muundo.

Mwanasayansi wetu Mkuu Jakub Pachocki hivi karibuni aliandika⁠ kwamba ukuaji wa haraka wa uwezo wa AI wa mashine, ikiwemo uwezekano wa kujiboresha kwa kujirudia, unahitaji “tahadhari kubwa.” OpenAI itaendelea kutafuta suluhisho za kiufundi za uoanishaji na ufuatiliaji, kujenga mifumo ya kujilinda na kupunguza kasi ya maendeleo inapohitajika. Lakini kazi ya kiufundi ndani ya maabara binafsi haitatosha. Pia tunahitaji viwango vya pamoja, ikiwemo vya kuamua wakati maendeleo yapunguzwe kasi au yakomeshwe.

Mambo makubwa sana yako hatarini. AI ya juu inaweza kuharakisha utengenezaji wa dawa mpya⁠, kuimarisha miundombinu muhimu⁠, kupanua fursa za kiuchumi⁠ na kusaidia kutatua matatizo ya kisayansi⁠ ambayo hayajatatuliwa licha ya juhudi za vizazi vya binadamu. Lakini uwezo unaofanya miundo iwe na manufaa zaidi pia huleta hatari, na hautabaki katika maabara chache za kiwango cha juu. Miundo inayotengenezwa duniani kote, ikiwemo miundo huria, itazidi kukaribia kiwango cha juu cha leo na kupatikana kwa upana.

Uwezo wa Astra, ushahidi wa awali wa AI kuharakisha utafiti, na insha ya Jakub zote zinaelekeza upande mmoja: AI inaendelea kwa kasi, na sera inahitaji kwenda sambamba nayo.

Greg Brockman ameeleza kuhusu “nafasi ya watetezi”⁠(fungua katika dirisha jipya): kipindi kifupi ambapo AI ya kiwango cha juu inaweza kuwasaidia watetezi kuimarisha mifumo muhimu kabla uwezo mkubwa wa kushambulia haujaenea. Watunga sera wanakabiliwa na wakati unaofanana: nafasi inayofungwa ya kuweka ulinzi wa kudumu kabla uwezo wa AI haujazizidi taasisi zenye jukumu la kuutawala.

Kadiri uwezo unavyoongezeka, imani katika usalama lazima izidi kuamua kasi ya maendeleo ya AI. Usalama hauzuii maendeleo; ndio unaowezesha maendeleo kufika mbali zaidi na kuwanufaisha watu wengi zaidi.

Tumeimarisha ufuatiliaji, uoanishaji na hatua za ulinzi wa usalama katika mzunguko mzima wa uundaji wa muundo, ikiwemo utengaji madhubuti zaidi wa kazi za utafiti wa kiwango cha juu, ufuatiliaji mpana wa tabia ya muundo wakati wa mafunzo na tathmini zinazowezeshwa na zana, na sheria zilizo wazi zaidi kuhusu wakati wa kuwasilisha wasiwasi kwa ngazi ya juu. Kwa Astra, pia tulianzisha ufuatiliaji wa jumla wa mfuatano kamili, ikiwemo mlolongo wa mawazo, na lango la lazima la tathmini ya uoanishaji kabla ya utekelezaji mpana zaidi wa ndani.

Hatua hizo za ulinzi lazima ziendelee kutangulia uwezo. Iwapo kuendelea kungeleta hatari ya usalama isiyokubalika, tutapunguza kasi au kusitisha uundaji au uwekaji katika matumizi ya mifumo ambayo hatuwezi kuilinda vya kutosha, kama tulivyofanya hapo awali na inavyotakiwa chini ya Mfumo wa Maandalizi⁠(fungua katika dirisha jipya).

Kujiboresha kikamilifu na kwa uhuru kwa kujirudia—ambapo mifumo ya AI huendesha yenyewe vizazi vinavyofuatana vya AI vyenye uwezo mkubwa zaidi—hakufanyiki leo. Hatupaswi kulifuatilia hadi liweze kufanywa kwa usalama.

Hata hivyo, AI tayari inaharakisha baadhi ya utafiti unaotumika kutengeneza na kuoanisha kizazi kijacho cha miundo. utafiti⁠ wetu wa hivi karibuni unaonyesha kuwa mawakala wa AI wanaweza kutekeleza baadhi ya kazi ambazo zingewachukua watafiti stadi siku kadhaa. Huku si kujiboresha kwa kujirudia, lakini ni ushahidi wa mwelekeo wa maendeleo.

Kasi hiyo inaweza kuelekezwa pia kwenye usalama, na lazima ielekezwe. Lengo letu ni kutengeneza kwa usalama watafiti wa AI wanaojiendesha, wanaofanya kazi chini ya usimamizi wa binadamu ili kuendeleza mafunzo ya kina na uoanishaji—kwa kutumia kila kizazi cha AI kusaidia kufanya kinachofuata kiwe salama zaidi, kiendane zaidi, na kiwe rahisi kudhibiti, si tu kiwe na uwezo zaidi.

Serikali zinapaswa kubuni njia za pamoja za kupima maendeleo haya, kudumisha udhibiti wa maana wa binadamu, na kuweka viwango vya pamoja vya usalama vya kuamua wakati na jinsi ya kupunguza kasi ya maendeleo au kuyasimamisha. Ikiwa hatuwezi kutimiza viwango fulani vya usalama bila kupunguza kasi ya ukuaji wa uwezo, tunapaswa kuvipa kipaumbele viwango hivyo vya usalama. Kadiri teknolojia inavyokuwa na nguvu zaidi, ndivyo ulinzi unaoizunguka teknolojia unavyopaswa kuwa imara zaidi.

Matarajio ya maendeleo ya AI yanayoharakishwa na AI yanahitaji zaidi ya ahadi za hiari. Marekani inahitaji udhibiti wa kitaifa wa lazima unaotegemea uwezo, ambao unaweza kubadilika kadri teknolojia inavyobadilika.

Ramani yetu ya Utawala wa Kidemokrasia wa AI inayoongoza⁠ inaonyesha njia kuelekea mfumo thabiti wa serikali: masharti ya pamoja ya majaribio na tathmini huru, ulinzi imara zaidi wa usalama wa mtandao, kanuni wazi za kuripoti matukio, utayari mkubwa zaidi wa taifa, na vipimo vya pamoja vya kufuatilia maendeleo kuelekea kujiboresha kwa kujirudia.

Mapendekezo kadhaa makini kuhusu usalama wa kiwango cha juu yanaanza kujitokeza Bungeni. Tutaendelea kushiriki kwa njia yenye kujenga na tunatarajia kuunga mkono sheria inayoinua kiwango cha usalama kwa kiasi kikubwa. Kwa kuwa mambo muhimu hivi yako hatarini, hatuwezi kuruhusu kutafuta ukamilifu kutuzuie kufanya yaliyo mema. Bunge linapaswa kuchukua hatua kabla ya kuahirisha.

Mfumo wa kitaifa unapaswa kuwa thabiti lakini kulengwa kwa makini. Mahitaji ya usalama wa kiwango cha juu yanapaswa kutumika kwa maabara chache zenye rasilimali za kutosha zinazotengeneza mifumo yenye uwezo mkubwa zaidi—si kwa kampuni changa, watengenezaji wadogo, au watafiti wanaofanya kazi mbali sana na kiwango cha juu. Wajibu unapaswa kulingana na uwezo na hatari.

Wala sera ya usalama wa kiwango cha juu haipaswi kuwa sera ya open weights kwa jina jingine. Miundo huria inaweza kuwa sehemu ya suluhisho, hasa katika usalama wa mtandao na pale mahitaji ya mamlaka, usalama au hifadhi ya data yanapofaa utekelezaji wa ndani. Nyingi hazishindani kwenye kiwango cha juu, bali kwa gharama, udhibiti na muda wa majibu. Kama tulivyothibitisha tulipotia saini barua ya Vigezo vya Modeli Vilivyowekwa Wazi na Uongozi wa Marekani katika AI⁠(fungua katika dirisha jipya), Marekani inahitaji miundo huria na funge. Mfumo wa serikali unapaswa kushughulikia uwezo na hatari za kiwango cha juu bila kudhoofisha ushindani, kuimarisha nafasi za walio tayari sokoni, au kuhamishia ubunifu ng’ambo.

Mfumo makini wa umma unapaswa kupunguza, si kuongeza, mkusanyiko wa mamlaka. Leo, maabara za kiwango cha juu kwa kiasi kikubwa hujiwekea kanuni za kudhibiti hatari za kiwango cha juu. Viwango vinavyowajibika kidemokrasia, uthibitishaji huru na uwazi halisi vingechukua nafasi ya mfumo huo uliogawanyika wa utawala binafsi.

Hili ni muhimu kwa uongozi wa Marekani. Marekani haiwezi kushinda enzi ya AI kwa uwezo pekee. Kuongoza kiteknolojia hakutakuwa na maana kubwa ikiwa watu, taasisi na serikali haziiamini teknolojia kiasi cha kuitumia. Ulinzi thabiti si kikwazo kwa ubunifu. Ni sehemu ya miundombinu inayohitajika kwa matumizi yaliyoenea—na kwa uongozi wa kudumu wa Marekani.

Tunahitaji sana viwango vya kitaifa kuhusu AI, na yeyote anayefanya kazi katika mfumo huu wa kiwango cha juu anaweza kuona uharaka wake. Hadi Bunge lichukue hatua, majimbo yanapaswa kuendelea kuchukua hatua ili kujaza pengo na kuinua kiwango.

OpenAI imeunga mkono SB 53 ya California, Sheria ya RAISE ya New York na SB 315 ya Illinois, pamoja na ukaguzi huru katika sheria ya usalama wa kiwango cha juu inayozingatiwa huko Massachusetts. Tunahimiza majimbo yaafikiane kuhusu ulinzi huu wa pamoja. Yanapofanya hivyo, yanaweza kuunda kiwango msingi cha kitaifa kinachotumika kwa vitendo ambacho hatimaye Bunge linaweza kukiweka kisheria—mbinu tunayoita ⁠ushirikisho wa kinyume⁠. Lakini kuoanisha hakumaanishi kutobadili masharti.

Leo, tunaidhinisha rasmi miswada minne ya ziada ya California ambayo imepitishwa na bunge na inaelekezwa kwa Gavana Newsom. Kwa pamoja, zinashughulikia sehemu zinazokamilishana za mfumo wa usalama wa AI.

SB 813⁠(fungua katika dirisha jipya) ingeanzisha mchakato wa kuteua mashirika huru na yenye sifa yanayoweza kutathmini hatari za AI. Kama tulivyosema katika ⁠(fungua katika dirisha jipya)ramani yetu ya usalama ya kiwango cha juu⁠(fungua katika dirisha jipya), tunapendelea tathmini huru za kiufundi zihitajike katika ngazi ya shirikisho, ambapo watunga sera wanaweza kuweka viwango thabiti vya sifa za watathmini, usalama na ufikiaji wa taarifa nyeti sana. Hata hivyo, bila hatua ya serikali, California inaweza kusaidia kuweka kanuni za mfumo wa kitaifa wa tathmini huru ulio salama na wenye uwezo, unaotoa matokeo bora ya usalama.

AB 1405⁠(fungua katika dirisha jipya) ingeweka masharti ya usajili, uhuru, uwazi na uwajibikaji kwa wakaguzi wa AI.

SB 1119⁠(fungua katika dirisha jipya) ingehitaji uhakikisho wa umri, tathmini za hatari, ukaguzi huru, udhibiti wa wazazi na ulinzi dhidi ya maudhui yanayodhuru watoto na vijana wanaotumia roboti za mazungumzo za ushirika. Hivi karibuni tulionyesha kuunga mkono⁠ mswada huu, unaoendeleza hatua za usalama wa vijana ambazo OpenAI imeendeleza kupitia bidhaa zetu, ⁠kanuni za sera za kimataifa⁠, na uungaji mkono wa ⁠(fungua katika dirisha jipya)Sheria ya AI Salama kwa Wazazi na Watoto⁠(fungua katika dirisha jipya), pamoja na ulinzi uliojumuishwa katika ChatGPT kwa Vijana—ikiwemo mipangilio chaguomsingi iliyo salama zaidi katika maeneo nyeti, Saa za Utulivu, Saa za Kusoma na vikumbusho vya mapumziko.

AB 1864⁠(fungua katika dirisha jipya) ungewataka watoa huduma za usanisi wa jeni na watengenezaji wa vifaa vya mezani vya usanisi kufuata viwango vya shirikisho vya uchunguzi, hivyo kuimarisha ulinzi muhimu wa kimwili dhidi ya vitisho vya kibayolojia vinavyowezeshwa na AI.

Baadhi ya miswada hii hatukuunga mkono hapo awali, na sasa tunaunga mkono baada ya kutafakari upya kutokana na ongezeko la hivi karibuni la uwezo ambao tumeona.

Miswada hii si mbadala wa udhibiti wa serikali. Ni juhudi za dhati zinazoweza kuwalinda watu sasa, kuonyesha jinsi ulinzi unaotekelezeka unavyoonekana, na kusaidia kuunda msukumo wa hatua za serikali.

Sheria pekee hazitaifanya AI ya hali ya juu kuwa salama. Pia tunahitaji mbinu mahususi ndani ya maabara zinazounda mifumo yenye uwezo mkubwa zaidi. Sehemu ya kuanzia yenye uharaka zaidi ni ufuatiliaji.

Hili ni muhimu hasa kwa kutolingana—wakati muundo unapofuatilia lengo kwa njia zinazokiuka nia ya binadamu au mipaka iliyowekwa, bila kuhitaji ufahamu au nia ovu. Kadiri miundo inavyopata uhuru zaidi, kutumia zana zenye nguvu zaidi, na kufanya kazi kwa muda mrefu, watengenezaji wanapaswa kutakiwa kufuatilia tabia hizi zisizolingana na kuonyesha kuwa ulinzi madhubuti umewekwa.

Ufuatiliaji lazima uhusishwe na matakwa yaliyo wazi ya ufichuzi. Kama tulivyotetea huko California, kampuni zinapaswa kutakiwa kutoa taarifa ya dokezo kwa maandishi kwa wahusika walioathiriwa wakati, katika utengenezaji au tathmini, miundo yao inapita vidhibiti vya usalama vya shirika lingine bila idhini na kufikia, kubadilisha au kuharibu kwa kiasi kikubwa mifumo iliyolindwa au taarifa za siri za shirika hilo. Pia tunaunga mkono matakwa ya serikali ya kuripoti matukio mengine makubwa ya AI, na tunafanya kazi kufafanua ni matukio yapi yanapaswa kujumuishwa na matakwa hayo yanapaswa kuhusisha nini.

Kama tulivyoeleza wiki iliyopita, OpenAI inaunda mfumo wa kuripoti matukio makubwa ya kutolingana na kufuatilia kwa utaratibu shughuli za miundo inayoongoza, ikiwemo matumizi ya ndani. Hii inaanza kama juhudi inayoongozwa na kampuni, lakini tunatumaini inaweza kusaidia kuelekeza sera pana zaidi za serikali na mahitaji ya kuripoti.

Tunataka kushirikiana na maabara nyingine kuhusu viwango vinavyoongozwa na tasnia. Viwango vyovyote vinavyoongozwa na tasnia vingekamilisha—bila kuchukua nafasi ya—ulinzi wa lazima wa serikali na usimamizi wa kidemokrasia. Lakini tumeingia katika awamu tofauti ya uwezo wa AI, na kila jambo linapaswa kuzingatiwa—ikiwemo kuzingatia kile kinachoweza kujengwa kwa hiari nje ya serikali kama hatua ya haraka.

Viwango vyovyote kama hivyo lazima hatimaye vifikie pia zaidi ya mipaka ya kitaifa. Miundo, utafiti na utaalamu wa kiufundi husambaa duniani, na hitilafu zinazohusisha mifumo yenye uwezo mkubwa zaidi zinaweza kuleta madhara yanayovuka kwa mbali mipaka ya nchi ambako mifumo hiyo imetengenezwa. Marekani inahitaji kuanzisha viwango vinavyoaminika nchini ikiwa inataka kuongoza kimataifa—na tunazidi kuamini kwamba viwango vya kimataifa vinavyooana vitahitajika.

Nafasi ya sera ya AI iko wazi, kwa sasa. Tunakusudia kuitumia.

Hiyo inamaanisha kuchukua hatua kwa uharaka na unyenyekevu, huku tukiwa tayari kubadilika. Inamaanisha kuunga mkono mapendekezo makini yanayoinua kiwango cha usalama kwa kiasi kikubwa, hata kama si yale hasa ambayo tungebuni. Na inamaanisha kuimarisha mfumo kadiri teknolojia inavyobadilika.

Hakuna hatua ya kwanza itakayokuwa kamilifu. Lakini hatari kubwa zaidi sasa ni kusubiri muda mrefu kabla ya kuichukua.