Makubaliano yetu na Idara ya Vita

Jana tulifikia makubaliano na Pentagon kuhusu kutumia mifumo ya hali ya juu ya AI katika mazingira ya siri, na tuliomba pia waifanye ipatikane kwa makampuni yote ya AI.

Tunaamini makubaliano yetu yana ulinzi zaidi kuliko makubaliano yoyote ya awali kwa mifumo ya AI ya siri, ikiwemo ya Anthropic. Hii ndiyo sababu.

Tuna mipaka mitatu inayoongoza kazi yetu na DoW, ambayo kwa ujumla inashirikiwa na maabara nyingine kadhaa za hali ya juu:

• Hakuna matumizi ya teknolojia ya OpenAI kwa ajili ya ufuatiliaji wa ndani wa watu wengi.
• Hakuna matumizi ya teknolojia ya OpenAI ya kuelekeza mifumo ya silaha zinazojiendesha. 
• Hakuna matumizi ya teknolojia ya OpenAI kwa maamuzi ya kiotomatiki yenye manufaa makubwa (k.m. mifumo kama vile “uwajibikaji katika kijamii”).

Maabara zingine za AI zimepunguza au kuondoa vizuizi vya usalama na kutegemea hasa sera za matumizi kama hatua zao kuu za ulinzi katika usambazaji wa usalama wa taifa. Tunaamini mbinu yetu inalinda vyema dhidi ya matumizi yasiyokubalika.

Katika makubaliano yetu, tunalinda mipaka yetu isiyovukwa kupitia mbinu pana zaidi na ya tabaka nyingi. Tunadumisha mamlaka kamili juu ya safu yetu ya usalama, tunatumia kupitia wingu, wafanyakazi wa OpenAI walioidhinishwa wanahusika, na tuna ulinzi thabiti wa kimkataba. Haya yote ni ya ziada kwa ulinzi madhubuti uliopo tayari katika sheria za Marekani. 

Tunaamini kwa dhati katika demokrasia. Kwa kuzingatia umuhimu wa teknolojia hii, tunaamini kwamba njia pekee nzuri ya kusonga mbele inahitaji ushirikiano wa kina kati ya juhudi za AI na mchakato wa kidemokrasia. Pia tunaamini kwamba teknolojia yetu itatambulisha hatari mpya duniani, na tunataka watu wanaoitetea Marekani wawe na zana bora zaidi.

Makubaliano yetu yanajumuisha:

1. Usanifu wa utekelezaji. Huu ni utekelezaji wa wingu pekee, ulio na mfumo wa usalama tunaouendesha unaojumuisha kanuni hizi na nyinginezo. Hatuipatii DoW “bila vizuizi” au miundo isiyofunzwa kuhusu usalama, wala hatupeleki miundo yetu kwenye vifaa vya pembeneni (ambapo kunaweza kuwa na uwezekano wa matumizi kwa silaha zinazojiendesha zenye uwezo wa kuua). 

Usanifu wetu wa utumizi utatuwezesha kuthibitisha kwa kujitegemea kwamba mipaka hii haivukwi, ikiwa ni pamoja na kuendesha na kusasisha waainishaji.

2. Mkataba wetu. Hii hapa lugha inayohusika:

Idara ya Vita inaweza kutumia Mfumo wa AI kwa madhumuni yote halali, kwa kuzingatia sheria husika, mahitaji ya uendeshaji, na itifaki za usalama na usimamizi zilizoimarishwa na zilizoanzishwa kwa muda mrefu. Mfumo wa AI hautatumika kuelekeza kwa kujitegemea silaha zinazojiendesha katika hali yoyote ambapo sheria, kanuni, au sera ya Idara inahitaji udhibiti wa binadamu, wala hautatumika kuchukua maamuzi mengine ya hatari kubwa yanayohitaji idhini ya mtoa maamuzi wa kibinadamu chini ya mamlaka hayo hayo. Kwa mujibu wa Maelekezo ya DoD ya 3000.09 (dtd 25 Januari 2023), matumizi yoyote ya AI katika mifumo inayojiendesha na inayojiendesha nusu lazima yapitie uthibitishaji, uhalalishaji, na upimaji mkali ili kuhakikisha yanafanya kazi kama ilivyokusudiwa katika mazingira halisi kabla ya kupelekwa.

Kwa shughuli za kijasusi, ushughulikiaji wowote wa taarifa za faragha utazingatia Marekebisho ya Nne, Sheria ya Usalama wa Taifa ya 1947 na Sheria ya Ujasusi wa Kigeni na Ufuatiliaji ya 1978, Amri ya Utendaji 12333, na maagizo husika ya DoD yanayohitaji madhumuni yaliyobainishwa ya ujasusi wa kigeni. Mfumo wa AI hautatumika kwa ufuatiliaji usio na vikwazo wa taarifa za kibinafsi za watu wa Marekani kwa kuzingatia mamlaka hizi. Mfumo pia hautatumiwa kwa shughuli za utekelezaji wa sheria wa ndani isipokuwa kama inavyoruhusiwa na Sheria ya Posse Comitatus na sheria nyingine husika.

3. Ushirikishwaji wa wataalamu wa AI. Tutakuwa na wahandisi wa OpenAI waliopata kibali, waliotumwa kusaidia serikali, huku watafiti wa usalama na ulinganifu waliopata kibali wakihusika moja kwa moja. 

Kwa nini unafanya hivi? 

Kwanza, tunaamini kwamba jeshi la Marekani linahitaji kabisa miundo thabiti ya AI ili kuunga mkono dhamira yao hasa katika kukabiliana na vitisho vinavyoongezeka kutoka kwa maadui watarajiwa ambao wanazidi kuunganisha teknolojia za AI katika mifumo yao. Hapo awali hatukuingia mara moja kwenye mkataba wa usambazaji wa kiwango cha siri, kwa kuwa hatukuhisi kwamba hatua zetu za ulinzi na mifumo yetu ilikuwa tayari, na tumekuwa tukifanya kazi kwa bidii kuhakikisha kwamba usambazaji wa kiwango cha siri unaweza kufanyika kwa hatua za ulinzi ili kuhakikisha kwamba mipaka haivukwi. 

Tulikuwa—na bado tunaendelea—kutokuwa tayari kuondoa hatua muhimu za ulinzi wa kiufundi ili kuboresha utendaji katika kazi za usalama wa taifa. Hiyo si mbinu sahihi ya kuunga mkono jeshi la Marekani. 

Pili, pia tulitaka kupunguza mvutano kati ya DoW na maabara za AI za Marekani. Mustakabali mzuri utahitaji ushirikiano wa kweli na wa kina kati ya serikali na maabara za AI. Kama sehemu ya makubaliano yetu hapa, tuliomba kwamba masharti hayo hayo yaweze kupatikana kwa maabara zote za AI, na hasa kwamba serikali ingejaribu kutatua mambo na Anthropic; hali ya sasa ni njia mbaya sana ya kuanzisha awamu hii inayofuata ya ushirikiano kati ya serikali na maabara za AI.

Kwa nini hukufikia makubaliano wakati Anthropic ilishindwa? Ulisaini makubaliano ambayo hawakuyasaini?

Kulingana na tunachojua, tunaamini mkataba wetu unatoa dhamana bora zaidi na hatua za ulinzi zenye uwajibikaji zaidi kuliko makubaliano ya awali, ikijumuisha mkataba wa awali wa Anthropic. Tunaona kwamba mipaka yetu inaweza kutekelezeka zaidi hapa kwa sababu usambazaji umewekewa kikomo kwa wingu pekee (si pembeni), unaendelea kufanya safu yetu ya usalama ifanye kazi kwa namna tunayoona ni bora, na unaendelea kuwahusisha wafanyakazi wa OpenAI walioidhinishwa.

Hatujui kwa nini Anthropic haikuweza kufikia makubaliano haya, na tunatumai kwamba wao na maabara zaidi watazingatia hilo.

Je, unafikiri Anthropic inapaswa kutajwa kama "hatari kwa msururu wa ugavi"?

Hapana, na tumekuwa wazi kuhusu msimamo wetu kuhusu hili kwa serikali.

Je, makubaliano haya yatawezesha Idara ya Vita kutumia miundo ya OpenAI kuendesha silaha zinazojiendesha? 

Hapana. Kulingana na mfumo wetu wa usalama, usambazaji wetu wa wingu pekee, lugha ya mkataba, na sheria zilizopo, kanuni na sera, tuna uhakika kwamba hili haliwezi kutokea. Pia tutakuwa na wafanyakazi wa OpenAI katika mchakato huu kwa uhakikisho wa ziada.  

Je, makubaliano haya yatawezesha Idara ya Vita kutumia miundo ya OpenAI kufanya ufuatiliaji wa watu wengi nchini Marekani?

Hapana. Kulingana na mfumo wetu wa usalama, lugha ya mkataba, na sheria zilizopo ambazo zinazuia kwa kiasi kikubwa DoW kufanya ufuatiliaji wa ndani, tuna uhakika kwamba hili haliwezi kutokea. Pia tutakuwa na wafanyakazi wa OpenAI katika mchakato huu kwa uhakikisho wa ziada.  

Je, ni lazima utumie mifumo bila safu ya usalama?

Hapana, tunadumisha udhibiti kamili wa mfumo wa usalama tunaoutumia na hatutautumia bila kinga za usalama. Zaidi ya hayo, watafiti wetu wa usalama na wa ulinganifu watakuwa wakihusika na kusaidia kuboresha mifumo kadri muda unavyopita. Tunajua kwamba maabara nyingine za AI zimepunguza vizuizi vya ulinzi vya muundo na kutegemea sera za matumizi kama kinga ya msingi, lakini tunaamini mbinu yetu ya tabaka nyingi inalinda vyema dhidi ya matumizi yasiyokubalika.

Nini hutokea ikiwa serikali itakiuka masharti ya mkataba?

Kama ilivyo kwa mkataba wowote, tunaweza kuusitisha ikiwa mhusika mwingine atakiuka masharti. Hatutarajii hilo litokee.

Itakuwaje ikiwa serikali itabadilisha tu sheria au sera zilizopo za DoW?

Mkataba wetu unarejelea waziwazi sheria na sera za ufuatiliaji na silaha zinazojiendesha kama zilivyo leo, ili hata kama sheria au sera hizo zitabadilika siku zijazo, matumizi ya mifumo yetu lazima bado yaendelee kuendana na viwango vya sasa vinavyoakisiwa katika makubaliano hayo. 

Je, unajibu vipi hoja ambazo Anthropic ilitoa katika chapisho lao la blogu⁠(fungua katika dirisha jipya) kuhusu mazungumzo yao na DoW?

Katika chapisho lao, Anthropic inataja mipaka yao miwili (tuna mipaka miwili hiyo hiyo, pamoja na ya tatu: maamuzi ya kiotomatiki ya hatari kubwa), na sababu kwa nini hawaamini mipaka hii ingeheshimiwa katika mikataba waliyokuwa wameiona kutoka DoW wakati huo. Hapa chini kuna sababu kwa nini tunaamini kwamba mipaka hiyo hiyo ingedumu katika mkataba wetu:

• Ufuatiliaji wa watu wa ndani kwa kiwango kikubwa. Ilikuwa dhahiri katika mwingiliano wetu kwamba DoW inachukulia ufuatiliaji wa watu wa ndani kwa kiwango kikubwa kuwa haramu na haikupanga kuutumia kwa kusudi hili. Tumehakikisha kwamba ukweli kwamba haijashughulikiwa chini ya matumizi halali umewekwa wazi katika mkataba wetu.
• Silaha zinazojitegemea kikamilifu. Sehemu ya utekelezaji wa wingu inayoshughulikiwa katika mkataba wetu isingeruhusu kuwezesha silaha zinazojiendesha kikamilifu, kwa kuwa hili lingehitaji utekelezaji wa pembeni. 

Mbali na ulinzi huu, mkataba wetu unatoa ulinzi wa ziada wa viwango vingi ikijumuisha safu yetu ya usalama na wataalamu wa kiufundi wa OpenAI katika mchakato.