Մեր պայմանագիրը Պատերազմի նախարարության հետ

Երեկ մենք Պենտագոնի հետ համաձայնության եկանք՝ գաղտնի միջավայրերում առաջադեմ արհեստական բանականության համակարգերի տեղակայման վերաբերյալ, և մենք խնդրեցինք, որ դրանք նաև հասանելի դարձնեն բոլոր ԱԲ ընկերություններին։

Մենք կարծում ենք, որ մեր համաձայնագիրն ունի ավելի շատ պաշտպանիչ սահմանափակումներ, քան որևէ նախորդ համաձայնագիր՝ գաղտնի ԱԲ տեղակայումների համար, ներառյալ Anthropic-ը։ Ահա թե ինչու։

Մենք ունենք երեք հիմնական կարմիր գծեր, որոնք ուղղորդում են մեր աշխատանքը Պատերազմի բաժնի հետ, և որոնք ընդհանուր առմամբ կիսվում են նաև մի քանի այլ առաջադեմ լաբորատորիաների կողմից:

• OpenAI տեխնոլոգիայի չօգտագործում զանգվածային ներքին հսկողության համար։
• OpenAI տեխնոլոգիայի օգտագործումն արգելվում է ինքնավար զենքային համակարգերը ուղղորդելու համար. 
• OpenAI տեխնոլոգիայի չօգտագործում բարձր ռիսկային ավտոմատացված որոշումների համար (օրինակ՝ համակարգեր, ինչպիսիք են «սոցիալական կրեդիտ»):

Այլ ԱԲ լաբորատորիաները նվազեցրել կամ հեռացրել են իրենց անվտանգության պաշտպանիչ սահմանափակումները և ազգային անվտանգության տեղակայումներում հիմնականում ապավինել են օգտագործման քաղաքականություններին՝ որպես հիմնական պաշտպանիչ միջոցներ։ Մենք կարծում ենք, որ մեր մոտեցումն ավելի լավ է պաշտպանում անընդունելի օգտագործումից։

Մեր համաձայնագրում մենք մեր կարմիր գծերը պաշտպանում ենք ավելի ընդարձակ և բազմաշերտ մոտեցման միջոցով։ Մենք պահպանում ենք լիակատար հայեցողություն մեր անվտանգության շերտի նկատմամբ, տեղակայում ենք ամպային միջավայրի միջոցով, հաստատված OpenAI անձնակազմը ներգրավված է գործընթացում, և մենք ունենք ամուր պայմանագրային պաշտպանություններ։ Սա լրացնում է ԱՄՆ օրենքում արդեն իսկ առկա ուժեղ պաշտպանությունները։ 

Մենք խորապես հավատում ենք ժողովրդավարությանը։ Հաշվի առնելով այս տեխնոլոգիայի կարևորությունը՝ մենք հավատում ենք, որ առաջ շարժվելու միակ լավ ուղին պահանջում է խորը համագործակցություն ԱԲ նախաձեռնությունների և ժողովրդավարական գործընթացի միջև։ Մենք նաև հավատում ենք, որ մեր տեխնոլոգիան աշխարհում նոր ռիսկեր է առաջ բերելու, և մենք ցանկանում ենք, որ Միացյալ Նահանգները պաշտպանող մարդիկ ունենան լավագույն գործիքները։

Մեր համաձայնագիրը ներառում է՝

1. Տեղակայման ճարտարապետություն։ Սա միայն ամպային տեղակայում է՝ անվտանգության համակարգով, որը մենք գործարկում ենք և որը ներառում է այս սկզբունքները և այլք։ Մենք DoW-ին չենք տրամադրում «guardrails off» կամ անվտանգության ուսուցում չանցած մոդելներ, ինչպես նաև չենք տեղակայում մեր մոդելները edge սարքերում (որտեղ կարող է լինել ինքնավար մահաբեր զենքերի համար օգտագործման հնարավորություն)։ 

Մեր տեղակայման ճարտարապետությունը մեզ հնարավորություն կտա անկախ ստուգել, որ այս կարմիր գծերը չեն հատվել, ներառյալ դասակարգիչների գործարկումը և թարմացումը։

2. Մեր պայմանագիրը։ Ահա համապատասխան լեզուն՝

Պատերազմի նախարարությունը կարող է օգտագործել արհեստական ինտելեկտի համակարգը բոլոր օրինական նպատակներով՝ համապատասխան կիրառելի օրենսդրությանը, գործառնական պահանջներին և հաստատված անվտանգության ու վերահսկողության արձանագրություններին: Արհեստական ինտելեկտի համակարգը չի օգտագործվի ինքնավար զենքերը անկախ կառավարելու համար այն դեպքերում, երբ օրենքը, կանոնակարգը կամ նախարարության քաղաքականությունը պահանջում են մարդկային վերահսկողություն, ինչպես նաև չի օգտագործվի այլ բարձր ռիսկային որոշումներ կայացնելու համար, որոնք պահանջում են նույն լիազորությունների ներքո գտնվող մարդկային որոշում կայացնողի հաստատում: Համաձայն ՊՆ 3000.09 հրահանգի (ամսաթիվը՝ 2023 թվականի հունվարի 25), ինքնավար և կիսաինքնավար համակարգերում արհեստական ինտելեկտի ցանկացած օգտագործում պետք է անցնի խիստ ստուգման, վավերացման և փորձարկման՝ ապահովելու համար, որ դրանք գործեն նախատեսվածի պես իրական միջավայրերում՝ տեղակայումից առաջ:

Հետախուզական գործունեության համար անձնական տեղեկատվության ցանկացած մշակում կհամապատասխանի Չորրորդ փոփոխությանը, 1947 թվականի Ազգային անվտանգության մասին օրենքին և 1978 թվականի Արտաքին հետախուզության և հսկողության մասին օրենքին, 12333 գործադիր հրամանագրին, ինչպես նաև ՊՆ համապատասխան դիրեկտիվներին, որոնք պահանջում են սահմանված արտաքին հետախուզության նպատակ։ ԱԲ համակարգը չպետք է օգտագործվի ԱՄՆ անձանց անձնական տեղեկատվության անսահմանափակ մոնիթորինգի համար՝ այս լիազորություններին համապատասխան։ Համակարգը նաև չպետք է օգտագործվի ներքին իրավապահ մարմինների գործունեության համար, բացառությամբ «Posse Comitatus» օրենքով և այլ կիրառելի օրենսդրությամբ թույլատրված դեպքերի։

3. ԱԲ փորձագետի ներգրավվածություն։ Մենք կունենանք առաջ տեղակայված OpenAI-ի ինժեներներ՝ համապատասխան թույլտվություններով, որոնք կօգնեն կառավարությանը, իսկ համապատասխան թույլտվություններով անվտանգության և համադրման հետազոտողները կմնան գործընթացում։ 

Ինչո՞ւ եք սա անում։ 

Նախ, մենք կարծում ենք, որ ԱՄՆ զինված ուժերին բացարձակապես անհրաժեշտ են հզոր արհեստական բանականության մոդելներ՝ իրենց առաքելությանը աջակցելու համար, հատկապես՝ հնարավոր հակառակորդների կողմից աճող սպառնալիքների պայմաններում, որոնք իրենց համակարգերում գնալով ավելի են ինտեգրում արհեստական բանականության տեխնոլոգիաները։ Սկզբում մենք չկնքեցինք գաղտնի տեղեկատվության տեղակայման պայմանագիր, քանի որ չէինք կարծում, որ մեր պաշտպանության միջոցներն ու համակարգերը պատրաստ են, և ջանասիրաբար աշխատում էինք՝ գաղտնի տեղեկատվության տեղակայումը իրականացնելու համար՝ կարմիր գծերի չխախտման երաշխիքներով։ 

Մենք պատրաստ չէինք և շարունակում ենք պատրաստ չլինել վերացնելու ազգային անվտանգության աշխատանքների արդյունավետությունը բարձրացնելու համար հիմնական տեխնիկական պաշտպանիչ միջոցները։ Դա ԱՄՆ զինված ուժերին աջակցելու ճիշտ մոտեցումը չէ։ 

Երկրորդ, մենք նաև ցանկանում էինք թուլացնել լարվածությունը Վարշավայի դեպարտամենտի և ԱՄՆ արհեստական ինտելեկտի լաբորատորիաների միջև։ Լավ ապագան պահանջելու է իրական և խորը համագործակցություն կառավարության և արհեստական բանականության լաբորատորիաների միջև։ Մեր համաձայնության շրջանակում մենք խնդրել էինք, որ նույն պայմանները հասանելի լինեն բոլոր ԱԲ լաբորատորիաներին, և մասնավորապես՝ կառավարությունը փորձի կարգավորել Anthropic-ի հետ հարցերը. ներկայիս վիճակը շատ վատ մեկնարկ է կառավարության և ԱԲ լաբորատորիաների համագործակցության հաջորդ փուլի համար։

Ինչո՞ւ կարողացաք համաձայնության գալ, երբ Անտրոպիկը չէր կարող։ Դուք ստորագրե՞լ եք այն գործարքը, որը նրանք չէին ստորագրի։

Ելնելով մեր ունեցած տեղեկություններից՝ մենք հավատում ենք, որ մեր պայմանագիրը տրամադրում է ավելի լավ երաշխիքներ և ավելի պատասխանատու պաշտպանական միջոցներ, քան ավելի վաղ համաձայնագրերը, ներառյալ Anthropic-ի սկզբնական պայմանագիրը։ Մենք կարծում ենք, որ մեր կարմիր գծերն այստեղ ավելի կիրառելի են, քանի որ տեղակայումը սահմանափակված է միայն ամպային միջավայրով (ոչ եզրում), պահպանում է մեր անվտանգության շերտի աշխատանքը այնպես, ինչպես մենք կարծում ենք՝ լավագույնն է, և ապահովում է, որ ստուգված OpenAI անձնակազմը ներգրավված լինի գործընթացում։

Մենք չգիտենք, թե ինչու Anthropic-ը չկարողացավ հասնել այս գործարքին, և հուսով ենք, որ նրանք և ավելի շատ լաբորատորիաներ կքննարկեն դա։

Կարծո՞ւմ եք՝ Anthropic-ը պետք է դասակարգվի որպես «մատակարարման շղթայի ռիսկ»։

Ոչ, և մենք մեր դիրքորոշումը հստակ ներկայացրել ենք կառավարությանը։

Արդյո՞ք այս գործարքը հնարավորություն կտա Պատերազմի նախարարությանը օգտագործել OpenAI մոդելները ինքնավար զենքերը սնուցելու համար։ 

Ոչ։ Մեր անվտանգության համակարգի, մեր միայն ամպային տեղակայման, պայմանագրային ձևակերպումների, ինչպես նաև գործող օրենքների, կարգավորման և քաղաքականության հիման վրա մենք վստահ ենք, որ սա չի կարող տեղի ունենալ։ Մենք նաև OpenAI-ի անձնակազմին կներառենք գործընթացում՝ լրացուցիչ վստահության համար.  

Արդյո՞ք այս գործարքը Պատերազմի բաժնին հնարավորություն կտա օգտագործել OpenAI մոդելները՝ ԱՄՆ անձանց նկատմամբ զանգվածային հսկողություն իրականացնելու համար։

Ոչ։ Հիմնվելով մեր անվտանգության համակարգի, պայմանագրի լեզվի և գործող օրենքների վրա, որոնք խստորեն սահմանափակում են DoW-ի ներքին հսկողությունը, մենք վստահ ենք, որ դա տեղի չի ունենա։ Մենք նաև OpenAI-ի անձնակազմին կներառենք գործընթացում՝ լրացուցիչ վստահության համար.  

Պե՞տք է արդյոք տեղակայեք մոդելներ առանց անվտանգության շերտի։

Ոչ, մենք լիարժեք վերահսկողություն ենք պահպանում մեր տեղակայած անվտանգության շերտի նկատմամբ և չենք տեղակայի առանց անվտանգության պաշտպանիչ միջոցների։ Բացի այդ, մեր անվտանգության և համապատասխանության հետազոտողները նույնպես ներգրավված կլինեն և ժամանակի ընթացքում կօգնեն բարելավել համակարգերը։ Մենք գիտենք, որ այլ ԱԲ լաբորատորիաներ նվազեցրել են մոդելների պաշտպանական սահմանափակումները և որպես հիմնական պաշտպանական միջոց ապավինել են օգտագործման կանոններին, սակայն մենք կարծում ենք, որ մեր բազմաշերտ մոտեցումն ավելի լավ է պաշտպանում անընդունելի օգտագործումից։

Ի՞նչ կլինի, եթե կառավարությունը խախտի պայմանագրի պայմանները։

Ինչպես ցանկացած պայմանագրի դեպքում, մենք կարող ենք այն լուծարել, եթե մյուս կողմը խախտի պայմանները։ Մենք չենք ակնկալում, որ դա տեղի կունենա։

Իսկ եթե կառավարությունը պարզապես փոխի օրենքը կամ գործող DoW քաղաքականությունները?

Մեր պայմանագիրը հստակ հղում է կատարում հսկողության և ինքնավար զենքերի մասին օրենքներին և քաղաքականություններին այնպիսին, ինչպիսին դրանք գոյություն ունեն այսօր, որպեսզի նույնիսկ եթե այդ օրենքները կամ քաղաքականությունները ապագայում փոխվեն, մեր համակարգերի օգտագործումը դեռևս պետք է մնա համաձայնագրում արտացոլված գործող չափանիշներին համապատասխան։ 

Ինչպե՞ս եք անդրադառնում այն փաստարկներին, որոնք Anthropic-ը ներկայացրել է իրենց բլոգի գրառման մեջ⁠(բացվում է նոր պատուհանում) DoW-ի հետ իրենց քննարկման մասին:

Իրենց գրառման մեջ Anthropic-ը նշում է իրենց երկու կարմիր գծերը (մենք ունենք նույն երկու կարմիր գծերը, գումարած երրորդը՝ ավտոմատացված բարձր ռիսկային որոշումների կայացում), և պատճառաբանում են, թե ինչու նրանք չեն կարծում, որ այդ կարմիր գծերը կպահպանվեին այն պայմանագրերում, որոնք նրանք այդ ժամանակ տեսել էին DoW-ից։ Ստորև ներկայացված է, թե ինչու ենք մենք կարծում, որ նույն կարմիր գծերը կպահպանվեն մեր պայմանագրում:

• Զանգվածային ներքին հսկողություն։ Մեր փոխգործակցության ընթացքում պարզ էր, որ DoW-ը զանգվածային ներքին հսկողությունը համարում է ապօրինի և չէր պլանավորում այն օգտագործել այս նպատակով։ Մենք ապահովեցինք, որ մեր պայմանագրում հստակ նշված լինի այն փաստը, որ դա չի ընդգրկվում օրինական օգտագործման շրջանակում։
• Լիովին ինքնավար զենքեր։ Մեր պայմանագրով ընդգրկված ամպային տեղակայման շրջանակը թույլ չէր տա լիովին ինքնավար զենքերի գործարկումը, քանի որ դա կպահանջեր եզրային տեղակայում։ 

Այս պաշտպանություններից բացի, մեր պայմանագիրը առաջարկում է լրացուցիչ շերտավորված պաշտպանություններ, ներառյալ մեր անվտանգության փաթեթը և OpenAI տեխնիկական փորձագետների մասնակցությունը։