ከጦርነት መምሪያ ጋር ያለን ስምምነት

ትናንት የላቁ የኤ.አይ ስርዓቶችን በምስጢራዊ አካባቢዎች ስራ ላይ ለማዋል Pentagon ጋር ስምምነት ላይ የደረስን ሲሆን ይህም እድል ለሁሉም የኤ.አይ ኩባንያዎች ክፍት እንዲሆን ጠይቀናል።

ስምምነታችን Anthropic ካደረገው ስምምነት ጭምር ቀደም ብለው ከተደረጉ ማናቸውም በምስጢራዊ አካባቢዎች ለሚሰማሩ የኤ.አይ ስምምነቶች ይልቅ የበለጠ የጥበቃ ገደቦች እንዳሉት እናምናለን። ምክንያቱም ይህ ነው።

ከDoW ጋር ለምናከናውነው ሥራ መመሪያ የሚሆኑን ሶስት ዋና ዋና ቀይ መስመሮች ያሉን ሲሆን እነዚህም በአጠቃላይ በሌሎች በርካታ ግንባር ቀደም የኤ.አይ ላቦራቶሪዎች ዘንድ ተቀባይነት ያላቸው ናቸው፦

• OpenAI ቴክኖሎጂ ለማንኛውም ዓይነት የጅምላ የሀገር ውስጥ ክትትል አገልግሎት ላይ የማይውል ይሆናል።
• OpenAI ቴክኖሎጂ ራሳቸውን ችለው ለሚንቀሳቀሱ የጦር መሣሪያ ስርዓቶች መመሪያ ለመስጠት አገልግሎት ላይ የማይውል ይሆናል። 
• OpenAI ቴክኖሎጂ ከፍተኛ ጥንቃቄ ለሚሹ ውሳኔዎች በራስ-ሰር አገልግሎት ላይ የማይውል ይሆናል (ለምሳሌ፣ እንደ "የማህበራዊ ክሬዲት" ያሉ ስርዓቶች)።

ሌሎች የኤ.አይ ላቦራቶሪዎች የደህንነት መጠበቂያዎቻቸውን የቀነሱ ወይም ያስወገዱ ሲሆን፣ በብሔራዊ ደኅንነት ስምሪቶች ወቅት እንደ ዋና መከላከያ የሚጠቀሙት በአጠቃቀም ፖሊሲዎች ላይ ብቻ ነው። የእኛ አካሄድ ተቀባይነት ከሌላቸው አጠቃቀሞች በተሻለ ሁኔታ ይጠብቃል ብለን እናምናለን።

በስምምነታችን ውስጥ፣ ቀይ መስመሮቻችንን ይበልጥ ሰፊ እና ዘርፈ-ብዙ በሆነ አካሄድ እንጠብቃለን። በደህንነት መዋቅራችን ላይ ሙሉ የመወሰን መብት አለን፣ ስምሪቱ በደመና በኩል የሚከናወን ይሆናል፣ አስፈላጊው ፍቃድ ያላቸው የOpenAI ባለሙያዎች በሂደቱ ውስጥ ቀጥተኛ ተሳትፎ አላቸው፣ እንዲሁም ጠንካራ የውል ጥበቃዎች አሉን። ይህ ሁሉ በU.S. ሕግ ውስጥ ካሉት ጠንካራ ነባር ጥበቃዎች በተጨማሪ ነው። 

በዲሞክራሲ ላይ ፅኑ እምነት አለን። የዚህ ቴክኖሎጂ አስፈላጊነትን ከግምት ውስጥ በማስገባት፣ ወደፊት ሊኖር የሚገባው ብቸኛው ትክክለኛ መንገድ በኤ.አይ ጥረቶች እና በዲሞክራሲያዊ ሂደት መካከል ጥልቅ ትብብር እንዲኖር የሚጠይቅ እንደሆነ እናምናለን። በተጨማሪም ቴክኖሎጂያችን በዓለም ላይ አዳዲስ ስጋቶችን እንደሚያመጣ እናምናለን፣ በመሆኑም United Statesን የሚከላከሉ ሰዎች ምርጥ የሆኑ መሣሪያዎች እንዲኖሯቸው እንፈልጋለን።

ስምምነታችን የሚከተሉትን ያካትታል፦

1. የስምሪት መዋቅር። ይህ የደመና-ብቻ ማሰማራት ሲሆን እኛ የምናስካሄደው እነዚህን መርሆዎች እና ሌሎችንም የሚያካትት የደህንነት ማህደር አለን። ለDoW "የደህንነት ገደብ አልባ" ወይም የደህንነት ስልጠና ያልተሰጣቸውን ሞዴሎች የማንሰጥ ሲሆን ሞዴሎቻችንን በጠርዝ መሣሪያዎች ላይ አናሰማራም (ምክንያቱም በእነዚህ መሣሪያዎች ላይ ራሳቸውን ችለው ለሚንቀሳቀሱ ገዳይ የጦር መሣሪያዎች አገልግሎት ላይ የመዋል ዕድል ሊኖር ስለሚችል)። 

የስምሪት መዋቅራችን እነዚህ ቀይ መስመሮች አለመጣሳቸውን በራሳችን ለማረጋገጥ የሚያስችለን ሲሆን ይህም መረጃዎችን የሚለዩ እና የሚመድቡ ስርዓቶችን ማካሄድን እና ማዘመንን ያካትታል።

2. የእኛ ውል። ተዛማጅነት ያለው ቋንቋ እንደሚከተለው ነው፦

የጦርነት መምሪያው የኤ.አይ ስርዓቱን ከሚመለከታቸው ሕጎች፣ ከሥራ አስፈላጊነት እና በአግባቡ ከታወቁ የደህንነት እና የክትትል ፕሮቶኮሎች ጋር በሚጣጣም መልኩ ለማንኛውም ሕጋዊ ዓላማ ሊጠቀምበት ይችላል። የኤ.አይ ስርዓቱ ሕግ፣ ደንብ ወይም የመምሪያው ፖሊሲ የሰው ቁጥጥርን በሚጠይቅበት በማንኛውም ሁኔታ ራሳቸውን ችለው የሚንቀሳቀሱ የጦር መሣሪያዎችን በራሱ ለመምራት አገልግሎት ላይ የማይውል እንዲሁም በእነዚሁ ሕጋዊ ሥልጣኖች መሠረት የሰው ውሳኔ ሰጪን ፍቃድ የሚሹ ሌሎች ከፍተኛ ጥንቃቄ የሚሹ ውሳኔዎችን ለመወሰን ጥቅም ላይ የማይውል ይሆናል። በDoD መመሪያ 3000.09 (dtd 25 ጃንዋሪ 2023) መሠረት፣ ማንኛውም ራሳቸውን ችለው በሚንቀሳቀሱ እና በከፊል ራሳቸውን ችለው በሚንቀሳቀሱ ስርዓቶች ውስጥ የሚደረግ የኤ.አይ አጠቃቀም ከስምሪት በፊት በተጨባጭ ሁኔታዎች ውስጥ የታሰበውን ውጤት መስጠቱን ለማረጋገጥ ጥብቅ የማረጋገጫ፣ የትክክለኛነት ምርመራ እና የሙከራ ሂደቶችን ማለፍ ይኖርበታል።

ለስለላ ተግባራት፣ ማንኛውም የግል መረጃ አያያዝ ከአራተኛው ማሻሻያ፣ ከ1947ቱ የብሔራዊ ደህንነት አዋጅ፣ ከ1978ቱ የውጪ ሀገር ስለላ እና ክትትል አዋጅ፣ ከአስፈጻሚ ትዕዛዝ 12333 እና ግልጽ የሆነ የውጪ ሀገር ስለላ ዓላማን ከሚጠይቁ አግባብነት ካላቸው የDoD መመሪያዎች ጋር የሚጣጣም መሆን ይኖርበታል። የኤ.አይ ስርዓቱ፣ ከእነዚህ የሕግ ሥልጣኖች ጋር በሚጣጣም መልኩ፣ የU.S. ዜጎችን የግል መረጃ ያለገደብ ለመቆጣጠር ጥቅም ላይ አይውልም። ስርዓቱ፣ በPosse Comitatus አዋጅ እና ሌሎች አግባብነት ባላቸው ሕጎች ከተፈቀደው ውጪ ለሀገር ውስጥ የሕግ ማስከበር ተግባራት አገልግሎት ላይ አይውልም።

3. የኤ.አይ ባለሙያ ተሳትፎ። መንግስትን የሚያግዙ፣ ፍቃድ ያላቸው እና በቦታው የሚገኙ የOpenAI መሃንዲሶች የሚኖሩን ሲሆን ፍቃድ ያላቸው የደህንነት እና የአሰላለፍ ተመራማሪዎች በሂደቱ ውስጥ ቀጥተኛ ተሳትፎ ይኖራቸዋል። 

ይህን ማድረግ ለምን አስፈለገ? 

በመጀመሪያ፣ በተለይም የኤ.አይ ቴክኖሎጂዎችን በስርዓቶቻቸው ውስጥ እያዋሃዱ ካሉ ሊሆኑ የሚችሉ ተቀናቃኞች የሚመጡት አደጋዎች እየጨመሩ ከመሆናሄዳቸው አንጻር፣ የUS ጦር ኃይል ተልዕኮውን ለመወጣት ጠንካራ የኤ.አይ ሞዴሎች በእጅጉ እንደሚያስፈልጉት እናምናለን። መጀመሪያ ላይ የደህንነት መጠበቂያዎቻችን እና ስርዓቶቻችን ዝግጁ ናቸው የሚል እምነት ስላልነበረን፣ ሚስጥራዊ ለሆኑ ስምሪቶች ውል ውስጥ አልገባንም ነበር፣ አሁን ግን ሚስጥራዊ ስምሪቶች ቀይ መስመሮች እንዳይጥሱ በሚያረጋግጡ የደህንነት ጥበቃዎች መከናወን እንዲችሉ በትጋት እየሰራን እንገኛለን። 

ለብሔራዊ ደህንነት ሥራዎች ሲባል የቴክኖሎጂውን ብቃት ለመጨመር ዋና ዋና ቴክኒካዊ የደህንነት መጠበቂያዎችን ለማንሳት ፍቃደኛ አልነበርንም—አሁንም ቢሆን ፍቃደኛ አይደለንም። የUS ጦር ኃይልን ለመደገፍ ትክክለኛው አካሄድ ይህ አይደለም። 

ሁለተኛም፣ በDoW እና በUS የኤ.አይ ላቦራቶሪዎች መካከል ያለውን ውጥረት ማርገብ ፈልገን ነበር። መልካም የወደፊት ጊዜ እንዲኖር በመንግስት እና በኤ.አይ ላቦራቶሪዎች መካከል እውነተኛ እና ጥልቅ ትብብር ያስፈልጋል። ከስምምነታችን አካል አንዱ፣ እነዚህ ተመሳሳይ የውል መስፈርቶች ለሁሉም የኤ.አይ ላቦራቶሪዎች እንዲቀርቡ ጠይቀናል፣ በተለይም ደግሞ አሁን ያለው ሁኔታ በመንግስት እና በኤ.አይ ላቦራቶሪዎች መካከል የሚኖረውን ቀጣይ ምዕራፍ የትብብር ሂደት ለመጀመር በጣም መጥፎ መንገድ በመሆኑ መንግስት ከAnthropic ጋር ያለውን አለመግባባት ለመፍታት እንዲሞክር ጠይቀናል።

Anthropic ሊደርስበት ያልቻለውን ስምምነት እናንተ እንዴት ልትደርሱበት ቻላችሁ? እነሱ ሊፈርሙ ያልፈለጉትን ውል እናንተ ፈረማችሁ?

ካለን መረጃ በመነሳት፣ የእኛ ውል ከAnthropic የመጀመሪያ ውል ጨምሮ ቀደም ሲል ከተደረጉ ስምምነቶች የተሻለ ዋስትና እና የበለጠ ኃላፊነት የተሞላባቸው የደህንነት መጠበቂያዎችን ይሰጣል ብለን እናምናለን። የእኛ ቀይ መስመሮች እዚህ ላይ ይበልጥ ተፈጻሚነት ይኖራቸዋል ብለን እናምናለን ምክንያቱም ስምሪቱ በደመና-ብቻ የተገደበ ስለሆነ (በጠርዝ መሣሪያ ላይ ያልሆነ)፣ የእኛ የደህንነት ስርዓት በተሻለ መንገድ መስራቱን እንዲቀጥል ስለሚያደርግ እና የደህንነት ፍቃድ ያላቸው የOpenAI ባለሙያዎች በሂደቱ ውስጥ ቀጥተኛ ተሳትፎ እንዲኖራቸው ስለሚያስችል ነው።

Anthropic እዚህ ስምምነት ላይ ለምን ሊደርስ እንዳልቻለ አናውቅም፣ እና እነሱ እንዲሁም ተጨማሪ ላብራቶሪዎች ይህን ለማድረግ ዝግጁ ይሆናሉ ብለን ተስፋ እናደርጋለን።

Anthropic እንደ “የአቅርቦት ሰንሰለት ስጋት” መመደብ አለበት ብለው ያስባሉ?

አይ፣ እና በዚህ ጉዳይ ላይ ያለንን አቋም ለመንግሥት ግልጽ አድርገናል።

ይህ ስምምነት የጦርነት መምሪያ በራስ-ሰር የሚሰሩ የጦር መሣሪያዎችን ለመተግበር የOpenAI ሞዴሎችን እንዲጠቀም ያስችለዋል? 

አይ። በደህንነት ቁልላችን፣ በደመና ብቻ በተሰማራነው ማሰማራት፣ በውል ቋንቋው እና አሁን ባሉ ሕጎች፣ ደንቦች እና ፖሊሲዎች ላይ በመመስረት፣ ይህ ሊከሰት እንደማይችል እርግጠኞች ነን። እንዲሁም ለተጨማሪ ማረጋገጫ የOpenAI ሰራተኞችን በሒደቱ ውስጥ እናካትታለን።  

ይህ ስምምነት የጦርነት መምሪያ የU.S. ግለሰቦች ላይ የጅምላ ክትትል ለማድረግ የOpenAI ሞዴሎችን እንዲጠቀም ያስችለዋል?

አይ። በደህንነት ቁልላችን መሰረት፣ በውሉ ቋንቋ፣ እና DoWን ከሀገር ውስጥ ክትትል በከፍተኛ ሁኔታ የሚገድቡ ነባር ሕጎች ላይ ተመስርተን፣ ይህ ሊከሰት እንደማይችል በእርግጠኝነት እናምናለን። እንዲሁም ለተጨማሪ ማረጋገጫ የOpenAI ሰራተኞችን በሒደቱ ውስጥ እናካትታለን።  

ያለ ደህንነት ቁልል ሞዴሎችን ማሰማራት ይኖርባችኋል?

አይ፣ እኛ በምናሰማራው የደህንነት ቁልል ላይ ያለን ሙሉ ቁጥጥር የሚጥል ሲሆን ያለ የደህንነት መከላከያዎች አናሰማራም። በተጨማሪም፣ የደህንነት እና የመሰለፍ ምርምር ባለሙያዎቻችን በሒደቱ ውስጥ የሚሳተፉ ሲሆን በጊዜ ሒደት ስርዓቶችን ለማሻሻል ይረዳሉ። ሌሎች የAI ላብራቶሪዎች የሞዴል መከላከያ መስመሮችን እንዳሳነሱ እና የአጠቃቀም ፖሊሲዎችን እንደ ዋና መከላከያ እንደሚተገብሩ እናውቃለን፣ ነገር ግን እኛ የተደራራቢ አቀራረባችን ከተቀባይነት ውጭ አጠቃቀም ለመከላከል የበለጠ እንደሚጠብቅ እናምናለን።

መንግሥት የውሉን ደንቦች ከጣሰ ምን ይሆናል?

እንደ ማንኛውም ውል፣ ሌላኛው ወገን ውሎቹን የሚጥስ ከሆነ ልናቋርጠው እንችላለን። ያ እንዲሆን ግን አንጠብቅም።

መንግሥት ሕጉን ወይም ነባር የDoW ፖሊሲዎችን ብቻ ቢቀይርስ ምን ይሆናል?

ውላችን የክትትልና በራስ-ሰር የሚንቀሳቀሱ የጦር መሣሪያ ሕጎችን እና ፖሊሲዎችን ዛሬ እንዳሉ በግልፅ የሚያመላክት ሲሆን፣ እነዚህ ሕጎች ወይም ፖሊሲዎች ወደፊት ቢቀየሩም እንኳን የስርዓቶቻችን አጠቃቀም በስምምነቱ ውስጥ ከተንፀባረቁት የአሁኑ ደረጃዎች ጋር መጣጣም አለበት። 

Anthropic በ በብሎግ ልጥፋቸው⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ላይ ከ DoW ጋር ስላደረጉት ውይይት ያቀረቧቸውን የመከራከሪያ ነጥቦች እንዴት ነው የምታስተናግዱት?

በልጥፋቸው ላይ እንደገለጹት፣ Anthropic ሁለት ቀይ መስመሮቻቸውን አስቀምጠዋል (እኛም እነዚህ ሁለት ተመሳሳይ ቀይ መስመሮች አሉን፣ ተጨማሪ ሦስተኛም ደግሞ በራስ-ሰር የሚሠራ የከፍተኛ-ድረጃ ውሳኔ አሰጣጥ) እና እነዚህን ቀይ መስመሮች በወቅቱ ከDoW ባዩዋቸው ውሎች ውስጥ እነዚህ ቀይ መስመሮች እንደማይጠበቁ ለምን እንደማያምኑ ምክንያቶችን ይገልጻሉ። እነዚህ ተመሳሳይ ቀይ መስመሮች በውላችን ውስጥ እንደሚቆዩ የምናምንበት ምክንያት ከዚህ በታች ይገኛል፦

• የሀገር ውስጥ የጅምላ ክትትል። DoW የሀገር ውስጥ የጅምላ ክትትልን እንደ ሕገ-ወጥ ተግባር እንደሚቆጥር እና ለዚህ ዓላማ ለመጠቀም እቅድ እንዳልነበረ በነበረን መስተጋብር ላይ በግልጽ ይታይ ነበር። በሕጋዊ አጠቃቀም ስር ያልተሸፈነ መሆኑ በውላችን ውስጥ በግልጽ መቀመጡን አረጋግጠናል።
• ሙሉ በሙሉ በራስ-ሰር የሚንቀሳቀሱ የጦር መሣሪያዎች። በውላችን ውስጥ የተሸፈነው የክላውድ ስምሪት ገጽ ሙሉ በሙሉ ራሳቸውን የቻሉ የጦር መሣሪያዎች ላይ ጥቅም ላይ እንዲውል አይፈቅድም፣ ምክንያቱም ይህ የጠርዝ ስምሪትን የሚጠይቅ ስለሆነ ነው። 

ከእነዚህ ጥበቃዎች በተጨማሪ፣ ውላችን የደህንነት ቁልላችንን እና የOpenAI ቴክኒካዊ ባለሙያዎችን ጨምሮ ተጨማሪ እርከን ያላቸው መከላከያዎችን ይሰጣል።