డిపార్ట్‌మెంట్ ఆఫ్ వార్‌తో మా ఒప్పందం

నిన్న క్లాసిఫైడ్ ఎన్విరాన్‌మెంట్స్‌లో అడ్వాన్స్‌డ్ AI సిస్టమ్స్‌ను డిప్లాయ్ చేయడానికి Pentagon‌తో మేము ఒక ఒప్పందానికి చేరుకున్నాం, దీన్ని అన్ని AI కంపెనీలకు కూడా అందుబాటులో ఉంచాలని మేము కోరాము.

క్లాసిఫైడ్ AI డిప్లాయ్‌మెంట్స్ కోసం గతంలో చేసిన ఏ ఒప్పందంతో పోల్చినా, Anthropic ఒప్పందం సహా, మా ఒప్పందంలో ఎక్కువ గార్డ్‌రైల్స్ ఉన్నాయని మేము భావిస్తున్నాము. ఇదే కారణం.

DoWతో మా పనిని మార్గనిర్దేశం చేసే మూడు ప్రధాన రెడ్ లైన్లు మాకు ఉన్నాయి, ఇవి సాధారణంగా అనేక ఇతర అత్యాధునిక ల్యాబ్‌లతో పంచుకోబడతాయి:

• మాస్ డొమెస్టిక్ సర్వైలెన్స్ కోసం OpenAI టెక్నాలజీని ఉపయోగించరాదు.
• ఆటోనమస్ వెపన్స్ సిస్టమ్స్‌ను డైరెక్ట్ చేయడానికి OpenAI టెక్నాలజీని ఉపయోగించరాదు. 
• అధిక-స్టేక్స్ ఆటోమేటెడ్ నిర్ణయాల కోసం OpenAI టెక్నాలజీని ఉపయోగించరాదు (e.g. “సోషల్ క్రెడిట్” వంటి వ్యవస్థలు).

ఇతర AI ల్యాబ్‌లు తమ సేఫ్టీ గార్డ్‌రైల్స్‌ను తగ్గించాయి లేదా తొలగించాయి, మరియు జాతీయ భద్రత డిప్లాయ్‌మెంట్‌లలో ప్రధాన సేఫ్‌గార్డ్స్‌గా ప్రధానంగా యూజేజ్ పాలసీలపై ఆధారపడ్డాయి. అంగీకరించలేని వినియోగం నుండి మెరుగ్గా రక్షించడానికి మా విధానం మరింత మంచిదని మేము భావిస్తున్నాము.

మా ఒప్పందంలో, మరింత విస్తృతమైన, బహుళస్థాయి విధానం ద్వారా మా రెడ్ లైన్లను మేము రక్షిస్తాము. మా సేఫ్టీ స్టాక్‌పై పూర్తి స్వతంత్ర నిర్ణయాధికారం మాదే, మేము క్లౌడ్ ద్వారా డిప్లాయ్ చేస్తాము, క్లియర్డ్ OpenAI సిబ్బంది ఇన్ ది లూప్‌లో ఉంటారు, అలాగే మాకు బలమైన కాంట్రాక్టువల్ ప్రొటెక్షన్స్ ఉన్నాయి. ఇవన్నీ U.S. చట్టంలో ఇప్పటికే ఉన్న బలమైన ప్రస్తుత రక్షణలకు అదనంగా ఉన్నాయి. 

మేము ప్రజాస్వామ్యంలో బలంగా నమ్ముతున్నాం. ఈ టెక్నాలజీ ప్రాముఖ్యతను దృష్టిలో ఉంచుకుని, AI ప్రయత్నాలు మరియు ప్రజాస్వామ్య ప్రక్రియ మధ్య లోతైన సహకారం అవసరమయ్యే మార్గమే ముందుకు సాగే ఏకైక మంచి మార్గమని మేము నమ్ముతున్నాము. మా టెక్నాలజీ ప్రపంచంలో కొత్త రిస్క్స్‌ను తీసుకురావచ్చని మేము కూడా నమ్ముతున్నాము, మరియు యునైటెడ్ స్టేట్స్‌ను రక్షిస్తున్న వారికి ఉత్తమ టూల్స్ అందుబాటులో ఉండాలని మేము కోరుకుంటున్నాము.

మా ఒప్పందంలో ఇవి ఉన్నాయి:

1. డిప్లాయ్‌మెంట్ ఆర్కిటెక్చర్. ఇది క్లౌడ్-ఓన్లీ డిప్లాయ్‌మెంట్, మేము నడిపే సేఫ్టీ స్టాక్‌తో, ఇందులో ఈ సూత్రాలు మరియు ఇతరాలు కూడా ఉంటాయి. మేము DoW‌కు “గార్డ్‌రైల్స్ ఆఫ్” లేదా సేఫ్టీ ట్రెయినింగ్ లేని మోడల్స్‌ను అందించడం లేదు, అలాగే మా మోడల్స్‌ను ఎడ్జ్ డివైసెస్‌పై డిప్లాయ్ చేయడం లేదు (అక్కడ ఆటోనమస్ లీథల్ వెపన్స్ కోసం వినియోగం జరిగే అవకాశం ఉండవచ్చు). 

మా డిప్లాయ్‌మెంట్ ఆర్కిటెక్చర్ ద్వారా ఈ రెడ్ లైన్స్ దాటబడలేదని మేము స్వతంత్రంగా వెరిఫై చేయగలుగుతాము; ఇందులో క్లాసిఫైయర్స్‌ను రన్ చేయడం, అప్డేట్ చేయడం కూడా ఉంటుంది.

2. మా ఒప్పందం. ఇదిగో సంబంధిత భాష:

డిపార్ట్‌మెంట్ ఆఫ్ వార్ వర్తించే చట్టాలు, ఆపరేషనల్ అవసరాలు మరియు బాగా స్థాపితమైన సేఫ్టీ, ఓవర్‌సైట్ ప్రోటోకాళ్లకు అనుగుణంగా AI సిస్టమ్‌ను అన్ని చట్టబద్ధ ప్రయోజనాల కోసం ఉపయోగించవచ్చు. చట్టం, నియమావళి లేదా డిపార్ట్‌మెంట్ పాలసీ ప్రకారం మానవ నియంత్రణ అవసరమైన ఏ సందర్భంలోనైనా AI సిస్టమ్‌ను ఆటోనమస్ వెపన్స్‌ను స్వతంత్రంగా డైరెక్ట్ చేయడానికి ఉపయోగించరు; అలాగే అదే అధికారాల కింద మానవ నిర్ణయాధికారியின் ఆమోదం అవసరమైన ఇతర హై-స్టేక్స్ నిర్ణయాలను తీసుకోవడానికి కూడా ఉపయోగించరు. అదే అధికారాల కింద. DoD Directive 3000.09 (dtd 25 January 2023) ప్రకారం, ఆటోనమస్ మరియు సెమీ-ఆటోనమస్ సిస్టమ్స్‌లో AI వినియోగం కఠినమైన వెరిఫికేషన్, వాలిడేషన్, మరియు టెస్టింగ్ ప్రక్రియలను డిప్లాయ్‌మెంట్‌కు ముందు రియలిస్టిక్ ఎన్విరాన్‌మెంట్స్‌లో అవి ఉద్దేశించిన విధంగా పనిచేస్తాయో లేదో నిర్ధారించడానికి తప్పనిసరిగా పూర్తి చేయాలి.

ఇంటెలిజెన్స్ కార్యకలాపాల కోసం, ప్రైవేట్ ఇన్ఫర్మేషన్‌ను నిర్వహించే ఏ చర్యైనా ఫోర్త్ అమెండ్‌మెంట్, నేషనల్ సెక్యూరిటీ యాక్ట్ ఆఫ్ 1947, ఫారెన్ ఇంటెలిజెన్స్ అండ్ సర్వైలెన్స్ యాక్ట్ ఆఫ్ 1978, ఎగ్జిక్యూటివ్ ఆర్డర్ 12333 మరియు నిర్దిష్ట ఫారెన్ ఇంటెలిజెన్స్ పర్పస్ అవసరమని పేర్కొనే వర్తించే DoD డైరెక్టివ్‌లకు అనుగుణంగా ఉంటుంది. ఈ అధికారాలకు అనుగుణంగా, U.S. వ్యక్తుల వ్యక్తిగత సమాచారాన్ని నియంత్రణలేని మానిటరింగ్ కోసం AI సిస్టమ్‌ను ఉపయోగించరాదు. పోస్సీ కోమిటాటస్ యాక్ట్ మరియు ఇతర వర్తించే చట్టాలు అనుమతించిన సందర్భాలు తప్ప, ఈ సిస్టమ్‌ను డొమెస్టిక్ లా-ఎన్‌ఫోర్స్‌మెంట్ కార్యకలాపాల కోసం ఉపయోగించరాదు.

3. AI నిపుణుల భాగస్వామ్యం. ప్రభుత్వానికి సహాయం చేయడానికి మేము క్లియర్ చేయబడిన ఫార్వర్డ్-డిప్లాయ్డ్ OpenAI ఇంజినీర్లను నియమిస్తాం, అలాగే భద్రత మరియు అలైన్‌మెంట్ పరిశోధకులు కూడా చర్చలలో ఉంటారు. 

మీరు ఇది ఎందుకు చేస్తున్నారు? 

మొదట, US మిలిటరీకి వారి మిషన్‌కు మద్దతు ఇవ్వడానికి బలమైన AI మోడల్స్ ఖచ్చితంగా అవసరమని మేము భావిస్తున్నాము, ముఖ్యంగా AI టెక్నాలజీలను తమ సిస్టమ్‌లలో మరింతగా ఏకీకృతం చేస్తున్న సంభావ్య ప్రత్యర్థుల నుండి పెరుగుతున్న ముప్పుల నేపథ్యంలో. మొదట్లో క్లాసిఫైడ్ డిప్లాయ్‌మెంట్ కోసం మేము వెంటనే ఒప్పందంలోకి ప్రవేశించలేదు, ఎందుకంటే మా సేఫ్‌గార్డ్స్ మరియు సిస్టమ్స్ సిద్ధంగా లేవని భావించాము; అలాగే రెడ్ లైన్స్ దాటబడకుండా ఉండే సేఫ్‌గార్డ్స్‌తో క్లాసిఫైడ్ డిప్లాయ్‌మెంట్ జరగేలా చేయడానికి మేము కృషి చేస్తున్నాము. 

నేషనల్ సెక్యూరిటీ పనుల్లో పనితీరును మెరుగుపరచడానికి ముఖ్యమైన టెక్నికల్ సేఫ్‌గార్డ్స్‌ను తొలగించేందుకు మేము అప్పటికీ సిద్ధంగా లేము—ఇప్పటికీ సిద్ధంగా లేము. US మిలిటరీకి మద్దతు ఇవ్వడానికి అది సరైన విధానం కాదు. 

రెండవది, DoW మరియు US AI ల్యాబ్‌ల మధ్య ఉద్రిక్తతను తగ్గించడానికి కూడా మేము కోరుకున్నాము. మంచి భవిష్యత్తుకు ప్రభుత్వం మరియు AI ల్యాబ్‌ల మధ్య నిజమైన మరియు లోతైన సహకారం అవసరం అవుతుంది. ఈ డీల్‌లో భాగంగా, అదే షరతులు అన్ని AI ల్యాబ్స్‌కు కూడా అందుబాటులో ఉంచాలని మేము కోరాము; ముఖ్యంగా ప్రభుత్వం Anthropic‌తో విషయాలను పరిష్కరించడానికి ప్రయత్నించాలనని సూచించాము; ప్రస్తుతం ఉన్న పరిస్థితి ప్రభుత్వం మరియు AI ల్యాబ్స్ మధ్య సహకారంలోని తదుపరి దశను ప్రారంభించడానికి సరైన మార్గం కాదు.

Anthropic చేయలేకపోయినప్పుడు మీరు ఒప్పందానికి ఎలా చేరుకోగలిగారు? వాళ్లు సంతకం చేయని ఒప్పందంపై మీరు సంతకం చేశారా?

మాకు తెలిసిన దాని ఆధారంగా, మా ఒప్పందం Anthropic అసలు ఒప్పందం సహా, గత ఒప్పందాల కంటే మెరుగైన హామీలు మరియు మరింత బాధ్యతాయుతమైన భద్రతా చర్యలను అందిస్తుందని మేము నమ్ముతున్నాము. క్లౌడ్-ఓన్లీకి (ఎడ్జ్ వద్ద కాదు) డిప్లాయ్‌మెంట్ పరిమితం చేయబడటం వల్ల, మా సేఫ్టీ స్టాక్ మేము ఉత్తమమని భావించే విధంగా పనిచేస్తూనే ఉండటం వల్ల, అలాగే క్లియర్డ్ OpenAI సిబ్బంది లూప్‌లో ఉండటం వల్ల, ఇక్కడ మా రెడ్ లైన్లు మరింత అమలు చేయదగినవిగా ఉంటాయని మేము భావిస్తున్నాము.

Anthropic ఈ డీల్‌కు ఎందుకు చేరుకోలేకపోయిందో మాకు తెలియదు, మరియు వారు అలాగే మరిన్ని ల్యాబ్స్ దీనిని పరిశీలిస్తారని మేము ఆశిస్తున్నాము.

Anthropic‌ను “సప్లై చైన్ రిస్క్”గా నిర్దేశించాలా అని మీరు భావిస్తున్నారా?

లేదు, మరియు ఈ విషయంలో మా స్థానం గురించి మేము ప్రభుత్వానికి స్పష్టంగా తెలియజేశాము.

ఈ డీల్ ద్వారా డిపార్ట్‌మెంట్ ఆఫ్ వార్ ఆటోనమస్ వెపన్స్‌ను పవర్ చేయడానికి OpenAI మోడల్స్‌ను ఉపయోగించగలదా?

లేదు. మా సేఫ్టీ స్టాక్, క్లౌడ్-ఓన్లీ డిప్లాయ్‌మెంట్, కాంట్రాక్ట్ భాష, అలాగే ప్రస్తుతం అమల్లో ఉన్న చట్టాలు, నియమాలు మరియు పాలసీల ఆధారంగా ఇది జరగదని మేము నమ్మకంగా ఉన్నాము. అదనపు హామీ కోసం మేము OpenAI సిబ్బందిని కూడా చేర్చుతాము.  

ఈ డీల్ ద్వారా డిపార్ట్‌మెంట్ ఆఫ్ వార్ U.S. వ్యక్తులపై మాస్ సర్వైలెన్స్ నిర్వహించడానికి OpenAI మోడల్స్‌ను ఉపయోగించగలదా?

లేదు. మా సేఫ్టీ స్టాక్, కాంట్రాక్ట్ భాష, అలాగే DoW‌ను డొమెస్టిక్ సర్వైలెన్స్ నుంచి కఠినంగా పరిమితం చేసే ప్రస్తుతం అమల్లో ఉన్న చట్టాల ఆధారంగా ఇది జరగదని మేము నమ్మకంగా ఉన్నాము. అదనపు భరోసా కోసం OpenAI సిబ్బంది కూడా ఇన్ ది లూప్‌లో ఉంటారు.  

మీరు సేఫ్టీ స్టాక్ లేకుండా మోడల్స్‌ను డిప్లాయ్ చేయాల్సి ఉంటుందా?

లేదు, మేము డిప్లాయ్ చేసే సేఫ్టీ స్టాక్‌పై పూర్తి నియంత్రణను కొనసాగిస్తాము మరియు సేఫ్టీ గార్డ్‌రైల్స్ లేకుండా డిప్లాయ్ చేయము. అదనంగా, మా భద్రత మరియు అలైన్‌మెంట్ పరిశోధకులు కూడా ఇందులో భాగంగా ఉండి, కాలక్రమేణా సిస్టమ్‌లను మెరుగుపరచడంలో సహాయపడతారు. ఇతర AI ల్యాబ్‌లు మోడల్ గార్డ్‌రైల్స్‌ను తగ్గించి, ప్రధాన రక్షణగా యూసేజ్ పాలసీలపై ఆధారపడ్డాయని మాకు తెలుసు, కానీ మా లేయర్డ్ విధానం అంగీకరించలేని వినియోగం నుంచి మెరుగ్గా రక్షిస్తుందని మేము భావిస్తున్నాం.

ప్రభుత్వం ఒప్పందం యొక్క నిబంధనలను ఉల్లంఘిస్తే ఏమవుతుంది?

ఏదైనా ఒప్పందంలాగానే, ప్రత్యర్థి పక్షం నిబంధనలను ఉల్లంఘిస్తే మేము దానిని రద్దు చేయగలము. అలా జరుగుతుందని మేము భావించడం లేదు.

ఒకవేళ ప్రభుత్వం చట్టాన్ని లేదా ఇప్పటికే ఉన్న DoW విధానాలను మార్చేస్తే ఏమవుతుంది?

మా కాంట్రాక్ట్ సర్వైలెన్స్ మరియు ఆటోనమస్ వెపన్స్‌కు సంబంధించిన చట్టాలు, పాలసీలను ప్రస్తుతం అమల్లో ఉన్నట్లుగానే స్పష్టంగా సూచిస్తుంది; తద్వారా భవిష్యత్తులో ఆ చట్టాలు లేదా పాలసీలు మారినా, మా సిస్టమ్స్ వినియోగం ఒప్పందంలో ప్రతిబింబించిన ప్రస్తుత ప్రమాణాలకు అనుగుణంగానే ఉండాలి. 

DoWతో వారి చర్చ గురించి వారి బ్లాగ్ పోస్ట్⁠(కొత్త విండోలో తెరుచుకుంటుంది) లో Anthropic చేసిన వాదనలను మీరు ఎలా పరిష్కరిస్తారు?

తమ పోస్ట్‌లో Anthropic తమ రెడ్ లైన్స్‌లో రెండు (మా వద్ద కూడా అదే రెండు రెడ్ లైన్స్ ఉన్నాయి, అదనంగా మూడవది: ఆటోమేటెడ్ హై-స్టేక్స్ డెసిషన్ మేకింగ్) పేర్కొని, ఆ సమయంలో DoW నుండి వారు చూసిన కాంట్రాక్టుల్లో ఈ రెడ్ లైన్స్ పాటించబడవని తమకు నమ్మకం లేదని వివరిస్తుంది. మా కాంట్రాక్ట్‌లో కూడా అదే రెడ్ లైన్‌లు వర్తిస్తాయని మేము ఎందుకు నమ్ముతున్నామో క్రింద ఉంది:

• మాస్ డొమెస్టిక్ సర్వైలెన్స్. మా పరస్పర చర్చలో, DoW మాస్ డొమెస్టిక్ సర్వైలెన్స్‌ను చట్టవిరుద్ధంగా పరిగణిస్తుందని మరియు ఈ ఉద్దేశ్యానికి దాన్ని ఉపయోగించాలనే యోచనలో లేదని స్పష్టమైంది. ఇది చట్టబద్ధ వినియోగ పరిధిలోకి రాదనే విషయాన్ని మా కాంట్రాక్ట్‌లో స్పష్టంగా పేర్కొన్నాము.
• సంపూర్ణ ఆటోనమస్ వెపన్స్. మా కాంట్రాక్ట్‌లో కవర్ చేయబడిన క్లౌడ్ డిప్లాయ్‌మెంట్ పరిధి పూర్తిగా స్వయంప్రతిపత్తి ఆయుధాలకు శక్తినివ్వడాన్ని అనుమతించదు, ఎందుకంటే దీనికి ఎడ్జ్ డిప్లాయ్‌మెంట్ అవసరం. 

ఈ రక్షణలతో పాటు, మా కాంట్రాక్ట్ అదనపు లేయర్డ్ సేఫ్‌గార్డ్స్‌ను కూడా అందిస్తుంది; ఇందులో మా సేఫ్టీ స్టాక్ మరియు OpenAI టెక్నికల్ ఎక్స్‌పర్ట్స్ ఇన్ ది లూప్‌లో ఉండటం కూడా ఉంటుంది.