ข้อตกลงของเรากับกระทรวงสงคราม

เมื่อวานนี้ เราได้บรรลุข้อตกลงกับเพนตากอนเพื่อปรับใช้ระบบ AI ขั้นสูงในสภาพแวดล้อมที่เป็นความลับ และได้ร้องขอให้สิทธินี้ครอบคลุมถึงบริษัท AI ทุกราย

เราเชื่อมั่นว่าข้อตกลงของเรามีมาตรการป้องกันที่รัดกุมมากกว่าข้อตกลงใดๆ ที่ผ่านมาเกี่ยวกับการนำ AI ไปใช้ในระบบที่เป็นความลับ ซึ่งรวมถึงข้อตกลงของ Anthropic ด้วย ซึ่งมีเหตุผลสนับสนุนดังนี้

เรามีเส้นตายด้านความปลอดภัยหลัก 3 ประการที่เป็นแนวทางในการทำงานร่วมกับกระทรวงสงคราม ซึ่งโดยทั่วไปแล้วแล็บวิจัย AI ชั้นนำแห่งอื่นๆ ก็ยึดถือแนวทางเหล่านี้ร่วมกัน

• ห้ามใช้เทคโนโลยีของ OpenAI เพื่อการเฝ้าระวังมวลชนภายในประเทศ
• ห้ามใช้เทคโนโลยีของ OpenAI เพื่อชี้นำระบบอาวุธอัตโนมัติ 
• ห้ามใช้เทคโนโลยีของ OpenAI สำหรับการตัดสินใจอัตโนมัติที่มีความเสี่ยงสูง (เช่น ระบบให้คะแนนความน่าเชื่อถือทางสังคม)

ห้องปฏิบัติการ AI แห่งอื่นได้ลดหรือถอดถอนมาตรการป้องกันความปลอดภัยออก และหันไปพึ่งพานโยบายการใช้งานเป็นกลไกหลักในการคุ้มครองความปลอดภัยสำหรับการปรับใช้ในงานความมั่นคงแห่งชาติ เรามองว่าวิธีที่เราเลือกใช้ ช่วยป้องกันไม่ให้มีการนำระบบไปใช้ในทางที่ผิดหรือขัดต่อหลักการได้ดีกว่าเดิม

ภายใต้ข้อตกลงนี้ เราคุ้มครองเส้นตายความปลอดภัยของเราผ่านแนวทางที่ครอบคลุมและมีการป้องกันหลายชั้น เรายังเป็นผู้ควบคุมระบบความปลอดภัยทั้งหมดด้วยตัวเอง โดยใช้งานผ่านระบบคลาวด์ และมีทีมงาน OpenAI ที่ได้รับอนุมัติคอยควบคุมดูแลอย่างใกล้ชิด ภายใต้ข้อตกลงทางสัญญาที่ให้การคุ้มครองเราอย่างสูงสุด มาตรการทั้งหมดนี้เป็นสิ่งที่เพิ่มเติมจากความคุ้มครองที่เข้มงวดซึ่งมีอยู่เดิมแล้วภายใต้กฎหมายของสหรัฐอเมริกา 

เรามีความเชื่อมั่นอย่างแรงกล้าในระบอบประชาธิปไตย เมื่อพิจารณาถึงความสำคัญของเทคโนโลยีนี้ เรามองว่าแนวทางที่เหมาะสมต้องอาศัยความร่วมมืออย่างใกล้ชิดระหว่างการพัฒนา AI และกระบวนการประชาธิปไตย เราตระหนักดีว่าเทคโนโลยีของเราจะนำมาซึ่งความเสี่ยงรูปแบบใหม่ๆ ต่อโลก และเราต้องการให้ผู้ปกป้องประเทศสหรัฐฯ มีอุปกรณ์ที่มีประสิทธิภาพสูงที่สุด

ข้อตกลงของเราประกอบด้วย:

1. สถาปัตยกรรมการปรับใช้ ระบบนี้จะใช้งานผ่านคลาวด์เท่านั้น โดยเราจะมีระบบป้องกันความปลอดภัยที่เราดูแลเอง ซึ่งประกอบไปด้วยหลักการเหล่านี้และข้อกำหนดอื่นๆ เพิ่มเติม เราจะไม่มีการจัดส่งโมเดลที่มีการปิดระบบป้องกัน หรือโมเดลที่ไม่ผ่านการเทรนด้านความปลอดภัยให้แก่กระทรวงสงคราม และเราจะไม่มีการติดตั้งใช้งานโมเดลบนอุปกรณ์ปลายทาง ซึ่งอาจนำไปสู่ความเป็นไปได้ในการใช้งานสำหรับอาวุธสังหารอัตโนมัติ

สถาปัตยกรรมการติดตั้งการใช้งานของเรา จะช่วยให้เราสามารถตรวจสอบได้ด้วยตนเองอย่างเป็นอิสระว่าไม่มีการล่วงละเมิดเส้นตายความปลอดภัยเหล่านี้ ซึ่งรวมไปถึงการรันและอัปเดตระบบคัดกรองข้อมูลอย่างต่อเนื่อง

2. สัญญาของเรา ถ้อยคำที่เกี่ยวข้องในประเด็นดังกล่าวมีดังนี้

กระทรวงสงครามอาจใช้ระบบ AI เพื่อวัตถุประสงค์ใด ๆ ที่ชอบด้วยกฎหมาย โดยต้องสอดคล้องกับกฎหมายที่บังคับใช้ ข้อกำหนดด้านการปฏิบัติการ และระเบียบปฏิบัติด้านความปลอดภัยและการกำกับดูแลที่เป็นมาตรฐานสากล ทั้งนี้ ระบบ AI จะไม่ถูกนำไปใช้ในการสั่งการอาวุธสังหารอัตโนมัติโดยอิสระในทุกกรณีที่กฎหมาย ระเบียบข้อบังคับ หรือนโยบายของกระทรวงกำหนดให้ต้องมีมนุษย์เป็นผู้ควบคุม และจะไม่ถูกนำไปใช้ในการตัดสินใจในเรื่องที่มีความสำคัญสูง อื่นใดที่จำเป็นต้องได้รับการอนุมัติจากมรุษย์ผู้มีอำนาจตัดสินใจภายใต้อำนาจสั่งการเดียวกัน ตามคำสั่งกระทรวงกลาโหมที่ 3000.09 (ลงวันที่ 25 มกราคม 2023) ระบุว่า การใช้งาน AI ในระบบอัตโนมัติและระบบกึ่งอัตโนมัติใดๆ จะต้องผ่านกระบวนการตรวจสอบ การรับรองความถูกต้อง และการทดสอบที่เข้มงวด เพื่อให้มั่นใจว่าระบบจะทำงานได้ตามวัตถุประสงค์ในสภาพแวดล้อมจริงก่อนการติดตั้งใช้งาน

สำหรับกิจกรรมด้านข่าวกรอง การจัดการข้อมูลส่วนบุคคลใดๆ จะต้องเป็นไปตามบทบัญญัติแก้ไขเพิ่มเติมรัฐธรรมนูญฉบับที่ 4 (Fourth Amendment), พระราชบัญญัติความมั่นคงแห่งชาติปี พ.ศ. 2490 พระราชบัญญัติการสอดแนมข่าวกรองต่างประเทศปี 1978 (FISA) คำสั่งฝ่ายบริหารที่ 12333 และคำสั่งของกระทรวงกลาโหมที่เกี่ยวข้อง ซึ่งกำหนดให้ต้องมีวัตถุประสงค์ด้านข่าวกรองต่างประเทศที่ชัดเจน ระบบ AI นี้จะไม่ถูกใช้เพื่อแอบดูหรือเฝ้าติดตามข้อมูลส่วนตัวของชาวอเมริกันแบบตามใจชอบ โดยต้องปฏิบัติตามขอบเขตของกฎหมายอย่างเคร่งครัด ระบบนี้จะต้องไม่ถูกนำไปใช้ในกิจกรรมการบังคับใช้กฎหมายภายในประเทศ เว้นแต่จะได้รับอนุญาตภายใต้กฎบัญญัติ Posse Comitatus และกฎหมายอื่นๆ ที่เกี่ยวข้อง

3. การมีส่วนร่วมของผู้เชี่ยวชาญด้าน AI ทีมวิศวกรภาคสนามของ OpenAI ที่ได้รับอนุมัติสิทธิ์เข้าถึงความลับจะเข้าสนับสนุนการทำงานของรัฐบาล โดยมีทีมนักวิจัยด้านความปลอดภัยและการจัดแนวทางคอยควบคุมดูแลในทุกขั้นตอน เพื่อรักษามาตรฐานความปลอดภัยสูงสุด 

ทำไมถึงทำเช่นนี้ 

ประการแรก เราเชื่อว่ากองทัพสหรัฐฯ มีความจำเป็นอย่างยิ่งที่จะต้องมีโมเดล AI ที่ทรงพลังเพื่อสนับสนุนภารกิจของตน โดยเฉพาะอย่างยิ่งในการเผชิญกับภัยคุกคามที่เพิ่มขึ้นจากศัตรูที่อาจเกิดขึ้น ท่ามกลางสถานการณ์ที่ฝ่ายตรงข้ามเริ่มนำ AI เข้ามาปรับใช้ในระบบทางทหารอย่างเข้มข้นเพื่อสร้างความได้เปรียบ เดิมทีเรายังไม่ตัดสินใจทำสัญญาสำหรับการติดตั้งใช้งานในระบบชั้นความลับ เนื่องจากเราเห็นว่าระบบป้องกันและโครงสร้างของเรายังไม่มีความพร้อมเพียงพอ ซึ่งที่ผ่านมาเราได้ทุ่มเททำงานอย่างหนักเพื่อให้มั่นใจว่าการติดตั้งใช้งานในพื้นที่หวงห้ามนี้จะเกิดขึ้นพร้อมกับมาตรการป้องกันที่การันตีได้ว่าจะไม่มีการล่วงละเมิดเส้นตายความปลอดภัย 

จุดยืนของเราชัดเจนเสมอมาว่า เราจะไม่ยอมแลกมาตรการความปลอดภัยพื้นฐานกับประสิทธิภาพของระบบในงานด้านความมั่นคง วิธีแบบนั้นไม่ใช่ทางออกที่ถูกต้องสำหรับการช่วยเหลือกองทัพสหรัฐฯ 

ประการที่สอง เราต้องการลดระดับความตึงเครียดระหว่างกระทรวงสงคราม และห้องปฏิบัติการ AI ต่างๆ ในสหรัฐฯ อนาคตที่ดีนั้นจำเป็นต้องอาศัยความร่วมมืออย่างแท้จริงและลึกซึ้งระหว่างรัฐบาลและห้องปฏิบัติการ AI ต่างๆ ในส่วนหนึ่งของข้อตกลงครั้งนี้ เราได้ร้องขอให้มีการนำเงื่อนไขเดียวกันนี้ไปใช้กับห้องปฏิบัติการ AI ทุกแห่ง และโดยเฉพาะอย่างยิ่งคือการที่รัฐบาลควรพยายามคลี่คลายประเด็นความขัดแย้งกับ Anthropic เนื่องด้วยสถานการณ์ปัจจุบันถือเป็นจุดเริ่มต้นที่ไม่ดีนักสำหรับการก้าวเข้าสู่ระยะถัดไปของความร่วมมือระหว่างรัฐบาลและเหล่าห้องปฏิบัติการ AI

ทำไมถึงบรรลุข้อตกลงได้ ในขณะที่ Anthropic ทำไม่ได้ พวกคุณยอมเซ็นในดีลที่ทางฝั่งนั้นเขาไม่ยอมหรือเปล่า

เรามั่นใจว่าข้อตกลงฉบับนี้มีข้อกำหนดการรับประกันและระบบความปลอดภัยที่รัดกุมกว่าสัญญาชุดเดิมที่มีมาในอดีต รวมถึงสัญญาเริ่มต้นของทาง Anthropic ด้วยเช่นกัน เราเชื่อว่าเส้นตายความปลอดภัยของเราสามารถบังคับใช้ได้จริงมากกว่าในกรณีนี้ เนื่องจากการติดตั้งใช้งานถูกจำกัดอยู่เพียงบนระบบคลาวด์เท่านั้น (ไม่ใช่ที่อุปกรณ์ปลายทาง) ซึ่งช่วยให้ระบบป้องกันความปลอดภัยของเราทำงานได้อย่างเต็มประสิทธิภาพตามที่เรากำหนด และยังคงมีบุคลากรของ OpenAI ที่ผ่านการตรวจสอบสิทธิ์คอยกำกับดูแลในกระบวนการอย่างใกล้ชิด

เราไม่ทราบสาเหตุที่ Anthropic ไม่สามารถบรรลุข้อตกลงนี้ได้ และเราหวังว่าพวกเขา รวมถึงห้องปฏิบัติการอื่น ๆ จะพิจารณาข้อตกลงในลักษณะเดียวกันนี้ต่อไป

คุณคิดว่า Anthropic ควรถูกจัดให้เป็น “ความเสี่ยงต่อห่วงโซ่อุปทาน” หรือไม่

ไม่ และเราได้ชี้แจงจุดยืนของเราในเรื่องนี้อย่างชัดเจนต่อรัฐบาลแล้ว

ข้อตกลงฉบับนี้จะเปิดทางให้กระทรวงสงคราม สามารถใช้โมเดลของ OpenAI ในการขับเคลื่อนอาวุธอัตโนมัติได้หรือไม่ 

คำตอบคือไม่ ด้วยโครงสร้างความปลอดภัยทางเทคนิคและการจำกัดการเข้าถึงผ่านระบบคลาวด์ ผสมผสานกับข้อกำหนดทางกฎหมายและสัญญาที่ระบุไว้อย่างชัดเจน เราเชื่อว่าโมเดลของเราจะไม่ถูกนำไปใช้ในระบบอาวุธอัตโนมัติ เราจะมีบุคลากรของ OpenAI เข้ามามีส่วนร่วมด้วยเพื่อการรับรองเพิ่มเติม  

ข้อตกลงนี้จะทำให้กระทรวงสงครามสามารถใช้โมเดล OpenAI เพื่อดำเนินการเฝ้าระวังมวลชนต่อบุคคลในสหรัฐฯ ได้หรือไม่

ไม่ เพราะกฎหมายและระบบป้องกันทางเทคนิคของเราเป็นเครื่องยืนยันว่า กองทัพจะไม่สามารถใช้ AI นี้ในการสอดแนมประชาชนในประเทศได้อย่างแน่นอน เราจะมีบุคลากรของ OpenAI เข้ามามีส่วนร่วมด้วยเพื่อการรับรองเพิ่มเติม  

คุณจำเป็นต้องปรับใช้โมเดลโดยไม่มีการป้องกันความปลอดภัยแบบหลายชั้นหรือไม่

ไม่ครับ เรายังคงถือสิทธิ์ในการควบคุมระบบป้องกันความปลอดภัยที่เราใช้งานอย่างเต็มที่ และจะไม่ทำการปรับใช้ระบบใดๆ หากไม่มีมาตรการป้องกันความปลอดภัยกำกับอยู่ นอกจากนี้นักวิจัยด้านความปลอดภัยและการปรับให้สอดคล้องของเราจะมีส่วนร่วมและช่วยปรับปรุงระบบให้ดีขึ้นอย่างต่อเนื่อง เราทราบดีว่าห้องปฏิบัติการ AI แห่งอื่นได้ลดมาตรการป้องกันภายในตัวโมเดลลง และเลือกใช้เพียงนโยบายการใช้งานเป็นมาตรการหลัก แต่เราเชื่อว่าแนวทางแบบเป็นลำดับชั้นของเรานั้น สามารถป้องกันการใช้งานที่ไม่ยอมรับได้อย่างมีประสิทธิภาพมากกว่า

จะเกิดอะไรขึ้นหากรัฐบาลละเมิดข้อกำหนดของสัญญา

เราอาจยกเลิกสัญญาได้หากคู่สัญญาอีกฝ่ายละเมิดข้อกำหนด เช่นเดียวกับสัญญาอื่นๆ เราไม่คาดการณ์ว่าเหตุการณ์เช่นนั้นจะเกิดขึ้น

จะเกิดอะไรขึ้น หากรัฐบาลตัดสินใจแก้ไขกฎหมายหรือนโยบายที่มีอยู่ของกระทรวงสงครามในภายหลัง

สัญญาของเราอ้างอิงกฎหมายและนโยบายเกี่ยวกับการเฝ้าระวังและอาวุธอัตโนมัติตามที่มีอยู่ในปัจจุบันอย่างชัดเจน เพื่อให้มั่นใจว่า แม้กฎหมายหรือนโยบายเหล่านั้นจะเปลี่ยนแปลงไปในอนาคต แต่การใช้งานระบบของเราจะต้องยังคงสอดคล้องกับมาตรฐานปัจจุบันที่ระบุไว้ในข้อตกลงนี้เสมอ 

คุณจะตอบข้อโต้แย้งที่ Anthropic กล่าวไว้ใน โพสต์บล็อกของพวกเขา⁠(เปิดในหน้าต่างใหม่) เกี่ยวกับการหารือกับ กระทรวงสงครามอย่างไร

ในโพสต์ของ Anthropic มีการระบุถึงเส้นตายความปลอดภัยสองประการ ซึ่งเราเองก็มีกฎสองข้อนั้นเช่นกัน แต่เราได้เพิ่มข้อที่ 3 เข้าไปคือ การตัดสินใจอัตโนมัติในภารกิจที่มีความเสี่ยงสูง นอกจากนี้ Anthropic ยังมองว่าสัญญาที่ กระทรวงสงครามเสนอมานั้นไม่สามารถการันตีความปลอดภัยตามเกณฑ์เหล่านี้ได้ แต่เรากลับมองเห็นช่องทางที่ทำได้จริง นี่คือเหตุผลที่เราเชื่อมั่นว่า เส้นตายความปลอดภัยเหล่านั้นจะยังคงมีผลบังคับใช้อย่างเคร่งครัดภายใต้สัญญาของเรา

• การเฝ้าระวังมวลชนภายในประเทศ จากการพูดคุยกัน เราได้ข้อสรุปที่ชัดเจนว่า กระทรวงสงครามพิจารณาว่าการสอดแนมมวลชนภายในประเทศนั้นเป็นสิ่งที่ผิดกฎหมาย และไม่มีแผนที่จะใช้เทคโนโลยีเพื่อวัตถุประสงค์ดังกล่าว เราได้ระบุลงไปในสัญญาอย่างชัดแจ้งว่า การใช้งานในลักษณะนั้นไม่ถือเป็นการใช้งานที่ถูกต้องตามกฎหมาย เพื่อป้องกันการตีความที่คลาดเคลื่อนในอนาคต
• อาวุธอัตโนมัติเต็มรูปแบบ ขอบเขตการติดตั้งใช้งานผ่านระบบคลาวด์ตามที่ระบุในสัญญาของเรานั้น ไม่อนุญาตให้มีการขับเคลื่อนอาวุธที่เป็นอัตโนมัติโดยสมบูรณ์ได้ เนื่องจากเทคโนโลยีดังกล่าจำเป็นต้องมีการใช้การประมวลผลที่ตัวเครื่อง (Edge) ไม่ใช่ผ่านเซิร์ฟเวอร์คลาวด์

นอกจากความคุ้มครองข้างต้นแล้ว ในสัญญายังระบุถึงมาตรการป้องกันความปลอดภัยแบบหลายชั้น ซึ่งรวมถึงระบบความปลอดภัยทางเทคนิค และการมีผู้เชี่ยวชาญด้านเทคนิคของ OpenAI ร่วมกำกับดูแลในกระบวนการทำงาน