เราจะทำให้ดีขึ้นเพื่อออสเตรเลียอย่างไร

ในเดือนมิถุนายน ระหว่างการฝึกและประเมินภายใน โมเดลของเราได้เข้าถึงเว็บไซต์ของรัฐบาลออสเตรเลียด้วยวิธีที่ไม่ได้รับอนุญาต เราควรจัดการรับมือกับเหตุการณ์นี้ให้ดีกว่าที่ผ่านมาเช่นกัน เราขออภัย และกำลังดำเนินการเพื่อทำให้ดีขึ้นในอนาคต

ในโพสต์นี้ เราจะอธิบายสิ่งที่เราทราบ สิ่งที่เราได้ปรับเปลี่ยน และสิ่งที่เราจะทำเพื่อฟื้นฟูความไว้วางใจจากประชาชนชาวออสเตรเลีย นี่คือเหตุการณ์ทางไซเบอร์รูปแบบใหม่ ซึ่งสะท้อนถึงความท้าทายระดับโลกที่กำลังเกิดขึ้น หนึ่งในวิธีที่เราตั้งใจจะแสดงความรับผิดชอบต่อสถานการณ์นี้ คือการร่วมมือกับออสเตรเลียอย่างจริงจัง เพื่อช่วยพัฒนาแนวทางที่นำไปใช้ได้จริงสำหรับผู้พัฒนา AI และรัฐบาล ในการตรวจจับ เปิดเผย และรับมือกับพฤติกรรมทางไซเบอร์ของ AI ไม่ว่าจะเป็นพฤติกรรมที่มุ่งร้ายหรือเกิดขึ้นโดยไม่ตั้งใจ

หลังจากเหตุการณ์ Hugging Face ในเดือนกรกฎาคม เราเริ่มตรวจสอบกิจกรรมการฝึกและประเมินก่อนหน้านั้น เพื่อค้นหาองค์กรอื่นๆ ที่ได้รับผลกระทบ ในช่วงกลางเดือนสิงหาคม การตรวจสอบดังกล่าวพบกิจกรรมที่ส่งผลกระทบต่อเว็บไซต์ของรัฐบาลออสเตรเลียตามรายการด้านล่าง

ต่อไปนี้คือสิ่งที่เราทราบจากหลักฐานที่มี:

• Services Australia: โมเดลของ OpenAI พบวิธีเข้าถึงส่วนของบริการที่ไม่เปิดให้สาธารณะเข้าถึง และได้เรียกใช้คำสั่ง ดึงไฟล์ภายใน ข้อมูลรับรองการเข้าถึง และสถิติภาพรวม รวมทั้งเขียนไฟล์ อย่างไรก็ตาม ไม่มีการเข้าถึงประวัติผู้ป่วยหรือผู้รับบริการรายบุคคล เราจะอธิบายรายละเอียดเพิ่มเติมของเหตุการณ์นี้ด้านล่าง

• สำนักงานสถิติและวิจัยอาชญากรรมแห่งรัฐนิวเซาท์เวลส์ (BOCSAR): โมเดลของ OpenAI เข้าถึงเครื่องมือแผนที่อาชญากรรมที่เปิดให้สาธารณะใช้ของ BOCSAR เพื่อค้นคว้าสถิติอาชญากรรมที่เผยแพร่ต่อสาธารณะ (เราจะอธิบายเพิ่มเติมด้านล่างว่าเหตุใดโมเดลจึงทำงานค้นคว้าข้อมูลในเรื่องต่างๆ) โมเดลส่งคำขอไปยัง API และคำขอข้อมูลเมตาของเว็บไซต์ผ่านเครื่องมือสาธารณะของ BOCSAR ซึ่งให้ข้อมูลรับรองสำหรับคำขอ API จากเบราว์เซอร์ ระบบ BOCSAR ส่งข้อมูลการกำหนดค่าแอปพลิเคชัน งานและบันทึกการทำงานของระบบ รวมถึงข้อมูลเมตาของเว็บไซต์กลับมา ไม่มีการเข้าถึงประวัติอาชญากรรมรายบุคคล

• กรมสุขภาพแห่งรัฐวิกตอเรีย: เอเจนต์ของ OpenAI พบคีย์การเข้าถึงที่ถูกเปิดเผย และใช้คีย์นั้นส่งคำขอไปยังระบบรายงานของสำนักงานข้อมูลสุขภาพแห่งรัฐวิกตอเรีย เพื่อดึงข้อมูลการกำหนดค่ารายงานและสถิติภาพรวมจากแบบสำรวจ ยังไม่ชัดเจนว่าข้อมูลนี้ควรเปิดให้เข้าถึงได้มากน้อยเพียงใด โดยขึ้นอยู่กับนโยบายการเข้าถึงของ VAHI ไม่มีการเข้าถึงเวชระเบียนรายบุคคลหรือคำตอบแบบสำรวจที่ระบุตัวบุคคลได้

• สถาบันสุขภาพและสวัสดิการแห่งออสเตรเลีย: เอเจนต์ของ OpenAI ดึงสถิติภาพรวมโดยใช้บริการท่องเว็บและดาวน์โหลดของบุคคลที่สาม ซึ่งรวมถึงข้อมูลจากเว็บไซต์ของ AIHW และส่งคำขอข้อมูลแผนภูมิโดยตรง ความพยายามอื่นๆ ที่จะหลีกเลี่ยงมาตรการควบคุมการเข้าถึงไม่ประสบผลสำเร็จ ข้อมูลที่ดาวน์โหลดมาดูเหมือนจะเป็นข้อมูลที่เปิดให้สาธารณะเข้าถึงได้ ไม่มีการเจาะระบบสำเร็จ ไม่มีการเข้าถึงเวชระเบียนรายบุคคล

เราเริ่มสืบสวนกิจกรรมเหล่านี้ทันทีที่ทราบเรื่องในช่วงกลางเดือนสิงหาคม เราแจ้ง Services Australia และกรมสุขภาพแห่งรัฐวิกตอเรียเมื่อวันที่ 10 กันยายน และแจ้งสำนักงานสถิติและวิจัยอาชญากรรมแห่งรัฐนิวเซาท์เวลส์เมื่อวันที่ 18 กันยายน กิจกรรมที่เกี่ยวข้องกับสถาบันสุขภาพและสวัสดิการแห่งออสเตรเลียไม่เข้าเกณฑ์ที่เรากำหนดให้ต้องเปิดเผยข้อมูล เนื่องจากวิธีเข้าถึงดูสอดคล้องกับการเข้าถึงโดยสาธารณะ แต่เราได้แจ้งสถาบันดังกล่าวเมื่อวันที่ 24 กันยายน เพื่อแบ่งปันข้อค้นพบและเสนอที่จะชี้แจงรายละเอียด

เราตั้งใจจะให้ข้อมูลโดยละเอียดแก่หน่วยงานที่ได้รับผลกระทบเมื่อการสืบสวนเสร็จสิ้น อย่างไรก็ตาม เราควรแบ่งปันข้อค้นพบเบื้องต้นให้เร็วกว่านี้ และแจ้งข้อมูลล่าสุดแก่หน่วยงานของออสเตรเลียอย่างต่อเนื่องเมื่อมีข้อเท็จจริงเพิ่มเติม

นับจากนั้น เราได้ทำงานอย่างใกล้ชิดกับหน่วยงานรัฐบาลออสเตรเลียเพื่อแบ่งปันสิ่งที่เราทราบจนถึงปัจจุบัน หากเราพบหน่วยงานอื่นที่ได้รับผลกระทบเพิ่มเติม เราจะแจ้งหน่วยงานนั้นโดยตรงอย่างรวดเร็วพร้อมข้อมูลที่มีอยู่ และแจ้งข้อมูลล่าสุดเมื่อมีข้อเท็จจริงเพิ่มเติม

ระหว่างการฝึกและประเมินภายในในเดือนมิถุนายน เรากำลังใช้งานโมเดลทดลองของ OpenAI ที่ใช้เฉพาะภายใน ไม่ได้มีแผนจะเปิดตัวต่อสาธารณะ และยังไม่มีมาตรการป้องกันครบชุดเหมือนที่ใช้ในผลิตภัณฑ์ที่เราเปิดให้สาธารณะใช้งาน ระหว่างการฝึกและประเมินนี้ โมเดลได้เข้าถึงบริการรายงานสถิติ Medicare ของ Services Australia การตรวจสอบของเราจนถึงขณะนี้ไม่พบหลักฐานว่ามีการเข้าถึงเวชระเบียนของบุคคลใด

เมื่อเราฝึกและประเมินโมเดลเป็นการภายใน เราจะมอบหมายงานจากชุดคำถามสำหรับการค้นคว้าที่ครอบคลุมหลากหลายหัวข้อ ซึ่งสะท้อนลักษณะคำถามที่มีรายละเอียดซับซ้อนที่ผู้ใช้อาจถาม วิธีนี้ฝึกให้โมเดลค้นหา ตีความ และวิเคราะห์ข้อมูลที่เผยแพร่ต่อสาธารณะ เพื่อให้โมเดลเป็นประโยชน์ต่อผู้คนมากขึ้น โมเดลของเราควรตอบคำถามเหล่านี้โดยใช้สถิติที่เผยแพร่ต่อสาธารณะ

ในกรณีนี้ หนึ่งในงานที่มอบหมายให้โมเดลคือการค้นคว้าข้อมูลค่าใช้จ่ายต่อคนของรัฐบาลสำหรับยารักษาโรคผิวหนังในชุมชนต่างๆ ของรัฐวิกตอเรีย โมเดลประสบปัญหาในการหาข้อมูลดังกล่าว และได้ดำเนินการบางอย่างที่เราไม่ได้อนุญาต ระหว่างค้นหาข้อมูลนี้ในบริการรายงานสถิติ Medicare ของ Services Australia โมเดลพบวิธีเข้าถึงส่วนของบริการที่ไม่เปิดให้สาธารณะเข้าถึง จากนั้นโมเดลใช้ช่องทางนี้เพื่อตรวจดูข้อมูลระบบเชิงเทคนิคและซอร์สโค้ดที่เกี่ยวข้องกับบริการ โดยทั้งหมดยังคงมีเป้าหมายเพื่อหาข้อมูลที่ต้องการค้นหาตั้งแต่แรก เราไม่ได้ตั้งใจให้เกิดการกระทำเหล่านี้ และทั้งการเข้าถึงบริการและการกระทำที่ตามมาล้วนเป็นสิ่งที่ไม่ควรเกิดขึ้น

หลังจากเหตุการณ์ Hugging Face เราได้เสริมมาตรการป้องกันในการวิจัยให้รัดกุมขึ้น รวมถึงเพิ่มข้อจำกัดด้านเครือข่ายและขยายการเฝ้าติดตาม เราใช้มาตรการควบคุมเพื่อปิดกั้นการเข้าถึงอินเทอร์เน็ตโดยตรงในสภาพแวดล้อมการวิจัยเหล่านี้ โดยให้เข้าถึงเว็บผ่านเนื้อหาที่เก็บไว้ในแคชแทน เพื่อเพิ่มความปลอดภัยอีกชั้น หากการกระทำนี้เกิดขึ้นภายใต้ระบบเฝ้าติดตามที่เราใช้อยู่ในปัจจุบัน ระบบจะตรวจพบและส่งสัญญาณเตือนไปยังทีมของเราให้เจ้าหน้าที่ตรวจสอบโดยเร่งด่วน ตัวอย่างเช่น เมื่อโมเดลเข้าถึงอินเทอร์เน็ตโดยตรงระหว่างการฝึกครั้งล่าสุดครั้งหนึ่ง⁠(เปิดในหน้าต่างใหม่) ระบบเฝ้าติดตามของเราตรวจพบการกระทำดังกล่าวและส่งสัญญาณเตือนไปยังเจ้าหน้าที่ตรวจสอบ แล้วเราก็หยุดการฝึกครั้งนั้น เรายังคงทดสอบมาตรการป้องกันเหล่านี้และแก้ไขช่องโหว่อย่างต่อเนื่อง เหตุการณ์ Hugging Face ยังคงเป็นเหตุการณ์ร้ายแรงที่สุดที่เราพบ

ผู้คนต้องการความมั่นใจว่า AI กำลังได้รับการพัฒนาอย่างปลอดภัย และสิ่งนี้เริ่มต้นจากการลงมือทำของบริษัทอย่างเราเอง เมื่อไม่นานมานี้ เราได้แจ้ง⁠(เปิดในหน้าต่างใหม่)ว่าเราได้หยุดการฝึกและประเมินที่เกี่ยวข้องกับการใช้เครื่องมือสำหรับโมเดลที่มีความสามารถสูงสุดของเราไว้ชั่วคราว และจะกลับมาฝึกโมเดลเหล่านี้ต่อเมื่อมั่นใจว่าได้วางมาตรการป้องกันเพิ่มเติมเรียบร้อยแล้ว ซึ่งเรากำลังดำเนินการอยู่ในขณะนี้

เมื่อระบบ AI โดยรวมมีความสามารถมากขึ้น เราก็เห็นว่าเวลาที่เหลือในการช่วยองค์กรค้นหาและแก้ไขจุดอ่อนกำลังลดน้อยลง เรื่องนี้ต้องอาศัยการร่วมมือกันลงมือทำกับผู้ปฏิบัติงานด้านการป้องกันภัยไซเบอร์ทั่วโลก

เราได้ร่วมกับองค์กรด้านเทคโนโลยี ความมั่นคงปลอดภัยไซเบอร์ และโครงสร้างพื้นฐานสำคัญ ในการเรียกร้องให้ร่วมกันลงมือป้องกันภัยไซเบอร์ ข้อเรียกร้องนี้เริ่มต้นจากความรับผิดชอบของเราเอง ซึ่งรวมถึงมาตรการป้องกันที่รัดกุมขึ้น การเปิดเผยข้อมูลอย่างทันท่วงที และการสนับสนุนที่นำไปใช้ได้จริงสำหรับองค์กรที่ได้รับผลกระทบ นอกจากนี้ยังเรียกร้องให้ลงทุนในทีมที่ทำหน้าที่ปกป้องบริการจำเป็น เพื่อให้ทีมเหล่านี้สามารถค้นหาช่องโหว่ ตรวจสอบว่าการแก้ไขได้ผล และแบ่งปันแนวทางที่ใช้ได้ผล

ในออสเตรเลีย เรามุ่งมั่นที่จะทุ่มเททรัพยากรและความเชี่ยวชาญเพื่อสนับสนุนหน่วยงานที่ได้รับผลกระทบ และช่วยให้ผู้ปฏิบัติงานด้านการป้องกันภัยไซเบอร์นำหลักการเหล่านี้ไปใช้จริง โดยดำเนินการดังนี้

• การสนับสนุนเฉพาะสำหรับหน่วยงานที่ได้รับผลกระทบ เราจะจัดสรรทรัพยากรที่จำเป็นเพื่อช่วยให้หน่วยงานที่ได้รับผลกระทบเข้าใจสิ่งที่เกิดขึ้นและประเมินผลกระทบ ซึ่งรวมถึงการแบ่งปันข้อค้นพบทางเทคนิคที่เกี่ยวข้อง และประสานให้หน่วยงานได้ทำงานร่วมกับทีมรับมือเหตุการณ์ของเรา ภายใต้ข้อตกลงการแบ่งปันข้อมูลที่เหมาะสม

• เงินทุนและการสนับสนุนเพื่อเสริมความแข็งแกร่งในการป้องกันภัยไซเบอร์ เราจะสนับสนุนรัฐบาลระดับต่างๆ และภาคอุตสาหกรรมของออสเตรเลีย ด้วยเครดิตจากกองทุน Daybreak for Frontline Defenders มูลค่า 1 พันล้านดอลลาร์ของเรา พร้อมความช่วยเหลือทางเทคนิค เพื่อเสริมการป้องกันภัยไซเบอร์ให้กับโครงสร้างพื้นฐานสำคัญและสภาพแวดล้อมอื่นๆ ที่มีความอ่อนไหว งานนี้จะต่อยอดจากความร่วมมือของเรากับรัฐบาลและผู้ดำเนินงานโครงสร้างพื้นฐานสำคัญ เพื่อช่วยให้องค์กรเข้าใจ ตรวจจับ และรับมือกับความเสี่ยงจากเอเจนต์ AI ที่มีความสามารถสูงขึ้นได้ดียิ่งขึ้น

• คณะทำงานเฉพาะกิจในออสเตรเลีย เราจะจัดตั้งคณะทำงานเฉพาะกิจที่อาศัยความเชี่ยวชาญจากผู้เชี่ยวชาญอิสระในออสเตรเลีย เพื่อจัดทำข้อเสนอแนะเชิงนโยบายที่นำไปใช้ได้จริงสำหรับการจัดการความเสี่ยงจากเอเจนต์ AI ที่มีความสามารถสูงขึ้น คณะทำงานจะนำบทเรียนจากเหตุการณ์เหล่านี้มาใช้ โดยมุ่งปรับปรุงกระบวนการแจ้งเหตุ เสริมการประสานงานระหว่างผู้พัฒนา AI กับรัฐบาล และระบุมาตรการที่จะช่วยปกป้องระบบของรัฐบาลได้ดียิ่งขึ้น ข้อเสนอแนะของคณะทำงานจะเป็นข้อมูลประกอบการกำหนดแนวทางของ OpenAI และสนับสนุนงานด้านความปลอดภัยของ AI และความมั่นคงปลอดภัยไซเบอร์ของรัฐบาลระดับต่างๆ ในออสเตรเลีย คณะทำงานซึ่งคาดว่าจะดำเนินงานเสร็จสิ้นภายในสิ้นปีนี้ จะเสนอขั้นตอนที่บริษัท AI สามารถนำไปปฏิบัติได้จริงเพื่อลดความเสี่ยงที่จะเกิดเหตุการณ์ในลักษณะเดียวกันด้วย

รัฐบาลระดับต่างๆ ภาคอุตสาหกรรม และประชาชนชาวออสเตรเลียเป็นพันธมิตรที่มีคุณค่าอย่างยิ่งต่อ OpenAI มาโดยตลอดและยังคงเป็นเช่นนั้น เราไม่เคยมองข้ามคุณค่าของความสัมพันธ์นี้ และเราตั้งใจที่จะแก้ไขเรื่องนี้ให้ถูกต้อง

Jason Kwon ประธานเจ้าหน้าที่ฝ่ายกลยุทธ์ของ OpenAI จะเดินทางจากสำนักงานใหญ่ของ OpenAI ในสหรัฐฯ เพื่อเข้าชี้แจงต่อคณะกรรมาธิการวิสามัญร่วมด้านปัญญาประดิษฐ์ที่ซิดนีย์ ในวันอังคารที่ 6 ตุลาคม เขาจะตอบคำถามเกี่ยวกับสิ่งที่เราทราบ วิธีที่เรารับมือ ขั้นตอนที่เราได้ดำเนินการไปแล้ว และสิ่งที่เราจะทำให้ดีขึ้นต่อจากนี้

เราจะแบ่งปันข้อค้นพบที่ตรวจสอบยืนยันแล้วให้กับหน่วยงานที่ได้รับผลกระทบและรัฐบาลที่เกี่ยวข้องอย่างต่อเนื่อง เราจะเผยแพร่ข้อมูลล่าสุดเกี่ยวกับการตรวจสอบที่กำลังดำเนินอยู่ และความคืบหน้าในการทำตามคำมั่นเหล่านี้ เราทราบว่ายังมีงานอีกมากที่ต้องทำเพื่อฟื้นฟูความไว้วางใจ และเรามีหน้าที่ต้องแสดงให้ชาวออสเตรเลียเห็นว่าเรากำลังเปลี่ยนแปลงอย่างเป็นรูปธรรมและทำตามคำสัญญาของเรา