เหตุการณ์ Hugging Face และผลกระทบต่อบุคคลภายนอกในกรณีอื่นๆ ที่เกิดจากโมเดลซึ่งไม่สอดคล้องกับเป้าหมาย
เมื่อระบบ AI มีความสามารถสูงขึ้นและทำงานได้อย่างอิสระมากขึ้น พฤติกรรมที่ไม่สอดคล้องกับเป้าหมายอาจนำไปสู่การกระทำที่ส่งผลกระทบอย่างมีนัยสำคัญในโลกจริง รวมถึงเหตุการณ์ด้านความมั่นคงปลอดภัยทางไซเบอร์และผลลัพธ์อื่นๆ ที่นักพัฒนาอาจไม่ได้คาดการณ์ไว้ ดังนั้น การทำความเข้าใจว่าพฤติกรรมเหล่านี้เกิดขึ้นได้อย่างไร รุนแรงขึ้นได้อย่างไร รวมถึงวิธีตรวจจับและรับมือ จึงมีความสำคัญมากขึ้นเรื่อยๆ ต่อการพัฒนาและนำระบบ AI ขั้นสูงไปใช้อย่างปลอดภัย
เดิมทีเราเข้าใจว่าเหตุการณ์ที่ Hugging Face เป็นปัญหาด้านความมั่นคงปลอดภัยเป็นหลัก เพราะมีการเจาะระบบในระดับแพลตฟอร์ม และจนถึงปัจจุบันยังเป็นเหตุการณ์ลักษณะนี้ที่ร้ายแรงที่สุดที่เราตรวจพบจากโมเดลของเรา และมีสาเหตุหลักมาจากโมเดลวิจัยภายในที่มีความสามารถสูงและไม่ได้เปิดให้บุคคลภายนอกใช้งาน ต่อมาเราเข้าใจว่าการบุกรุกครั้งนี้เกิดจากโมเดลหันไปใช้กลยุทธ์ที่ไม่สอดคล้องกับเป้าหมายเพื่อแก้โจทย์ที่ยาก ตามที่ระบุไว้ในรายงานทางเทคนิคเกี่ยวกับเหตุการณ์ Hugging Face เหตุการณ์ด้านความมั่นคงปลอดภัยทางไซเบอร์เป็นเพียงรูปแบบหนึ่งของความเสี่ยงดังกล่าว พฤติกรรมที่ไม่สอดคล้องกับเป้าหมายยังอาจก่อให้เกิดพฤติกรรมที่ไม่คาดคิดหรือน่ากังวลในรูปแบบอื่น ซึ่งอยู่นอกขอบเขตความปลอดภัยแบบเดิม เช่น โมเดลของเราโพสต์ข้อความบนเว็บไซต์ของบุคคลภายนอก ซึ่งเราเรียกว่า “สแปมจากเอเจนต์” และเราจำเป็นต้องรับมือกับความเสี่ยงทั้งสองรูปแบบ
เรายังคงตรวจสอบกิจกรรมในวงกว้างอย่างต่อเนื่อง โดยให้ความสำคัญกับเหตุการณ์ที่ร้ายแรงกว่าก่อน แล้วจึงขยายการตรวจสอบไปยังกิจกรรมที่ไม่สอดคล้องกับเป้าหมายซึ่งมีความรุนแรงน้อยกว่า รวมถึงสแปมจากเอเจนต์
หน้านี้รวบรวมรายงานและความคืบหน้าเกี่ยวกับเหตุการณ์ Hugging Face รวมถึงงานวิจัยและการนำเสนอต่อสาธารณะที่เกี่ยวข้อง กิจกรรมอื่นๆ ที่เราตรวจพบ สิ่งที่เราได้เรียนรู้เกี่ยวกับบทบาทของพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมาย ตลอดจนมาตรการที่เรากำลังดำเนินการเพื่อเสริมความแข็งแกร่งให้กับระบบของเรา เราจะอัปเดตหน้านี้ต่อไปตามความคืบหน้าของการตรวจสอบ
กิจกรรมที่ส่งผลกระทบต่อบุคคลภายนอก
เราได้ดำเนินการตรวจสอบกิจกรรมของโมเดลบนอินเทอร์เน็ตระหว่างการฝึกและการประเมินในวงกว้าง เพื่อให้เข้าใจขอบเขตของพฤติกรรมที่ไม่คาดคิดเหล่านี้ได้ดียิ่งขึ้น โดยส่วนหนึ่งของการตรวจสอบนี้ เรากำลังระบุและแจ้งบุคคลภายนอกอย่างต่อเนื่องเมื่อพบกรณีที่เกี่ยวข้อง โดยเริ่มจากกรณีต่อไปนี้:
โมเดลของเราอาจหลีกเลี่ยงมาตรการควบคุมด้านความมั่นคงปลอดภัยของบุคคลภายนอก หรืออาจส่งผลให้บริการออนไลน์ไม่พร้อมใช้งาน หรือ
กรณีที่โมเดลไม่สอดคล้องกับเป้าหมายส่งผลกระทบในทางลบต่อเว็บไซต์หรือบริการของบุคคลภายนอก
จากการตรวจสอบจนถึงขณะนี้ เราได้แจ้งบุคคลภายนอกหลายสิบรายตามเกณฑ์ข้างต้น การตรวจสอบกิจกรรมที่ผ่านมายังคงดำเนินอยู่และต้องใช้เวลาและทรัพยากรจำนวนมาก เราจะแจ้งบุคคลภายนอกเพิ่มเติมอย่างต่อเนื่องระหว่างที่ดำเนินการตรวจสอบ
ด้านล่างนี้ เราเผยแพร่ข้อมูลสรุปที่ไม่ระบุตัวตนเพื่ออธิบายลักษณะของกิจกรรมที่ไม่สอดคล้องกับเป้าหมายที่เราตรวจพบ และเราจะอัปเดตรายละเอียดเหล่านี้เมื่อมีการแจ้งบุคคลภายนอกเพิ่มเติมและเมื่อเราเข้าใจเหตุการณ์ต่าง ๆ มากขึ้น นอกจากนี้ เราจะเผยแพร่ข้อมูลอัปเดตที่เกี่ยวข้องกับสถานะของการตรวจสอบ โดยทั่วไป เราจะไม่เปิดเผยชื่อและรายละเอียดอื่น ๆ ที่สามารถระบุตัวตนได้เมื่อจำเป็น เพื่อปกป้องผู้ที่ได้รับผลกระทบ อย่างไรก็ตาม บุคคลที่เราแจ้งข้อมูลอาจเลือกเปิดเผยข้อมูลที่เราให้แก่สาธารณะได้
สรุปกิจกรรมที่พบ
กระบวนการตรวจสอบและแจ้งเตือนของเราจนถึงขณะนี้พบกิจกรรมในหมวดหมู่ต่อไปนี้:
การหลบเลี่ยงการควบคุมการเข้าถึง: เอเจนต์เข้าถึงข้อมูลหรือฟีเจอร์ที่ปกติต้องผ่านการตรวจสอบตัวตน มีสิทธิ์เฉพาะ สมัครสมาชิก หรือมีบัญชี ตัวอย่างเช่น เอเจนต์ใช้ที่อยู่เว็บอื่น เปลี่ยนรายละเอียดในคำขอ หรืออาศัยเซสชันการเข้าสู่ระบบที่ให้สิทธิ์เข้าถึงมากกว่าที่คาดไว้
การใช้ข้อมูลประจำตัวที่เปิดเผย: เอเจนต์พบรายละเอียดการเข้าสู่ระบบหรือคีย์การเข้าถึงที่เผยแพร่ต่อสาธารณะ และใช้ข้อมูลดังกล่าวเพื่อเข้าถึงบริการ
การแทรกคำสั่งหรือคิวรี: เอเจนต์ป้อนข้อความลงในเว็บไซต์หรือบริการ แล้วบริการตีความข้อความนั้นเป็นคำสั่งแทนที่จะเป็นอินพุตทั่วไป สิ่งนี้อาจทำให้บริการเรียกใช้คิวรีฐานข้อมูล โค้ดแอปพลิเคชัน หรือคำสั่งบนเซิร์ฟเวอร์
การเข้าถึงส่วนภายในของระบบขณะทำงาน: เอเจนต์อ่านไฟล์ที่มีรายละเอียดการทำงานของบริการ หรือโต้ตอบกับระบบเบื้องหลังที่มีไว้สำหรับใช้ภายใน ในกรณีเหล่านี้ เอเจนต์เข้าถึงส่วนต่างๆ ของบริการที่อยู่นอกขอบเขตที่กำหนดไว้
สแปมจากเอเจนต์: เอเจนต์โพสต์ข้อมูลลงบนเว็บไซต์ของบุคคลที่สาม ซึ่งอาจเปลี่ยนแปลงข้อมูลบนเว็บไซต์และทำให้ต้องมีการล้างข้อมูล เช่น การใช้หน้าวิกิสาธารณะเป็นกระดานข้อความร่วม