การใช้ในทางมิชอบที่เชื่อมโยงกับจีน: กิจกรรมสอดแนมและชักจูง

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนตุลาคม 2025⁠(เปิดในหน้าต่างใหม่) ของ OpenAI

บุคคลที่ดูเหมือนจะเชื่อมโยงกับหน่วยงานรัฐบาลสาธารณรัฐประชาชนจีนใช้ ChatGPT เพื่อช่วยในการพัฒนา การจัดทำประวัติ และงานราชการ

ดังที่เราได้ระบุไว้ในข้อเสนอต่อสำนักงานนโยบายวิทยาศาสตร์และเทคโนโลยีเกี่ยวกับแผนปฏิบัติการ AI ของสหรัฐฯ เมื่อเดือนมีนาคม เราเชื่อว่าการทำให้ AI เป็นประโยชน์ต่อผู้คนมากที่สุดเท่าที่จะเป็นไปได้ หมายถึงการส่งเสริม AI ผ่านกฎเกณฑ์ที่สมเหตุสมผล ซึ่งมุ่งปกป้องผู้คนจากอันตรายที่เกิดขึ้นจริง และการสร้าง AI ที่เป็นประชาธิปไตย AI ที่เป็นประชาธิปไตยในความหมายของเรา คือ AI ที่หล่อหลอมขึ้นจากหลักการประชาธิปไตยที่อเมริกายึดมั่นมาโดยตลอด แนวทางนี้รวมถึงการป้องกันไม่ให้ระบอบอำนาจนิยมใช้เครื่องมือ AI เพื่อสั่งสมอำนาจและควบคุมประชาชนของตน

การลงทุนของเราในการตรวจจับและสกัดกั้นความพยายามของระบอบอำนาจนิยมที่จะใช้ความสามารถของ ChatGPT ในทางมิชอบ ไม่เพียงช่วยปกป้องผู้คนในปัจจุบัน แต่ยังให้ข้อมูลเชิงลึกที่สำคัญว่าระบอบเหล่านั้นอาจนำความสามารถในอนาคตไปใช้ในทางมิชอบอย่างไร ส่วนนี้กล่าวถึงข้อค้นพบชุดหนึ่งเกี่ยวกับบุคคลที่อาจเชื่อมโยงกับระบอบดังกล่าว โดยเน้นที่สาธารณรัฐประชาชนจีน

ดังที่เราเขียนไว้เมื่อเดือนมิถุนายน สาธารณรัฐประชาชนจีนกำลังก้าวหน้าอย่างเป็นรูปธรรมในการพัฒนา AI ในแบบเผด็จการของตน การที่เราสกัดกั้นบัญชี ChatGPT ซึ่งบุคคลที่ดูเหมือนจะเชื่อมโยงกับหน่วยงานรัฐบาลจีนใช้งาน ช่วยให้เห็นภาพบางส่วนของสถานการณ์ปัจจุบันในการใช้ AI ภายใต้ระบอบอำนาจนิยมเช่นนี้ การใช้งานบางส่วนดูเหมือนมุ่งสนับสนุนการเฝ้าติดตามการสัญจรทางออนไลน์หรือออฟไลน์ในวงกว้าง ซึ่งตอกย้ำความสำคัญของการที่เราต้องเฝ้าระวังการใช้เทคโนโลยีด้านนี้ในทางมิชอบโดยระบอบอำนาจนิยมอย่างต่อเนื่อง การใช้งานส่วนอื่นดูเหมือนมุ่งจัดทำประวัติบุคคลในเชิงลึกยิ่งขึ้น เราแบนบัญชีที่เกี่ยวข้องกับกิจกรรมนี้ และนำข้อมูลเชิงลึกมาเปิดเผยในรายงานฉบับนี้

การศึกษานี้อ้างอิงจากกรณีที่เราคัดเลือกมาจากกิจกรรมที่ละเมิดนโยบาย ซึ่งเราตรวจพบ สกัดกั้น และแบนไปแล้ว กิจกรรมดังกล่าวสอดคล้องกับการใช้ ChatGPT ของผู้ใช้รายบุคคล มากกว่าการนำโมเดลของเราไปใช้ในวงกว้างระดับองค์กร ดังนั้น ข้อมูลนี้จึงเป็นเพียงภาพสะท้อนในวงจำกัดของการใช้โมเดล AI ต่างๆ ในบริบทนี้

บัญชีบางส่วนที่เราแบนดูเหมือนกำลังพยายามใช้ ChatGPT เพื่อพัฒนาเครื่องมือเฝ้าติดตามในวงกว้าง โดยวิเคราะห์ชุดข้อมูลซึ่งมักรวบรวมจากแพลตฟอร์มโซเชียลมีเดียของชาติตะวันตกหรือจีน เมื่อเดือนกุมภาพันธ์ เราได้รายงานกรณีหนึ่งในลักษณะนี้ ซึ่งมุ่งออกแบบเครื่องมือรับฟังเสียงบนโซเชียลมีเดียที่ขับเคลื่อนด้วย AI โดยผู้ดำเนินการอ้างว่าเป็นเครื่องมือสำหรับกองกำลังความมั่นคงของจีน โดยทั่วไป ผู้ใช้เหล่านี้ขอให้ ChatGPT ช่วยออกแบบเครื่องมือดังกล่าวหรือจัดทำสื่อประชาสัมพันธ์เกี่ยวกับเครื่องมือ แต่ไม่ได้ขอให้นำระบบเฝ้าติดตามไปใช้งานจริง

ตัวอย่างเช่น เมื่อไม่นานมานี้เราแบนผู้ใช้รายหนึ่งซึ่งอาจใช้ VPN เพื่อเข้าถึงบริการของเราจากจีน โดยผู้ใช้ขอให้ ChatGPT ช่วยออกแบบสื่อประชาสัมพันธ์และแผนโครงการสำหรับเครื่องมือรับฟังเสียงบนโซเชียลมีเดีย ซึ่งอ้างว่ามีไว้ให้ลูกค้าภาครัฐใช้ เครื่องมือนี้ถูกอธิบายว่าเป็น “หัวตรวจจับ” (探针) สำหรับโซเชียลมีเดีย ซึ่งอ้างว่าสามารถสแกน Twitter/X, Facebook, Instagram, Reddit, TikTok และ YouTube เพื่อค้นหาสิ่งที่ผู้ใช้เรียกว่าเนื้อหาสุดโต่ง รวมถึงเนื้อหาเกี่ยวกับชาติพันธุ์ ศาสนา และการเมือง ผู้ใช้ไม่ได้ใช้โมเดลของเราเพื่อดำเนินการเฝ้าติดตามโซเชียลมีเดียจริง เราไม่สามารถตรวจสอบโดยอิสระได้ว่าหน่วยงานรัฐบาลจีนเคยใช้เครื่องมือนี้หรือไม่

ในทำนองเดียวกัน เราแบนผู้ใช้รายที่สองซึ่งน่าจะเชื่อมโยงกับหน่วยงานรัฐบาล หลังจากผู้ใช้ขอให้ ChatGPT ช่วยเขียนข้อเสนอเกี่ยวกับสิ่งที่เรียกว่าโมเดลเตือนภัยการไหลเข้าของบุคคลความเสี่ยงสูงที่เกี่ยวข้องกับชาวอุยกูร์ (高危涉维吾尔关注人员流入预警模型) ข้อเสนอนี้อธิบายถึงเครื่องมือที่จะวิเคราะห์การจองการเดินทางและเปรียบเทียบกับบันทึกของตำรวจ เพื่อแจ้งเตือนล่วงหน้าเกี่ยวกับการเดินทางของบุคคลที่ถูกจัดว่าเกี่ยวข้องกับชาวอุยกูร์และมีความเสี่ยงสูง ซึ่งเป็นหมวดหมู่ที่ไม่ได้ให้คำนิยามไว้แต่อย่างใด ผู้ใช้ไม่ได้ขอให้โมเดลของเราช่วยสร้างเครื่องมือดังกล่าว แต่ขอเพียงให้จัดทำข้อเสนอทั่วไป ดังนั้น เราจึงไม่สามารถยืนยันโดยอิสระได้ว่าผู้ใช้ตั้งใจจะใช้เทคโนโลยีใด หรือหน่วยงานรัฐบาลจีนเคยใช้เครื่องมือเช่นนี้หรือไม่

เรายังแบนผู้ใช้ที่ดูเหมือนจะเชื่อมโยงกับหน่วยงานรัฐบาลจีน และดูเหมือนกำลังพยายามใช้ ChatGPT เพื่อจัดทำประวัติบุคคลแบบเจาะจงเฉพาะรายและค้นคว้าข้อมูลออนไลน์

ตัวอย่างเช่น ผู้ใช้รายหนึ่งขอให้ ChatGPT ระบุแหล่งเงินทุนของบัญชี X ที่วิพากษ์วิจารณ์รัฐบาลจีน ผู้ใช้รายที่สองขอให้ ChatGPT ระบุตัวผู้จัดทำคำร้องในมองโกเลีย ในทั้งสองกรณี โมเดลของเราให้ข้อมูลที่เปิดเผยต่อสาธารณะเท่านั้น ซึ่งไม่มีรายละเอียดที่ละเอียดอ่อน เช่น แหล่งเงินทุนหรือตัวตนของผู้จัดทำคำร้อง

กิจกรรมบางส่วนใช้โมเดลของเราเป็นเครื่องมือวิจัยจากแหล่งข้อมูลเปิด คล้ายกับที่ผู้ใช้ในอดีตอาจใช้การค้นหาทางอินเทอร์เน็ตหรือโซเชียลมีเดีย ตัวอย่างเช่น ผู้ใช้รายที่สามขอให้ ChatGPT ค้นหาและสรุปข่าวด่วนรายวันที่เกี่ยวข้องกับจีน รวมถึงประเด็นละเอียดอ่อน เช่น วันครบรอบเหตุการณ์สังหารหมู่ที่จัตุรัสเทียนอันเหมินในปี 1989 และวันคล้ายวันเกิดขององค์ดาไลลามะ