แนวทางในการปฏิบัติตามข้อกำหนดเรื่องที่มาของข้อความของสหภาพยุโรป
ผลักดันความโปร่งใสภายในขอบเขตที่เทคโนโลยีปัจจุบันสามารถทำได้
ข้อมูลที่มาของเนื้อหาช่วยให้ผู้คนเข้าใจว่าเนื้อหามาจากไหน สร้างขึ้นหรือผ่านการแก้ไขอย่างไร และมีสัญญาณที่เชื่อมโยงกับโมเดลของเราหรือไม่ ก่อนหน้านี้ เราได้เปิดให้ทุกคนใช้เครื่องมือสำหรับตรวจสอบรูปภาพและเสียงที่สร้างโดยโมเดลของเราแล้ว วันนี้ เราจะมาอธิบายแนวทางของเราในการใส่ลายน้ำในข้อความเพื่อให้สอดคล้องกับกฎหมาย AI ของสหภาพยุโรป รวมถึงบทบาทของแนวทางนี้ในภาพรวมของงานที่เรากำลังดำเนินการ
กฎหมาย AI ของสหภาพยุโรปกำหนดให้ผู้ให้บริการ Generative AI ต้องมีวิธีที่ทำให้ระบบสามารถตรวจระบุได้ว่าข้อความใดสร้างขึ้นโดย AI อย่างไรก็ตาม เทคโนโลยีลายน้ำในข้อความและการตรวจจับยังไม่สมบูรณ์ และยังมีข้อจำกัดสำคัญหลายประการ อีกทั้งยังมีการถกเถียงและศึกษากันต่อเนื่องว่าเทคโนโลยีเหล่านี้ให้ประโยชน์ในด้านใดบ้าง และควรใช้อย่างไรจึงจะเหมาะสม เราจึงเลือกดำเนินการแบบค่อยเป็นค่อยไป โดยไม่มองข้ามทั้งข้อกำหนดของกฎหมายและข้อจำกัดของเทคโนโลยี พร้อมอธิบายให้ชัดเจนว่าลายน้ำในข้อความช่วยบอกอะไรได้บ้าง และมีเรื่องใดที่ไม่ควรสรุปจากลายน้ำเพียงอย่างเดียว:
ตั้งแต่วันนี้ ลูกค้า API ทั่วโลกสามารถเลือกเปิดใช้ลายน้ำในข้อความกับบางโมเดลได้ โดย API จะยังไม่เปิดฟีเจอร์นี้เป็นค่าเริ่มต้น
ในช่วงไม่กี่สัปดาห์ข้างหน้า เราจะเริ่มใส่ลายน้ำที่มองไม่เห็นลงในข้อความที่เข้าเกณฑ์ซึ่งสร้างโดย ChatGPT และ Codex ในสหภาพยุโรป
เราเปิดให้ยื่นคำขอเพื่อขอสิทธิ์เข้าถึงเครื่องมือตรวจจับลายน้ำในข้อความแล้ว โดยในระยะแรกจะจำกัดสิทธิ์เฉพาะนักวิจัยและองค์กรผู้เชี่ยวชาญที่ผ่านการอนุมัติ ซึ่งสามารถช่วยเราประเมินและพัฒนาเทคโนโลยีนี้ให้ดียิ่งขึ้น
รายละเอียดข้างต้นใช้เฉพาะกับการระบุแหล่งที่มาของข้อความเท่านั้น ส่วนเครื่องมือตรวจสอบรูปภาพและเสียงของเรา รวมถึงเครื่องมือบนเว็บ openai.com/verify และ Content Provenance API(เปิดในหน้าต่างใหม่) จะยังเปิดให้องค์กรทั่วไปเข้าใช้งานได้ เพื่อช่วยตรวจสอบว่ารูปภาพหรือไฟล์เสียงนั้นสร้างขึ้นโดยระบบของเราหรือไม่
เทคโนโลยี textGrain ของเราจะฝังสัญญาณทางสถิติที่มองไม่เห็นไว้ในการเลือกคำของโมเดล เมื่อทำการตรวจสอบ เครื่องมือตรวจจับจะค้นหาสัญญาณนี้เพื่อประเมินว่าข้อความมีลายน้ำของ OpenAI อยู่หรือไม่ สำหรับรายละเอียดเชิงลึกเกี่ยวกับการทำงานของ textGrain สามารถดูได้จากรายงานทางเทคนิค(เปิดในหน้าต่างใหม่) ซึ่งจะมีการเพิ่มข้อมูลอีกในช่วงไม่กี่สัปดาห์ข้างหน้า เรามีแผนเปิดเทคโนโลยีนี้เป็นโอเพนซอร์สด้วย เพื่อเปิดทางให้ผู้อื่นนำไปต่อยอด
ผลการประเมินของเราพบว่า textGrain มีประสิทธิภาพไม่น้อยไปกว่าวิธีอื่นที่ทดสอบ และในบางกรณีก็ทำได้ดีกว่า รวมถึงเมื่อเทียบกับ SynthID สำหรับข้อความ อย่างไรก็ดี การทำงานได้ดีในสภาวะที่เอื้อต่อการทดสอบ ไม่ได้แปลว่าจะตรวจจับได้อย่างน่าเชื่อถือเสมอเมื่อนำไปใช้จริง
เครื่องมือตรวจจับอาจให้ผลผิดพลาดได้ 2 แบบ แบบแรกคือแจ้งว่าพบลายน้ำทั้งที่จริงไม่มี ซึ่งเรียกว่า ผลบวกลวง ส่วนอีกแบบคือมีลายน้ำอยู่จริงแต่ระบบตรวจไม่พบ ซึ่งเรียกว่า ผลลบลวง ผลการประเมินด้านล่างแสดงให้เห็นข้อท้าทายบางประการของการตรวจจับ:
ยิ่งข้อความสั้นหรือมีตัวเลือกในการใช้คำน้อย ก็ยิ่งตรวจหาลายน้ำได้ยาก เมื่อกำหนดอัตราผลบวกลวงเป้าหมายไว้ที่ 1% เครื่องมือตรวจจับของเราตรวจพบลายน้ำได้ราว 80% สำหรับข้อความด้านจิตวิทยาที่มีความยาว 200 โทเค็น และเพิ่มเป็นราว 95% เมื่อข้อความยาว 400 โทเค็น แต่ในเนื้อหาอย่างคณิตศาสตร์ อัตราการตรวจพบลดลงอย่างมาก เนื่องจากมีข้อจำกัดในการเลือกใช้คำมากกว่า
การแก้ไขข้อความอาจทำให้ลายน้ำตรวจจับได้ยากขึ้น จากการประเมินข้อความยาว 400 โทเค็น เมื่อเปลี่ยนคำ 10% เป็นคำที่มีความหมายใกล้เคียงกัน อัตราการตรวจพบลายน้ำลดลงจากประมาณ 92% เหลือ 66% และเมื่อเปลี่ยนคำ 25% อัตราการตรวจพบลดลงเหลือเพียง 17%
ข้อจำกัดเหล่านี้เป็นหนึ่งในเหตุผลที่เราเลือกเปิดให้ใช้เครื่องมือตรวจจับในระยะแรกเฉพาะนักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับอนุมัติ เพื่อให้กลุ่มเหล่านี้ช่วยเราประเมินความน่าเชื่อถือของเทคโนโลยีและแนวทางการใช้งานอย่างมีความรับผิดชอบ
แผนภูมินี้แสดงผลการตรวจจับคำตอบที่มีลายน้ำ ซึ่งสร้างขึ้นเพื่อตอบคำถามด้านคณิตศาสตร์และจิตวิทยาจากชุดข้อมูล ELI5(เปิดในหน้าต่างใหม่) โดยกำหนดอัตราผลบวกลวงเป้าหมายไว้ที่ 1% ยิ่งข้อความยาวขึ้น ระบบก็ยิ่งตรวจพบลายน้ำได้ดีขึ้น อย่างไรก็ตาม เนื้อหาที่มีข้อจำกัดในการเลือกใช้คำมาก เช่น คณิตศาสตร์ ยังมีอัตราการตรวจพบต่ำกว่ามาก
เมื่อมีการแก้ไขข้อความ สัญญาณลายน้ำอาจลดลงอย่างเห็นได้ชัด แผนภูมินี้แสดงให้เห็นว่า หากเปลี่ยนคำในข้อความ 10% หรือ 25% ความสามารถในการตรวจพบลายน้ำจะเปลี่ยนไปอย่างไร ผลการทดสอบมาจากคำตอบภาษาอังกฤษที่มีลายน้ำสำหรับคำถามใน ELI5(เปิดในหน้าต่างใหม่)
จากแบบทดสอบทั้งหมดที่เราใช้ประเมิน Astra ซึ่งเป็นโมเดลระดับแนวหน้ารุ่นล่าสุดของเรา ไม่พบความแตกต่างด้านประสิทธิภาพที่มีนัยสำคัญระหว่างการใส่และไม่ใส่ลายน้ำ
แบบทดสอบ | ข้อความที่ไม่มีลายน้ำ (Astra, Max) | ข้อความที่มีลายน้ำ (Astra, Max) |
|---|---|---|
Artificial Analysis Intelligence Index | 49.57 คะแนน | 49.76 คะแนน |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
ลายน้ำในข้อความเป็นเพียงสัญญาณหนึ่งที่ช่วยบอกได้ในระดับหนึ่งว่าระบบของเรามีส่วนเกี่ยวข้องกับข้อความนั้นอย่างไร ดังนั้น การตีความผลการตรวจจับจึงต้องเข้าใจให้ชัดว่า เราสามารถสรุปอะไรจากผลดังกล่าวได้บ้าง และมีเรื่องใดที่ยังสรุปไม่ได้
ลายน้ำไม่ได้บอกว่าข้อความนั้นมาจากฝีมือมนุษย์มากเพียงใด สิ่งที่ลายน้ำบอกได้คือ ระบบของ OpenAI อาจเคยสร้างหรือประมวลผลข้อความบางส่วน แต่ไม่สามารถบอกได้ว่ามนุษย์ใช้วิจารณญาณ ปรับแก้ หรือสร้างสรรค์เนื้อหานั้นมากเพียงใด
ลายน้ำไม่ได้ยืนยันความเป็นเจ้าของหรือความรับผิดชอบ ลายน้ำไม่ได้ระบุว่าใครเป็นเจ้าของข้อความ การใช้งานนั้นชอบด้วยกฎหมายหรือไม่ จำเป็นต้องเปิดเผยข้อมูลหรือไม่ หรือใครเป็นผู้รับผิดชอบ
ลายน้ำไม่ได้ระบุตัวผู้ใช้ ลายน้ำไม่ได้เชื่อมโยงบุคคล องค์กร บัญชี พรอมต์ หรือบทสนทนาเข้ากับข้อความ
ลายน้ำไม่ได้ยืนยันความถูกต้อง ลายน้ำไม่ได้บอกว่าข้อความเป็นจริง ชวนให้เข้าใจผิด เป็นอันตราย หรือนำเสนอในบริบทที่ถูกต้องหรือไม่
การตรวจไม่พบลายน้ำไม่ได้ยืนยันว่าข้อความนั้นเขียนโดยมนุษย์ ข้อความที่สร้างด้วยเครื่องมือของ OpenAI อาจสั้นเกินไป ผ่านการแก้ไข หรือถูกแปลจนระบบไม่สามารถตรวจจับได้อย่างแม่นยำ นอกจากนี้ ข้อความนั้นอาจสร้างจากโมเดลที่ยังไม่รองรับลายน้ำ สร้างขึ้นก่อนเริ่มใช้ลายน้ำ หรือสร้างด้วยเครื่องมือของบริษัทอื่นก็ได้
เริ่มนำลายน้ำในข้อความมาใช้ในสหภาพยุโรป ในช่วงไม่กี่สัปดาห์ข้างหน้า เราจะทยอยเปิดใช้ลายน้ำในข้อความสำหรับผู้ใช้ ChatGPT และ Codex ที่เข้าเกณฑ์ในทุกแพ็กเกจ โดยจำกัดเฉพาะสหภาพยุโรปก่อน ในช่วงเปิดตัว เราจะยังไม่กำหนดให้ฟีเจอร์นี้เป็นค่าเริ่มต้นทั่วโลก การเริ่มใช้งานเฉพาะบางภูมิภาคจะช่วยให้เราเรียนรู้จากการใช้งานจริงและนำความคิดเห็นที่ได้รับมาปรับปรุงต่อไป
เปิดให้ลูกค้า API เลือกใช้ลายน้ำในข้อความได้ ตั้งแต่วันนี้ ลูกค้า API ทั่วโลกสามารถเลือกเปิดใช้ลายน้ำกับข้อความที่สร้างจากโมเดลบางรุ่นได้ เพื่อให้แต่ละองค์กรตัดสินใจได้เองว่าควรนำลายน้ำมาใช้ให้สอดคล้องกับข้อกำหนดด้านความโปร่งใสและประสบการณ์ของผู้ใช้ นอกจากนี้ เรายังทำงานร่วมกับพาร์ทเนอร์ด้านคลาวด์ เพื่อให้ข้อความจากโมเดล OpenAI ที่ใช้งานผ่านบริการของพาร์ทเนอร์เหล่านี้รองรับลายน้ำได้ภายในไม่กี่สัปดาห์ข้างหน้า
เปิดให้กลุ่มนักวิจัยและองค์กรผู้เชี่ยวชาญเข้าถึงเครื่องมือตรวจจับ ตั้งแต่วันนี้ นักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับอนุมัติสามารถยื่นคำขอเพื่อเข้าใช้งานได้ โดยในระยะแรก เราจะพิจารณาอนุมัติเป็นรายกรณีตามหลักปฏิบัติ(เปิดในหน้าต่างใหม่) เพื่อสนับสนุนการประเมินและพัฒนาเทคโนโลยีระบุแหล่งที่มาของข้อความ เครื่องมือนี้จะแจ้งว่าตรวจพบลายน้ำของ OpenAI หรือไม่ โดยจะไม่ระบุตัวผู้ใช้หรือเปิดเผยพรอมต์และบทสนทนาของผู้ใช้ เนื่องจากยังมีความเสี่ยงที่ระบบจะตรวจไม่พบลายน้ำที่มีอยู่จริง หรือให้ผลบวกลวง เราจึงยังไม่เปิดเครื่องมือนี้ให้บุคคลทั่วไปใช้งานในช่วงเปิดตัว
เราจะปรับทบทวนแนวทางแต่ละส่วนตามความเหมาะสม เมื่อเทคโนโลยี มาตรฐาน และข้อมูลหลักฐานมีความก้าวหน้ามากขึ้น
การระบุแหล่งที่มาของเนื้อหาไม่สามารถพึ่งพาเทคนิคเพียงอย่างเดียวได้ เราจึงผสานหลายวิธีเข้าด้วยกัน ตั้งแต่มาตรฐานแบบเปิด ลายน้ำที่ทนต่อการแก้ไข ไปจนถึงเครื่องมือสำหรับตรวจสอบ
เราเพิ่ม Content Credentials ให้กับรูปภาพที่รองรับ โดยปฏิบัติตามมาตรฐาน C2PA(เปิดในหน้าต่างใหม่) ฝังลายน้ำ SynthID(เปิดในหน้าต่างใหม่) ที่มองไม่เห็นในรูปภาพและเสียงที่รองรับ และเปิดให้ตรวจสอบรูปภาพและเสียงผ่าน openai.com/verify รวมถึง Content Provenance API(เปิดในหน้าต่างใหม่) วิธีเหล่านี้ทำงานเสริมกัน โดย Content Credentials ใช้บันทึกที่มาและประวัติของไฟล์ ส่วนลายน้ำที่มองไม่เห็นช่วยคงสัญญาณไว้ได้แม้ข้อมูลเมตาดาตาจะถูกลบออก
ดังที่เราอธิบายไว้ในงานด้านมาตรการป้องกันการเลือกตั้ง การระบุแหล่งที่มาของเนื้อหาช่วยให้ผู้คนและแพลตฟอร์มประเมินเนื้อหาที่ AI สร้างขึ้นซึ่งอาจทำให้เข้าใจผิดได้ รวมถึงดีปเฟก เราไม่ได้อาศัยสัญญาณเหล่านี้เพียงอย่างเดียว แต่ใช้ควบคู่กับนโยบาย ระบบตรวจจับการใช้งานในทางที่ผิด ช่องทางการรายงาน การตรวจสอบ และการบังคับใช้มาตรการต่างๆ พร้อมทำงานร่วมกับนักวิจัย องค์กรกำหนดมาตรฐาน แพลตฟอร์ม และภาคประชาสังคม เพื่อให้การระบุแหล่งที่มาของเนื้อหาใช้งานได้อย่างมีประโยชน์ในระบบนิเวศโดยรวม
การนำเทคโนโลยีระบุแหล่งที่มามาใช้กับข้อความต้องคำนึงด้วยว่า ข้อความสามารถถูกเขียนใหม่ แปล หรือแก้ไขได้ง่ายเพียงใด ดังที่เราเคยกล่าวไว้เมื่อเดือนมิถุนายน แนวทางของเราต้องสอดคล้องกับข้อจำกัดที่เทคโนโลยีในปัจจุบันยังมีอยู่ เราจะพัฒนาความสามารถในการตรวจจับต่อไป ศึกษาว่าลายน้ำยังคงตรวจพบได้ดีเพียงใดหลังข้อความผ่านการแก้ไขหรือแปล และหาวิธีที่ช่วยแยกให้ชัดเจนยิ่งขึ้นว่า AI เพียงช่วยในการสร้างข้อความ หรือเป็นผู้สร้างข้อความนั้นเอง เราจะปรับแนวทางตามหลักฐาน มาตรฐาน และข้อกำหนดด้านกฎระเบียบที่เปลี่ยนแปลงไป และจะขยายสิทธิ์เข้าถึงเครื่องมือตรวจจับเมื่อเห็นว่าสามารถนำผลลัพธ์ไปตีความได้อย่างเหมาะสมและมีความรับผิดชอบ
ดูข้อมูลเพิ่มเติมได้ที่บทความในศูนย์ช่วยเหลือ(เปิดในหน้าต่างใหม่)
