วิธีสร้างระบบโฆษณาแนวใหม่ของ ChatGPT เพื่อความไว้วางใจของผู้ใช้และความเกี่ยวข้องของโฆษณา

ระบบโฆษณาแบบดั้งเดิมได้รับการออกแบบมาให้ตอบสนองต่อเจตนาของผู้ใช้ที่เกิดขึ้นเป็นครั้งๆ เมื่อผู้ใช้ค้นหาหรือดูบางสิ่งบนโลกออนไลน์ ระบบโฆษณาจะรับคำค้นและการเข้าชมหน้าเว็บเหล่านั้นในรูปแบบเหตุการณ์ แล้วค้นหาโฆษณาที่ตรงกันโดยอิงจากเหตุการณ์ดังกล่าวการสร้างระบบโฆษณาสำหรับ ChatGPT แตกต่างออกไป เพราะเจตนาของผู้ใช้ค่อยๆ ก่อตัวขึ้นระหว่างการสนทนาและเปลี่ยนแปลงไปตลอดการสนทนาหลายรอบ โดยบางครั้งอาจไม่มีจังหวะที่เหมาะสมสำหรับการแสดงโฆษณาเลย เพื่อรองรับรูปแบบใหม่นี้ เราจึงสร้างระบบส่งโฆษณาที่ออกแบบขึ้นโดยเฉพาะ ระบบโฆษณารูปแบบใหม่นี้ใช้ LLM รุ่นล้ำสมัยที่ผ่านการฝึกเพิ่มเติมหลังการฝึกเบื้องต้นตามแนวทางเฉพาะของเรา โดยโมเดลจะเรียกใช้เครื่องมือต่างๆ สำหรับการค้นคืนข้อมูล (เพื่อระบุตัวเลือกที่เหมาะสมที่สุด) การจัดอันดับ (เพื่อคาดการณ์การมีส่วนร่วมของผู้ใช้) การประเมินความเกี่ยวข้อง (เพื่อประเมินประโยชน์ของโฆษณา) และการดำเนินการประมูลเพื่อคัดเลือกโฆษณาขั้นสุดท้ายและกำหนดราคา

ระบบโฆษณาของเราออกแบบมาเพื่อรองรับความซับซ้อนของเป้าหมายที่เปลี่ยนแปลงไปของผู้ใช้ ด้วยการตัดสินใจด้านการออกแบบที่สำคัญ 3 ประการ ได้แก่ 1) การสร้างเซสชันโฆษณาที่เก็บสถานะ ซึ่งหมายความว่าระบบสามารถจดจำข้อมูลข้ามรอบการสนทนาและข้ามบทสนทนาหลายครั้งได้ 2) การใช้ LLM รุ่นล้ำสมัยที่ผ่านการฝึกเพิ่มเติมตามแนวทางเฉพาะของเรา โดยอาศัยสถาปัตยกรรมการเรียกใช้เครื่องมือเพื่อตีความบริบทและเจตนาที่แท้จริงของบทสนทนา แล้วคัดเลือก จัดอันดับ และส่งโฆษณาได้อย่างมีประสิทธิภาพ และ 3) การแยกกระบวนการคัดเลือกโฆษณาออกจากการสร้างคำตอบของ ChatGPT โดยให้ทำงานในบริการแยกต่างหาก เพื่อป้องกันไม่ให้โฆษณามีอิทธิพลต่อคำตอบและรักษาน้ำเสียงที่เป็นกลางของ ChatGPT เราใช้ LLM ที่ผ่านการเทรนเพิ่มเติมเพื่อประสานกระบวนการโฆษณาทั้งหมด โดยกำหนดว่าจะนำเสนอโฆษณาใดในจังหวะที่เหมาะสมจากทั้งรอบสนทนาปัจจุบันและประวัติการสนทนาของผู้ใช้ แม้การสร้างระบบโฆษณาที่ปรับปรุงตัวเองได้เช่นนี้จากศูนย์เคยต้องใช้เวลาหลายปี แต่ ChatGPT Ads มีรายได้ในอัตราที่เมื่อคำนวณเป็นรายปีแล้วแตะ 1 พันล้านดอลลาร์ภายในไม่ถึง 200 วันหลังเปิดตัว และนับตั้งแต่เปิดตัวจนถึงตอนนี้ มีผู้ลงโฆษณามากกว่า 100,000 รายที่ลงโฆษณาบน ChatGPT แล้ว

คำขอโฆษณาแบบเดิมมักเริ่มจากเหตุการณ์ที่ระบุได้ชัดเจน ผู้ใช้ส่งคำค้นหรือเปิดหน้าเว็บ แล้วระบบโฆษณาก็ได้รับคำขอ ระบบประเภทนี้ค่อนข้างเรียบง่าย: ค้นคืนโฆษณาที่อาจเป็นตัวเลือก จัดอันดับ ประมูลเพื่อกำหนดราคาที่เหมาะสมสำหรับโอกาสแสดงโฆษณานั้น แล้วแสดงโฆษณาที่ได้ต่อผู้ใช้ โดยธรรมชาติแล้ว ChatGPT ไม่ได้มีจังหวะที่ชัดเจนเช่นนั้น

ในการสนทนากับ ChatGPT ผู้คนเข้ามาพร้อมเป้าหมาย แทนที่จะเป็นคำค้นที่ต้องการคำตอบเดียว พวกเขาอาจกำลังวางแผนท่องเที่ยว เลือกซอฟต์แวร์สำหรับธุรกิจ ตกแต่งบ้าน หรือเรียนรู้งานอดิเรกใหม่ ทั้งหมดนี้ไม่ได้เกิดขึ้นภายในรอบสนทนาเดียว ระหว่างทาง ChatGPT มักช่วยให้ผู้ใช้เห็นชัดขึ้นว่าสิ่งใดสำคัญ

ตัวอย่างเช่น ทีมวิศวกรรมของเราถาม ChatGPT ว่าควรฝึกซ้อมเพื่อแข่งวิ่งอย่างไร โดยเริ่มบทสนทนาจากคำถามทั่วไปเกี่ยวกับการวิ่ง หลังจากโต้ตอบกันไปหลายรอบ พวกเขาจึงถามถึงรองเท้าที่จะช่วยในการฝึกซ้อม ความหมายเชิงพาณิชย์ของบทสนทนาเปลี่ยนไปเมื่อมีเงื่อนไขเพิ่มเข้ามาทีละข้อ และบริบทเฉพาะบุคคลนี้ก็พัฒนาต่อเนื่องข้ามหลายเซสชัน ระบบที่ลงมือจากข้อความแรกอาจค้นคืนข้อมูลโดยยึดเจตนาที่ผิดไปอย่างสิ้นเชิง ซึ่งอาจทำให้ประสบการณ์ของผู้ใช้แย่ลงและขัดขวางสิ่งที่ผู้ใช้กำลังต้องการ

การสร้างระบบโฆษณาของเราจึงต้องก้าวข้ามสถาปัตยกรรมโฆษณาแบบคำขอ-คำตอบ และสร้างระบบขึ้นใหม่ตั้งแต่ต้น เพื่อค้นหาโอกาสทางเศรษฐกิจที่เป็นไปได้ โดยให้ความสำคัญกับความไว้วางใจและประโยชน์ต่อผู้ใช้เป็นอันดับแรก

หากแปลงทุกข้อความเป็นคำขอแยกกันโดยสมบูรณ์ เช่นเดียวกับระบบโฆษณาแบบดั้งเดิม อาจก่อให้เกิดความเสี่ยงหลายประการในบริบทการสนทนาของเรา ได้แก่ 1) ตีความเป้าหมายของผู้ใช้ผิดพลาด เพราะทำให้เป้าหมายนั้นเรียบง่ายเกินไป 2) เริ่มกระบวนการแสดงโฆษณาเร็วเกินไป ก่อนที่ความต้องการที่แท้จริงของผู้ใช้จะชัดเจน 3) แสดงโฆษณาที่ขัดจังหวะเส้นทางการใช้งานของผู้ใช้ แทนที่จะช่วยสนับสนุนการใช้งาน และ 4) เรียกใช้กระบวนการโฆษณาซ้ำอย่างไม่มีประสิทธิภาพทุกครั้งที่คำขอเปลี่ยนแปลง ทำให้เกิดสิ่งรบกวนและสิ้นเปลืองต้นทุน แทนที่จะออกแบบระบบโดยยึดเหตุการณ์แต่ละรายการเป็นหลัก ระบบโฆษณา (ซึ่งประกอบด้วยการค้นคืนข้อมูล การจัดอันดับ และการส่งโฆษณา) จะรักษาสถานะของเซสชันไว้ กล่าวคือ เซสชันโฆษณาจะทำงานตลอดช่วงเวลาของรอบการสนทนาที่มีสิทธิ์แสดงโฆษณา พร้อมจดจำและปรับปรุงข้อมูลตามบริบทที่เปลี่ยนแปลงไป ChatGPT จะส่งบริบทเริ่มต้นของคำขอไปยังเซิร์ฟเวอร์โฆษณา จากนั้นระบบโฆษณาจะติดตามและปรับตัวตามบทสนทนาที่ค่อยๆ พัฒนาขึ้น แทนที่จะอาศัยคำค้นเพียงชุดเดียวที่ยุบรวมข้อมูลทั้งหมดไว้

กระบวนการคัดเลือกโฆษณาทำงานควบคู่ไปกับกระบวนการสร้างคำตอบตามปกติของ ChatGPT เพื่อให้มั่นใจว่ากระบวนการโฆษณาจะไม่ส่งผลต่อคำตอบของ ChatGPT โฆษณาจะได้รับการคัดกรองและคัดเลือกผ่านระบบแยกต่างหาก ซึ่งประมวลผลบทสนทนาภายใต้ข้อกำหนดของตนเองในด้านคุณสมบัติในการแสดงโฆษณา คุณภาพ และการส่งโฆษณาขอบเขตการแยกส่วนในระดับสถาปัตยกรรมนี้มีความสำคัญอย่างยิ่ง โดยบริการแต่ละส่วนใช้โมเดลและโค้ดแยกจากกัน ทำให้เซิร์ฟเวอร์หลักของ ChatGPT สามารถมุ่งเน้นไปที่การสร้างคำตอบทั่วไปที่ไม่ได้เป็นโฆษณา ขณะเดียวกัน ระบบโฆษณาจะประเมินอย่างเป็นอิสระว่ามีโอกาสที่เหมาะสมในการแสดงโฆษณาหรือไม่ และหากมี ก็จะเตรียมตำแหน่งโฆษณาที่ได้รับการสนับสนุนผ่านกระบวนการแสดงโฆษณาที่แยกต่างหาก

นอกจากการรักษาประสบการณ์ของผู้ใช้แล้ว การแยกระบบเช่นนี้ยังส่งผลในทางปฏิบัติด้วย ChatGPT ไม่ต้องพึ่งพาระบบโฆษณา บริการทั้งสองไม่เชื่อมโยงกันแต่อย่างใด และไม่ได้ใช้โมเดลสร้างเนื้อหาร่วมกัน ดังนั้น หากระบบให้บริการโฆษณาใช้งานไม่ได้หรือทำงานช้า การตอบตามปกติของ ChatGPT ก็จะดำเนินต่อไปโดยไม่ได้รับผลกระทบ นั่นหมายความว่าระบบโฆษณาไม่สามารถทำให้ผลิตภัณฑ์ ChatGPT ล่มหรือทำงานช้าลงได้ การแยกระบบเช่นนี้ยังช่วยรักษามาตรฐานด้านคุณค่าของโฆษณาไว้ในระดับสูงมากด้วย การไม่แสดงโฆษณาถือเป็นผลลัพธ์ปกติที่ประสบความสำเร็จ ระบบจะแสดงโฆษณาก็ต่อเมื่อเห็นได้ชัดว่าเป็นประโยชน์ต่อทั้งผู้ใช้และผู้ลงโฆษณาเท่านั้น

องค์ประกอบสำคัญอีกส่วนในสถาปัตยกรรมระบบโฆษณาของเราคือ LLM ที่ผ่านการเทรนเพิ่มเติม ซึ่งทำหน้าที่ตีความบทสนทนาและดำเนินกระบวนการโฆษณาทั้งหมดผ่านวงจรการทำงานแบบเอเจนต์ โดยเรียกใช้เครื่องมือเพื่อเข้าถึงฟังก์ชันหลักของระบบโฆษณา ตั้งแต่การค้นคืน การจัดอันดับ การประมูล ไปจนถึงการส่งโฆษณาในที่สุด เราเรียก LLM นี้ว่า ตัวประสานงาน

ขั้นแรกของกระบวนการโฆษณาคือการทำความเข้าใจเจตนาของผู้ใช้ เพื่อเริ่มกระบวนการค้นหาโฆษณา ซึ่งเป็นการค้นหาโฆษณาที่อาจเหมาะสมอย่างรวดเร็วและครอบคลุมในวงกว้างโดยตั้งใจ ก่อนนำไปคัดกรองในขั้นตอนถัดไป เมื่อระบบได้รับบทสนทนาทีละส่วน การค้นหาโฆษณาจะมีข้อมูลประกอบมากขึ้น แต่ก็ทำให้การตีความมีความกำกวมมากขึ้นด้วย เพราะระบบโฆษณาต้องแยกแยะให้ได้ว่าเจตนาของผู้ใช้ในปัจจุบันคืออะไร และข้อมูลใดเป็นเพียงบริบทจากบทสนทนาก่อนหน้า ตัวประสานงานจึงต้องตีความการอ้างถึงข้อความก่อนหน้าให้ถูกต้อง เข้าใจเมื่อผู้ใช้กำลังพูดถึงสถานการณ์สมมติ และหลีกเลี่ยงการตีความว่าทุกครั้งที่ผู้ใช้เอ่ยถึงสินค้าหรือบริการ หมายความว่าต้องการซื้อสิ่งนั้น

ตัวประสานงานระบบโฆษณาจะใช้ข้อมูลบทสนทนาและบริบทของผู้ใช้ที่มีอยู่ พร้อมปรับการทำงานแบบวนซ้ำเพื่อค้นหาโฆษณาที่เหมาะสม โดยตัดสินใจซ้ำๆ ว่าควรเรียกใช้เครื่องมือใดและเมื่อใด เป้าหมายหลักคือการค้นหาโฆษณาที่เหมาะกับบทสนทนาและบริบทนั้นมากที่สุด โดยต้องสร้างประโยชน์ที่สูงให้ทั้งผู้ใช้และผู้ลงโฆษณา หากผู้ใช้เลือกปรับแต่งโฆษณาตามความสนใจของตนเอง ตัวประสานงานจะนำข้อมูลที่ไม่ละเอียดอ่อนจากบทสนทนาในอดีตของผู้ใช้ซึ่งมีอยู่มาใช้ประกอบการค้นหาโฆษณาที่ตรงกับความสนใจมากที่สุดด้วย

เมื่อบทสนทนาดำเนินต่อไปและตัวประสานงานระบบโฆษณาได้รับข้อมูลที่อัปเดตมากขึ้น ระบบก็สามารถเรียกใช้เครื่องมือชุดใหม่โดยอาศัยบริบทล่าสุด เพื่อค้นหาโฆษณาที่เหมาะสมยิ่งขึ้นและส่งกลับไปยังระบบของผู้ใช้ ซึ่งสามารถนำโฆษณาใหม่ไปใช้ได้หากได้รับทันเวลา

ตัวประสานงานระบบโฆษณาได้รับการออกแบบให้คำนึงถึงประโยชน์ของทั้งผู้ใช้และผู้ลงโฆษณา โดยให้ความสำคัญกับผู้ใช้เป็นอันดับแรกเสมอ

ระบบโฆษณาประกอบด้วยเครื่องมือแต่ละตัว และตัวประสานงานจะเรียกใช้เครื่องมือเหล่านี้แบบวนซ้ำเพื่อหาโฆษณาที่ดีที่สุดสำหรับบทสนทนา ในภาพรวม ตัวประสานงานจะแปลงบทสนทนาเป็นข้อความสรุปสั้นๆ แล้วแปลงต่อเป็นเวกเตอร์ฝังตัวเชิงความหมาย (การจัดเก็บความหมายในรูปแบบที่ระบบโฆษณาคัดค้นได้ง่ายขึ้น) จากนั้นใช้เวกเตอร์เหล่านี้ค้นคืนโฆษณาที่เป็นตัวเลือก กรองตามเกณฑ์สิทธิ์ในการแสดง (ตามงบประมาณ การตั้งค่าของผู้ใช้ และการตรวจสอบเบื้องต้นอื่นๆ) ประเมินคุณภาพและความเกี่ยวข้อง แล้วจัดอันดับขั้นสุดท้ายเพื่อระบุโอกาสที่มีคุณค่าสูงสำหรับแสดงโฆษณาท้ายคำตอบในแชต ดังนั้น โฆษณาแต่ละรายการจึงต้องผ่านเกณฑ์ที่เข้มงวดทั้งด้านสิทธิ์และความเกี่ยวข้อง จึงจะมีสิทธิ์แสดงได้

LLM ที่ทำหน้าที่เป็นตัวประสานงานระบบโฆษณาจะเริ่มจากการเตรียมคำค้นหนึ่งรายการหรือหลายรายการเพื่อสื่อถึงเจตนาเชิงพาณิชย์ที่เกี่ยวข้อง ซึ่งอาจรวมถึงการเรียบเรียงบริบทจากบทสนทนาใหม่ เพื่อขยายขอบเขตความเป็นไปได้ทางการค้าให้กว้างกว่าการค้นหาด้วยคำค้นแบบหนึ่งต่อหนึ่ง จากนั้นจึงสร้างตัวแทนข้อมูลเชิงความหมาย โดยสรุปบทสนทนาที่มีหลายรอบให้เป็นข้อมูลฉบับย่อสำหรับระบบค้นคืน เพื่อให้สามารถค้นหาโฆษณาจากฐานข้อมูลของเราได้อย่างตรงจุด

การแสดงโฆษณาจะเป็นประโยชน์ต่อทั้งผู้ใช้และผู้ลงโฆษณามากขึ้น หากโฆษณาปรากฏเฉพาะเมื่อระบบเข้าใจเจตนาของผู้ใช้อย่างแท้จริง การใช้คำค้นหลายรายการช่วยรักษาแง่มุมต่างๆ ของเจตนานั้นไว้ได้ ตัวอย่างเช่น บทสนทนาเกี่ยวกับการวางแผนท่องเที่ยวอาจมีความต้องการที่แตกต่างกัน ทั้งเรื่องการเดินทาง ที่พัก และกิจกรรมต่างๆ ระบบค้นคืนจึงสามารถแยกแยะและรักษาความแตกต่างเหล่านี้ไว้ได้ แทนที่จะยุบเนื้อหาทั้งบทสนทนาให้เหลือเพียงข้อความเดียวตามตัวอักษร

ตัวอย่างเช่น ลองพิจารณาลำดับบทสนทนาที่อาจเกิดขึ้นเกี่ยวกับรองเท้าสำหรับเดินป่า ดังนี้

1. ถ้ามีเวลาเที่ยว Yosemite สองวัน ควรไปชมที่ไหนบ้าง

2. สัปดาห์หน้าอากาศจะหนาวไหม

3. สินค้ารุ่นใหม่ของแบรนด์ [ใส่ชื่อแบรนด์] มีอะไรบ้าง

แม้ว่าผู้ใช้จะไม่ได้เชื่อมโยงคำถามเกี่ยวกับแบรนด์รองเท้าเข้ากับทริปเที่ยว Yosemite โดยตรง แต่ระบบโฆษณาของเราอาจแทนบทสนทนานี้ด้วยคำค้นสองชุด เช่น [รองเท้าที่เหมาะกับการเดินป่า] และ [สินค้ารุ่นใหม่ของ [แบรนด์] ที่เหมาะกับการเดินทาง] นี่อาจเป็นเพียงการลองครั้งแรกเท่านั้น เนื่องจากตัวประสานงานระบบโฆษณาได้รับการออกแบบให้ปรับและลองสร้างตัวแทนข้อมูลเหล่านี้ซ้ำไปเรื่อยๆ จนกว่าจะพบโฆษณาในคลังโฆษณาของเราที่เป็นประโยชน์ต่อผู้ใช้ในระดับสูง

การค้นคืน (retrieval) คือกระบวนการรวบรวมตัวเลือกโฆษณาที่อาจเหมาะสมให้ได้อย่างครอบคลุมในวงกว้าง โดยตั้งใจให้มีตัวเลือกหลากหลาย โฆษณาที่นำมาพิจารณาอาจมาจากกลยุทธ์การค้นคืนที่แตกต่างกัน และสามารถแข่งขันกันภายใต้ข้อจำกัดเดียวกันของระบบแสดงโฆษณาในขั้นตอนถัดไปได้เราสร้างดัชนีหลายชุดเพื่อปรับให้เหมาะกับข้อจำกัดด้านระบบและผลิตภัณฑ์ที่แตกต่างกัน (ตัวอย่างเช่น ดัชนีสำหรับโฆษณาจากฟีดสินค้าได้รับการออกแบบให้คำนึงถึงรีวิวสินค้าในเชิงบวกหรือเชิงลบขณะค้นหาโฆษณาที่เหมาะสมที่สุด ขณะที่ข้อมูลรีวิวเหล่านี้ไม่เกี่ยวข้องกับโฆษณาประเภทอื่นที่อาจไม่มีรีวิวประกอบ)ดัชนีแต่ละชุดได้รับการปรับให้เหมาะกับการค้นหาเพื่อนบ้านที่ใกล้เคียงที่สุดโดยประมาณ (approximate-nearest-neighbor หรือ ANN) ในรูปแบบที่สอดคล้องกับวัตถุประสงค์เฉพาะ โดยใช้เวกเตอร์ฝังที่แทนเจตนาของผู้ใช้ การค้นหาแบบ ANN เป็นอัลกอริทึมที่ใช้ค้นคืนข้อมูลจากดัชนีเชิงความหมายขนาดใหญ่ด้วยวิธีประมาณค่า จึงสามารถค้นหาโฆษณาได้อย่างรวดเร็ว โดยมุ่งหาผลลัพธ์ที่ดีในเวลาอันสั้น แทนการค้นหาคำตอบที่ดีที่สุดอย่างสมบูรณ์แบบ ทั้งยังคงโฆษณาส่วนใหญ่ที่เกี่ยวข้องไว้ในผลลัพธ์

การคัดกรองมีเป้าหมายเพื่อนำโฆษณาที่ไม่ผ่านเกณฑ์การแสดงออกจากการพิจารณา โดยพิจารณาจากความเกี่ยวข้อง ราคาเสนอประมูล และงบประมาณ การตรวจสอบที่ใช้จะขึ้นอยู่กับประเภทของโฆษณาและการตั้งค่าระบบ ซึ่งอาจรวมถึงความพร้อมใช้งานของชิ้นงานโฆษณาและแคมเปญ (แคมเปญหรือชิ้นงานโฆษณายังทำงานอยู่หรือไม่) การกำหนดเป้าหมายของแคมเปญ (เช่น พื้นที่หรือภาษาที่แคมเปญได้รับอนุญาตให้แสดงโฆษณา) ข้อจำกัดตามนโยบาย (ข้อกำหนดในการปฏิบัติตามกฎเกี่ยวกับสิ่งที่โฆษณาได้) ความพร้อมของงบประมาณ (แคมเปญยังมีงบประมาณเหลือสำหรับใช้จ่ายหรือไม่) การควบคุมจังหวะการใช้จ่าย (แคมเปญควรใช้งบประมาณในขณะนั้นหรือในช่วงเวลาอื่นของวัน) ความเข้ากันได้กับตำแหน่งโฆษณา (โฆษณานั้นสามารถแสดงในบทสนทนาประเภทใดได้บ้าง) และการตัดโฆษณาซ้ำในระดับผู้ลงโฆษณาและแคมเปญ (การกำหนดจำนวนโฆษณาที่เหมาะสมจากผู้ลงโฆษณาแต่ละราย เพื่อให้ธุรกิจต่างๆ มีส่วนร่วมอย่างเป็นธรรม)

ตัวเลือกที่ผ่านการตรวจสอบสิทธิ์จะเข้าสู่ขั้นตอนให้คะแนน โดยตัวประสานงานจะเรียกใช้เครื่องมือจากระบบให้คะแนนต่างๆ เพื่อพิจารณาการให้บริการโฆษณา เช่น ความเกี่ยวข้องเชิงความหมาย (โฆษณาเกี่ยวข้องกับเป้าหมายของผู้ใช้หรือไม่) การมีส่วนร่วม (engagement) ที่คาดการณ์ไว้ (โฆษณามีแนวโน้มจะถูกดู คลิก และนำไปสู่ผลลัพธ์ที่ผู้ลงโฆษณาต้องการหรือไม่) และประสิทธิภาพในอดีต (โฆษณาได้ผลดีหรือไม่จากการแสดงต่อผู้ใช้จนถึงตอนนี้) ตัวประสานงานยังกรองโฆษณาเพื่อให้แน่ใจว่าเกี่ยวข้องและปลอดภัยก่อนเข้าสู่การประมูลด้วย ระบบเหล่านี้คัดตัวเลือกให้เหลือกลุ่มเล็กลงที่พร้อมเข้าสู่การประมูล แต่ยังไม่ได้ตัดสินว่าโฆษณาใดจะถูกส่งในท้ายที่สุด

ตัวประสานงานจะประเมินตัวเลือกที่เตรียมไว้ตามบริบทของบทสนทนา แล้วเลือกโฆษณาที่มีความเหมาะสมมากพอจะเข้าสู่การประมูลรอบสุดท้าย ตัวประสานงานไม่ได้ตัดสินโดยตรงว่าจะให้บริการโฆษณาใด และไม่ได้เป็นผู้กำหนดราคา หน้าที่ของมันคือเสนอตัวเลือกที่เหมาะกับบริบทให้เครื่องมือประมูลประเมิน

การประมูลจะใช้กลไกขั้นสุดท้ายในการให้บริการโฆษณา ได้แก่ การรับเข้าประมูล (ผ่านเกณฑ์ขั้นต่ำด้านความเกี่ยวข้องและคุณค่า) การควบคุมจังหวะการใช้จ่ายงบประมาณ (กระจายการใช้งบโฆษณาให้สม่ำเสมอขึ้น) การคำนวณราคาเสนอและตัวแปรในการประมูล การจัดอันดับโดยปรับตามคุณภาพ การกำหนดราคา และการคัดเลือกโฆษณาขั้นสุดท้าย

หลังการประมูล โฆษณาอาจไม่ถูกแสดงได้ด้วยเหตุผล สองประการ ซึ่งทั้งสองประการเป็นลักษณะเฉพาะของ ChatGPT ในฐานะแพลตฟอร์มการสนทนา

1. โฆษณาอาจดูไม่เหมาะสมกับบทสนทนา: แม้ว่าระบบโมเดลด้านความปลอดภัยและความน่าเชื่อถือ (โมเดลที่ตัดสินว่าเมื่อใดควรให้บริการโฆษณา) จะประเมินว่าบทสนทนาปลอดภัยสำหรับการแสดงโฆษณา และตัวโฆษณาเองก็ผ่านนโยบายแล้ว แต่บางครั้งโฆษณาอาจยังดูไม่เหมาะสมในบริบทของบางบทสนทนา ตัวประสานงานจะป้องกันไม่ให้โฆษณาเหล่านี้แสดง

2. คำขอโฆษณาอาจมาไม่ทันเวลา: หากโมเดล ChatGPT พร้อมตอบแล้ว แต่โฆษณายังไม่พร้อมแสดง คำขอโฆษณาจะหมดเวลาและโฆษณาจะไม่ถูกส่ง ดังนั้น เป้าหมายหนึ่งของระบบโฆษณาคือการทำงานให้เร็วที่สุดเท่าที่จะทำได้ เวลาในการตอบของโมเดล ChatGPT เปลี่ยนแปลงได้ และเราจะไม่ชะลอคำตอบในแชตเพื่อรอให้โฆษณาโหลดเสร็จ

หากผ่านการตรวจสอบทั้งหมดข้างต้นแล้ว เราจะส่งโฆษณาไปยังส่วนหน้าของระบบเพื่อเรนเดอร์ เราถือว่านี่คือการส่งโฆษณาจากฝั่งเซิร์ฟเวอร์ แต่โฆษณานั้นอาจยังไม่แสดงต่อผู้ใช้ ซึ่งเป็นสิ่งที่เราตั้งใจออกแบบไว้

ในผลิตภัณฑ์ที่ทำงานผ่านการสนทนาอย่าง ChatGPT การส่งชิ้นงานโฆษณาจากฝั่งเซิร์ฟเวอร์ไม่ได้รับประกันว่าโฆษณาจะปรากฏให้ผู้ใช้เห็น เพราะโฆษณาต้องมาถึงทันเวลาเพื่อแสดงในรอบการสนทนาปัจจุบันด้วย ชิ้นงานโฆษณาประกอบด้วยชื่อโฆษณา คำอธิบาย ลิงก์ปลายทาง และข้อความกระตุ้นให้ดำเนินการ นอกจากนี้ ระบบโฆษณายังส่งข้อความเกริ่นนำที่สร้างโดยโมเดล ซึ่งเป็นข้อความสั้นๆ ที่เป็นกลางและอธิบายว่าโฆษณาเกี่ยวข้องกับบทสนทนาอย่างไร การแยกข้อความเกริ่นนำออกจากชิ้นงานโฆษณาช่วยรักษาข้อความของผู้ลงโฆษณาไว้ ขณะเดียวกันก็ทำให้ ChatGPT ยังคงใช้น้ำเสียงที่เป็นกลาง

ระบบส่วนหน้าของ ChatGPT จะได้รับข้อความเกริ่นนำและชิ้นงานโฆษณามาเป็นชุดเดียวกัน หากข้อมูลนี้มาถึงก่อนที่ ChatGPT จะสร้างคำตอบเสร็จสมบูรณ์ ระบบส่วนหน้าจะแสดงโฆษณาไว้ใต้คำตอบของ ChatGPT พร้อมระบุอย่างชัดเจนว่าเป็นโฆษณาที่ได้รับการสนับสนุน แต่หากข้อมูลมาถึงช้าเกินไป โฆษณาจะไม่ปรากฏในการสนทนารอบนั้น นี่คือความแตกต่างระหว่างการส่งโฆษณาจากฝั่งเซิร์ฟเวอร์กับการแสดงผลโฆษณาที่ผู้ใช้มองเห็นจริง

ระบบโฆษณาของเราใช้การบันทึกข้อมูลและไปป์ไลน์ข้อมูลแบบดั้งเดิม ซึ่งมีประโยชน์หลัก 3 ประการ ได้แก่ ผู้ลงโฆษณาสามารถผสานรวมระบบที่ใช้อยู่เดิมเข้ากับระบบของเราได้ง่ายขึ้น ผู้ลงโฆษณาสามารถนำข้อมูลจากรายงานไปปรับปรุงกลยุทธ์ของตน และทีมงานของเราสามารถระบุส่วนต่างๆ ของระบบที่ควรปรับปรุงได้ นอกเหนือจากเครื่องมือสำหรับการรายงานและการเพิ่มประสิทธิภาพเหล่านี้แล้ว เรายังนำโมเดลคุณภาพสูงมาใช้ประเมินการส่งโฆษณาและฝึกโมเดลโฆษณาอื่นๆ เพื่อสร้างวงจรการพัฒนาตนเองที่ทรงประสิทธิภาพ

รายละเอียดแยกย่อยของสิ่งที่เกิดขึ้นช่วยให้เราเข้าใจและปรับปรุงแต่ละส่วนของระบบโฆษณาได้อย่างเป็นอิสระ นอกจากนี้ ระบบประมวลผลบันทึกข้อมูลยังบันทึกผลลัพธ์ในระดับรายละเอียด เช่น:

• รอบการสนทนานี้ไม่มีสิทธิ์แสดงโฆษณา

• เซสชันโฆษณาเริ่มขึ้น แต่ไม่มีการร้องขอให้ค้นคืนข้อมูล

• การค้นคืนข้อมูลไม่พบโฆษณาที่เข้าข่าย

• ระบบค้นคืนโฆษณาที่อาจเหมาะสมได้แล้ว แต่โฆษณาเหล่านั้นไม่ผ่านขั้นตอนการดึงข้อมูลให้ครบถ้วน หรือการตรวจสอบคุณสมบัติ

• มีการส่งโฆษณาแล้ว และต่อมามีการโต้ตอบกับโฆษณานั้น

รายละเอียดแยกย่อยเหล่านี้ช่วยให้เราปรับปรุงแต่ละส่วนของระบบแสดงโฆษณาได้อย่างเป็นอิสระ การปรับปรุงการตรวจจับโอกาสในการแสดงโฆษณาต้องอาศัยหลักฐานที่แตกต่างจากการปรับปรุงการค้นคืนข้อมูล คุณภาพของโฆษณาที่เป็นตัวเลือก การเข้าร่วมการประมูล หรือความน่าเชื่อถือในการส่งโฆษณา

แนวคิดเบื้องหลังการประเมินด้วยโมเดลคือ ให้โมเดลที่เก่งที่สุดและมีความสามารถด้านการให้เหตุผลสูงที่สุดของเราสังเกตและตัดสินผลลัพธ์ของระบบ จากนั้นปรับปรุง LLM ที่ผ่านการเทรนเพิ่มเติมด้วยการเทรนให้ทำงานได้ดียิ่งขึ้น ตัวอย่างเช่น เราสามารถใช้โมเดลที่เล็กกว่าและมีประสิทธิภาพการใช้ทรัพยากรสูงกว่า หรือโมเดลที่ใช้การให้เหตุผลน้อยกว่า เพื่อประสานงานหรือค้นคืนได้ โดยให้โมเดลที่ทรงพลังที่สุดของเราคอยรวบรวมข้อเสนอแนะและเทรนโมเดลเล็กเหล่านี้ให้ทำงานได้ดีที่สุด

เราเก็บรวบรวมและนำข้อเสนอแนะจากมนุษย์มาใช้ปรับปรุงระบบ (การคลิกโฆษณาหรือการซ่อนโฆษณาของผู้ใช้) รวมถึงผลสำรวจจากผู้ใช้และข้อเสนอแนะโดยตรงจากผู้ลงโฆษณาผ่าน Ads Manager นอกจากนี้ เรายังเปิดโอกาสให้ทีมงานของเราแสดงความคิดเห็นในระหว่างการพัฒนาระบบ และรับฟังโดยตรงว่าทั้งผู้ใช้ ChatGPT และผู้ลงโฆษณาต้องการอะไร ข้อเสนอแนะเหล่านี้มีอิทธิพลต่อการกำหนดทิศทางของเรามากกว่าข้อมูลป้อนกลับจากการสังเกตของโมเดลเสียอีก และเป็นส่วนสำคัญที่ช่วยให้เราปรับปรุงและตัดสินใจเลือกแนวทางการพัฒนาผลิตภัณฑ์ที่เหมาะสมได้อย่างรวดเร็ว โมเดลอาจเข้าใจเจตนาของผู้ใช้และคิดวิเคราะห์อย่างมีวิจารณญาณเพื่อสร้างสิ่งที่เป็นประโยชน์ได้ แต่รสนิยมและความเหมาะสมยังคงเป็นสิ่งที่มนุษย์ช่วยกำหนด

เมื่อหนึ่งปีก่อน เรายังไม่มีระบบโฆษณา และมีเพียงไม่กี่คนที่กำลังคิดเรื่องโจทย์นี้ ตอนนี้เรามีระบบโฆษณาที่แข็งแกร่ง สร้างรายได้ในอัตราที่เมื่อคำนวณเป็นรายปีแล้วสูงกว่า 1 พันล้านดอลลาร์ โดยมีตัวประสานงานที่ใช้ LLM ดำเนินกระบวนการโฆษณา Codex เป็นกำลังสำคัญที่ช่วยทวีศักยภาพของเรา ทำให้เราสร้างระบบจากจุดเริ่มต้นจนบรรลุเป้าหมายสำคัญด้านการใช้งานนี้ได้อย่างรวดเร็วอย่างที่ไม่เคยมีมาก่อน ตั้งแต่แรก เราจัดทีมและเวิร์กโฟลว์การพัฒนาให้ใช้ Codex เพื่อสร้างและขยายระบบอย่างรวดเร็ว เราสร้างกลไกกำกับดูแลให้ Codex นำโค้ดไปใช้งานจริงได้อย่างน่าเชื่อถือและปลอดภัย ควบคู่กันนั้น เราติดตั้งปลั๊กอินโครงสร้างพื้นฐานข้อมูลให้ Codex เพื่อย่นวงจรตั้งแต่การรวบรวมข้อมูลเชิงลึกไปจนถึงการนำการปรับปรุงเข้าสู่ระบบให้สั้นลงอย่างมาก ครอบคลุมทั้งฟีเจอร์ผลิตภัณฑ์ใหม่ การยกระดับคุณภาพ และประสิทธิภาพระบบที่ดีขึ้น

ขอบเขตการทำงานของระบบเรา (ซึ่งยึดตามหลักการโฆษณา⁠ของเรา) เมื่อผสานกับตัวประสานงานที่ใช้ LLM ทำให้เราสามารถสร้างโฆษณาที่มีประโยชน์ได้ โดยไม่มองว่าทุกบทสนทนาเป็นคำขอโฆษณา ต่อจากนี้ เราจะทดลองรูปแบบโฆษณาที่ยืดหยุ่นและโต้ตอบได้มากขึ้นต่อไป เพื่อเพิ่มประโยชน์ให้แก่ผู้ใช้ (เช่น เปิดโอกาสให้ผู้ใช้พูดคุยกับธุรกิจได้โดยตรงผ่านโฆษณา) และเพิ่มประโยชน์ให้แก่ผู้ลงโฆษณา สถาปัตยกรรมของระบบโฆษณาที่สามารถพัฒนาตนเองได้ ซึ่งสร้างขึ้นบนโมเดลของ OpenAI และมีกลไกป้อนกลับอย่างต่อเนื่อง จะช่วยเร่งความสามารถในการปรับปรุงความเกี่ยวข้องของโฆษณาและการปรับแต่งให้เหมาะกับผู้ใช้แต่ละรายให้ดียิ่งขึ้นเมื่อเวลาผ่านไป