Cách chúng tôi xây hệ thống quảng cáo ChatGPT mới, phù hợp và giữ vững niềm tin người dùng

Các hệ thống quảng cáo truyền thống được xây dựng để phản ứng với từng biểu hiện riêng lẻ của ý định người dùng. Khi người dùng tìm kiếm hoặc xem nội dung trên mạng, hệ thống quảng cáo tiếp nhận các truy vấn và lượt xem trang đó dưới dạng sự kiện, rồi tìm quảng cáo phù hợp dựa trên những sự kiện ấy. Việc xây dựng hệ thống công nghệ quảng cáo cho ChatGPT lại khác: ý định của người dùng phát triển qua các cuộc trò chuyện và thay đổi qua nhiều lượt trao đổi, đôi khi không có thời điểm nào phù hợp để quảng cáo xuất hiện. Để hỗ trợ mô hình tương tác mới này, chúng tôi xây dựng một hệ thống phân phối quảng cáo chuyên biệt. Hệ thống quảng cáo kiểu mới này dựa trên một LLM tiên phong tùy chỉnh, sau huấn luyện, thực hiện các lệnh gọi công cụ để truy xuất (xác định lựa chọn hàng đầu), xếp hạng (dự đoán tương tác của người dùng), đánh giá mức độ liên quan (xem quảng cáo hữu ích đến đâu), và tiến hành đấu giá để lựa chọn, định giá quảng cáo cuối cùng.

Hệ thống quảng cáo của chúng tôi đáp ứng những thay đổi tinh tế trong mục tiêu của người dùng nhờ ba quyết định thiết kế chính: 1) triển khai phiên quảng cáo có trạng thái, tức là ghi nhớ thông tin qua các lượt trao đổi và nhiều cuộc trò chuyện; 2) sử dụng LLM tùy chỉnh, sau huấn luyện với kiến trúc gọi công cụ để diễn giải ngữ cảnh và ý định sâu xa của cuộc trò chuyện, từ đó lựa chọn, xếp hạng và phân phối quảng cáo hiệu quả; 3) vận hành quy trình chọn quảng cáo trong một dịch vụ riêng, tách biệt với quá trình tạo câu trả lời của ChatGPT, để quảng cáo không tác động đến câu trả lời và ChatGPT giữ được giọng điệu trung lập. Chúng tôi dùng LLM sau huấn luyện để điều phối toàn bộ quy trình quảng cáo, xác định quảng cáo phù hợp để hiển thị đúng lúc dựa trên cả lượt trao đổi hiện tại lẫn lịch sử trò chuyện của người dùng. Trước đây, xây dựng từ đầu một hệ thống quảng cáo tự cải thiện như vậy thường mất nhiều năm, nhưng Quảng cáo ChatGPT đã đạt mức doanh thu quy đổi theo năm 1 tỷ USD chưa đầy 200 ngày sau khi ra mắt. Đến nay, hơn 100.000 nhà quảng cáo đã chạy quảng cáo trên ChatGPT kể từ khi ra mắt.

Một yêu cầu quảng cáo thông thường bắt đầu bằng một sự kiện được xác định rõ. Người dùng gửi truy vấn tìm kiếm hoặc mở trang web, và hệ thống quảng cáo nhận được yêu cầu. Loại hệ thống này khá đơn giản: truy xuất các quảng cáo ứng viên tiềm năng, xếp hạng, tiến hành đấu giá để định giá hợp lý cho cơ hội hiển thị, rồi đưa quảng cáo được chọn đến người dùng. Bản chất hoạt động của ChatGPT không tạo ra một thời điểm cụ thể như vậy.

Trong cuộc trò chuyện với ChatGPT, mọi người mang theo mục tiêu, chứ không chỉ một truy vấn tìm kiếm cần một câu trả lời. Họ có thể đang lên kế hoạch du lịch, chọn phần mềm cho doanh nghiệp, sắm nội thất cho nhà hoặc tìm hiểu một thú vui mới. Những việc này không diễn ra trọn vẹn trong một lượt trao đổi. Trong quá trình đó, ChatGPT thường giúp người dùng làm rõ điều gì là quan trọng.

Ví dụ, đội ngũ kỹ thuật của chúng tôi đã hỏi ChatGPT cách tập luyện cho một cuộc đua: cuộc trò chuyện bắt đầu bằng một câu hỏi chung về chạy bộ. Sau vài lượt trao đổi, họ hỏi về giày hỗ trợ tập luyện. Ý nghĩa thương mại của cuộc trò chuyện thay đổi mỗi khi có thêm điều kiện mới — và ngữ cảnh cá nhân hóa này tiếp tục phát triển qua nhiều phiên. Một hệ thống hành động ngay từ tin nhắn đầu tiên có thể truy xuất theo ý định hoàn toàn sai, làm giảm chất lượng trải nghiệm và gây cản trở cho người dùng.

Để xây dựng hệ thống quảng cáo, chúng tôi phải vượt ra ngoài kiến trúc quảng cáo yêu cầu–phản hồi và phát triển hệ thống từ đầu, nhằm tìm cơ hội kinh tế tiềm năng trong khi ưu tiên niềm tin và giá trị cho người dùng.

Nếu biến mỗi tin nhắn thành một yêu cầu độc lập như hệ thống quảng cáo truyền thống, chúng tôi sẽ gặp một số rủi ro trong trải nghiệm trò chuyện: 1) hiểu sai mục tiêu người dùng do đơn giản hóa quá mức; 2) bắt đầu quy trình quảng cáo quá sớm, khi nhu cầu thực chưa rõ; 3) hiển thị quảng cáo cản trở thay vì hỗ trợ hành trình của người dùng; 4) chạy lại quy trình quảng cáo một cách thiếu hiệu quả mỗi khi yêu cầu thay đổi, gây nhiễu và lãng phí chi phí. Thay vì vận hành quanh các sự kiện riêng lẻ, hệ thống quảng cáo (gồm truy xuất, xếp hạng và phân phối) duy trì một phiên có trạng thái. Nghĩa là phiên quảng cáo chạy trong suốt một lượt trao đổi đủ điều kiện, ghi nhớ và cập nhật thông tin khi có thay đổi. ChatGPT gửi ngữ cảnh yêu cầu ban đầu đến máy chủ quảng cáo. Hệ thống quảng cáo theo dõi và thích ứng với diễn biến trao đổi, thay vì dựa vào một truy vấn duy nhất đã bị giản lược.

Quá trình chọn quảng cáo chạy song song với quá trình tạo phản hồi thông thường của ChatGPT, bảo đảm quy trình quảng cáo không tác động đến phản hồi của ChatGPT. Quảng cáo được lọc và lựa chọn thông qua một hệ thống riêng tiếp nhận cuộc trò chuyện, áp dụng các ràng buộc riêng về điều kiện, chất lượng và phân phối. Ranh giới kiến trúc quan trọng này — các dịch vụ khác nhau dùng mô hình và mã riêng — cho phép máy chủ cốt lõi của ChatGPT đảm nhiệm việc tạo phản hồi không chịu tác động của quảng cáo. Trong khi đó, hệ thống quảng cáo đánh giá độc lập xem có cơ hội quảng cáo phù hợp hay không; nếu có, hệ thống chuẩn bị vị trí tài trợ thông qua một quy trình phân phát riêng.

Ngoài việc bảo vệ trải nghiệm người dùng, sự tách biệt này còn mang lại một số lợi ích thực tiễn. ChatGPT không phụ thuộc vào hệ thống quảng cáo — các dịch vụ hoàn toàn độc lập và không dùng chung mô hình tạo nội dung. Vì vậy, nếu hệ thống phân phát quảng cáo không hoạt động hoặc bị chậm, phản hồi không chịu tác động của quảng cáo từ ChatGPT vẫn tiếp tục mà không bị ảnh hưởng. Điều này có nghĩa là hệ thống quảng cáo không thể khiến sản phẩm ChatGPT ngừng hoạt động hoặc bị chậm. Một lợi ích khác của sự tách biệt này là duy trì tiêu chuẩn rất cao về giá trị mà quảng cáo mang lại. Không trả về quảng cáo nào cũng là một kết quả bình thường và thành công. Hệ thống chỉ phân phối quảng cáo khi quảng cáo đó rõ ràng có lợi cho cả người dùng lẫn nhà quảng cáo.

Thành phần kiến trúc quan trọng còn lại trong hệ thống công nghệ quảng cáo của chúng tôi là LLM sau huấn luyện, có nhiệm vụ diễn giải cuộc trò chuyện và vận hành toàn bộ quy trình quảng cáo theo một vòng lặp tác tử — gọi công cụ để thực hiện các chức năng cốt lõi của hệ thống quảng cáo, từ truy xuất, xếp hạng đến đấu giá và cuối cùng là phân phối. Chúng tôi gọi LLM này là bộ điều phối.

Phần đầu tiên của quy trình quảng cáo là hiểu ý định của người dùng để bắt đầu truy xuất: nhanh chóng tìm quảng cáo tiềm năng trên phạm vi có chủ đích mở rộng, rồi lọc ở các bước sau. Việc tiếp nhận cuộc trò chuyện theo từng phần khiến bài toán truy xuất có thêm thông tin nhưng cũng mơ hồ hơn, vì hệ thống quảng cáo cần phân biệt ý định hiện tại với ngữ cảnh không còn phù hợp. Bộ điều phối phải hiểu các tham chiếu đến tin nhắn trước đó, nhận biết khi người dùng đang đưa ra giả định và tránh coi mọi lần nhắc đến sản phẩm hoặc dịch vụ đều là yêu cầu mua hàng.

Bộ điều phối quảng cáo sử dụng cuộc trò chuyện và ngữ cảnh người dùng hiện có, lặp lại quá trình tìm quảng cáo tốt và liên tục quyết định gọi công cụ nào, vào lúc nào. Mục tiêu xuyên suốt là tìm quảng cáo phù hợp nhất với cuộc trò chuyện và ngữ cảnh đó — quảng cáo cân bằng được giá trị cao cho cả người dùng lẫn nhà quảng cáo. Nếu người dùng chọn cá nhân hóa quảng cáo, bộ điều phối cũng xem xét thông tin không nhạy cảm hiện có về các cuộc trò chuyện trước đây của họ để tìm quảng cáo phù hợp nhất.

Khi cuộc trò chuyện tiếp diễn và bộ điều phối quảng cáo nhận thêm thông tin cập nhật, bộ điều phối có thể thực hiện một loạt lệnh gọi công cụ mới với ngữ cảnh đã cập nhật để tìm quảng cáo tốt hơn rồi trả về ứng dụng phía người dùng. Ứng dụng có thể dùng các quảng cáo mới này nếu nhận được kịp thời.

Bộ điều phối được thiết kế để cân bằng giá trị cho người dùng và nhà quảng cáo, luôn đặt người dùng lên hàng đầu.

Hệ thống quảng cáo gồm các công cụ riêng lẻ, được bộ điều phối gọi theo vòng lặp để tìm quảng cáo tốt nhất cho một cuộc trò chuyện. Về tổng thể, bộ điều phối chuyển cuộc trò chuyện thành các bản tóm tắt ngắn, rồi chuyển chúng thành vector nhúng ngữ nghĩa (biểu diễn ý nghĩa được lưu trữ để hệ thống quảng cáo dễ tìm lọc hơn). Hệ thống dùng các vector này để truy xuất quảng cáo ứng viên, lọc theo điều kiện (dựa trên ngân sách, cài đặt của người dùng và các bước kiểm tra sơ bộ khác), đánh giá chất lượng và mức độ liên quan, rồi xếp hạng lần cuối để xác định những cơ hội có giá trị cao cho việc đặt quảng cáo ở cuối phản hồi trò chuyện. Vì vậy, mỗi quảng cáo phải đáp ứng tiêu chuẩn cao về điều kiện và mức độ liên quan thì mới được phép hiển thị.

Trước tiên, LLM điều phối chuẩn bị một hoặc nhiều truy vấn thể hiện ý định thương mại liên quan. Bước này có thể bao gồm việc viết lại ngữ cảnh cuộc trò chuyện để mở rộng các khả năng thương mại, thay vì chỉ dùng truy vấn tìm kiếm tương ứng 1:1, rồi tạo các biểu diễn ngữ nghĩa. Bộ điều phối cô đọng cuộc trò chuyện nhiều lượt thành bản tóm tắt cho hệ thống truy xuất, giúp tìm quảng cáo trong cơ sở dữ liệu của chúng tôi một cách có trọng tâm.

Việc đặt quảng cáo sẽ có lợi hơn cho cả người dùng lẫn nhà quảng cáo nếu quảng cáo chỉ xuất hiện khi hệ thống đã hiểu sâu ý định của người dùng. Nhiều truy vấn có thể giữ lại các khía cạnh khác nhau trong ý định của người dùng. Ví dụ, một cuộc trò chuyện về việc lên kế hoạch du lịch có thể chứa những nhu cầu riêng về đi lại, lưu trú hoặc hoạt động. Hệ thống truy xuất có thể giữ lại những khác biệt này thay vì nén toàn bộ cuộc trò chuyện thành một chuỗi văn bản duy nhất theo nghĩa đen.

Ví dụ, hãy xem một chuỗi trao đổi có thể dẫn đến chủ đề giày đi bộ đường dài:

1. Tôi đi leo núi 2 ngày thì cần mang gì theo?

2. Tuần sau có lạnh không?

3. [insert brand] có dòng sản phẩm gì mới?

Dù người dùng chưa liên hệ câu hỏi về thương hiệu giày với chuyến đi leo núi, cuộc trò chuyện này có thể được biểu diễn trong hệ thống quảng cáo bằng hai truy vấn, chẳng hạn như [giày để leo núi] và [dòng sản phẩm mới của hãng [brand] phù hợp để đi du lịch]. Đây có thể mới chỉ là lần thử đầu tiên; bộ điều phối được thiết kế để liên tục điều chỉnh các biểu diễn này cho đến khi tìm được quảng cáo trong kho có giá trị cao với người dùng.

Truy xuất là quá trình tạo ra một tập lựa chọn quảng cáo có phạm vi rộng theo chủ đích. Các ứng viên có thể đến từ nhiều chiến lược truy xuất và sau đó cạnh tranh theo cùng các ràng buộc về phân phát. Chúng tôi xây dựng nhiều chỉ mục, tối ưu cho các ràng buộc khác nhau của hệ thống và sản phẩm. Ví dụ, chỉ mục cho quảng cáo từ nguồn cấp sản phẩm được thiết kế để xét đến đánh giá tích cực hoặc tiêu cực về sản phẩm khi tìm quảng cáo tốt nhất có thể. Điều này không áp dụng cho những quảng cáo khác có thể không đi kèm đánh giá. Mỗi chỉ mục được tối ưu cho một biến thể của phương pháp tìm kiếm láng giềng gần nhất xấp xỉ (ANN), sử dụng vector nhúng biểu diễn ý định của người dùng. Tìm kiếm ANN này là thuật toán xấp xỉ để truy xuất trên các chỉ mục ngữ nghĩa lớn. Nhờ đó, quảng cáo được tìm rất nhanh: thuật toán tiến gần đến một lời giải tốt thay vì tìm lời giải “đúng”, đồng thời vẫn giữ lại phần lớn ứng viên liên quan.

Mục tiêu của bước lọc là loại khỏi diện xem xét mọi quảng cáo ứng viên không đạt tiêu chuẩn hiển thị về mức độ liên quan, giá thầu và ngân sách. Tùy ứng viên và cấu hình, các bước kiểm tra có thể bao gồm: trạng thái của mẫu quảng cáo và chiến dịch (có đang hoạt động hay không), nhắm mục tiêu của chiến dịch (chẳng hạn chiến dịch được phép hoạt động ở khu vực/ngôn ngữ nào), hạn chế theo chính sách (yêu cầu tuân thủ về nội dung được phép quảng cáo), ngân sách khả dụng (chiến dịch còn ngân sách để chi tiêu hay không), nhịp chi tiêu (nên chi ngân sách ngay hay vào thời điểm khác trong ngày), tính tương thích của vị trí quảng cáo (quảng cáo được phép xuất hiện trong loại cuộc trò chuyện nào), và loại trùng ở cấp nhà quảng cáo và chiến dịch (chọn số lượng quảng cáo phù hợp cho mỗi nhà quảng cáo để bảo đảm các doanh nghiệp được tham gia công bằng).

Các ứng viên vượt qua bước kiểm tra điều kiện sẽ chuyển sang giai đoạn chấm điểm. Tại đây, bộ điều phối gọi công cụ đến nhiều hệ thống chấm điểm để xét các yếu tố phục vụ việc phân phát: mức độ liên quan về ngữ nghĩa (quảng cáo có liên quan đến mục tiêu của người dùng không?), tương tác dự đoán (quảng cáo có khả năng được xem, nhấp và chuyển đổi thành kết quả nhà quảng cáo mong muốn không?), và hiệu quả trước đây (quảng cáo đã hoạt động tốt khi hiển thị cho người dùng hay chưa?). Bộ điều phối cũng lọc quảng cáo để bảo đảm mức độ liên quan và an toàn trước khi đấu giá. Các hệ thống này thu hẹp lựa chọn thành một tập ứng viên nhỏ hơn, sẵn sàng đấu giá, nhưng vẫn chưa quyết định quảng cáo cuối cùng được phân phối.

Bộ điều phối đánh giá các ứng viên đã chuẩn bị trong ngữ cảnh cuộc trò chuyện, rồi chọn những quảng cáo đủ phù hợp để tham gia phiên đấu giá cuối cùng. Bộ điều phối không trực tiếp quyết định quảng cáo nào sẽ được phân phát, cũng không đặt giá. Bộ điều phối đề cử các ứng viên phù hợp với ngữ cảnh để công cụ đấu giá đánh giá.

Phiên đấu giá áp dụng các cơ chế phân phát cuối cùng, gồm điều kiện tham gia đấu giá (vượt ngưỡng tối thiểu về mức độ liên quan và giá trị), điều tiết nhịp chi tiêu (chi ngân sách quảng cáo đều hơn), tính toán giá thầu và đặc trưng đấu giá, xếp hạng có điều chỉnh theo chất lượng, định giá và lựa chọn cuối cùng.

Sau đấu giá, quảng cáo vẫn có thể không được phân phối vì hai lý do, đều đặc thù với hình thức trò chuyện của ChatGPT.

1. Quảng cáo có thể gây cảm giác không phù hợp trong cuộc trò chuyện: Dù cuộc trò chuyện đã được các mô hình bảo đảm tính toàn vẹn (những mô hình quyết định khi nào nên phân phát quảng cáo) đánh giá là an toàn để đặt quảng cáo, và bản thân quảng cáo được xác định là tuân thủ chính sách, đôi khi quảng cáo vẫn có thể gây cảm giác không phù hợp trong ngữ cảnh của một số cuộc trò chuyện. Bộ điều phối chặn không cho các quảng cáo này hiển thị.

2. Yêu cầu quảng cáo có thể không được đáp ứng kịp thời: Nếu mô hình ChatGPT đã sẵn sàng phản hồi nhưng quảng cáo chưa sẵn sàng hiển thị, yêu cầu quảng cáo sẽ hết thời gian chờ và quảng cáo không được phân phối. Vì vậy, một mục tiêu của hệ thống quảng cáo là vận hành nhanh nhất có thể. Thời gian phản hồi của mô hình ChatGPT thay đổi linh hoạt, và chúng tôi không trì hoãn phản hồi trò chuyện để chờ tải quảng cáo.

Nếu vượt qua tất cả các bước kiểm tra trên, quảng cáo được gửi đến giao diện để kết xuất. Chúng tôi coi đây là một lần phân phối quảng cáo từ phía máy chủ, nhưng quảng cáo vẫn có thể không được hiển thị cho người dùng — và đó là chủ đích thiết kế.

Trong sản phẩm hội thoại như ChatGPT, việc phân phối mẫu quảng cáo từ phía máy chủ không bảo đảm quảng cáo sẽ được hiển thị; quảng cáo còn phải đến kịp để xuất hiện trong lượt trao đổi hiện tại. Mẫu quảng cáo bao gồm tiêu đề, mô tả, liên kết đích và lời kêu gọi hành động nếu có. Ngoài ra, hệ thống quảng cáo còn trả về lời dẫn do mô hình tạo: một đoạn giới thiệu ngắn, trung lập, giải thích mối liên hệ giữa quảng cáo và cuộc trò chuyện. Việc tách lời dẫn khỏi mẫu quảng cáo giúp giữ nguyên thông điệp của nhà quảng cáo, đồng thời duy trì giọng điệu trung lập của ChatGPT.

Giao diện ChatGPT nhận lời dẫn và mẫu quảng cáo cùng trong một gói. Nếu gói này đến trước khi ChatGPT tạo xong phản hồi, giao diện sẽ hiển thị quảng cáo bên dưới phản hồi của ChatGPT, kèm nhãn tài trợ rõ ràng. Nếu đến quá muộn, quảng cáo sẽ không hiển thị trong lượt trao đổi đó. Đây là khác biệt giữa phân phối quảng cáo từ phía máy chủ và một lượt hiển thị quảng cáo cho người dùng.

Hệ thống công nghệ quảng cáo của chúng tôi dùng các quy trình ghi nhật ký và xử lý dữ liệu truyền thống, mang lại ba lợi ích chính: nhà quảng cáo dễ tích hợp hệ thống hiện có với hệ thống của chúng tôi hơn, họ có thể cải thiện chiến lược nhờ dữ liệu báo cáo, và đội ngũ của chúng tôi có thể xác định những phần cần cải thiện. Ngoài các công cụ báo cáo và tối ưu hóa này, chúng tôi triển khai một mô hình chất lượng cao để đánh giá việc phân phối và huấn luyện các mô hình quảng cáo khác, tạo ra vòng lặp tự cải thiện mạnh mẽ.

Thông tin phân tích chi tiết về những gì đã xảy ra giúp chúng tôi hiểu và cải thiện riêng từng phần của hệ thống quảng cáo. Hệ thống xử lý nhật ký cũng ghi nhận các kết quả chi tiết như:

• Lượt trao đổi không đủ điều kiện hiển thị quảng cáo.

• Phiên quảng cáo đã bắt đầu nhưng không có yêu cầu truy xuất.

• Quá trình truy xuất không trả về ứng viên nào.

• Đã truy xuất được ứng viên nhưng không thể nạp đầy đủ dữ liệu hoặc không vượt qua kiểm tra điều kiện.

• Quảng cáo đã được phân phối và sau đó nhận được tương tác.

Những thông tin chi tiết này giúp chúng tôi cải thiện riêng từng phần của hệ thống phân phát quảng cáo. Việc cải thiện khả năng phát hiện cơ hội cần những bằng chứng khác với việc cải thiện truy xuất, chất lượng ứng viên, khả năng tham gia đấu giá hoặc độ tin cậy của quá trình phân phối.

Ý tưởng của việc đánh giá bằng mô hình là để những mô hình mạnh nhất, có khả năng suy luận cao nhất của chúng tôi quan sát và đánh giá kết quả của hệ thống, rồi cải thiện LLM sau huấn luyện bằng cách huấn luyện để mô hình này hoạt động tốt hơn. Chẳng hạn, chúng tôi có thể dùng mô hình nhỏ hơn, hiệu quả hơn hoặc có mức suy luận thấp hơn để điều phối hay truy xuất, nếu mô hình mạnh nhất thu thập phản hồi và huấn luyện các mô hình nhỏ này thực hiện nhiệm vụ tốt nhất có thể.

Chúng tôi thu thập và hành động dựa trên phản hồi của con người (lượt nhấp và thao tác ẩn quảng cáo của người dùng), cũng như khảo sát người dùng và phản hồi trực tiếp từ nhà quảng cáo qua Trình quản lý quảng cáo. Trong quá trình xây dựng, đội ngũ của chúng tôi cũng luôn sẵn sàng tiếp nhận phản hồi và trực tiếp lắng nghe mong muốn của cả người dùng ChatGPT lẫn nhà quảng cáo. Nguồn phản hồi này có ảnh hưởng đến định hướng của chúng tôi còn lớn hơn phản hồi quan sát từ mô hình, và góp phần giúp chúng tôi nhanh chóng thử nghiệm, điều chỉnh để đưa ra quyết định đúng về sản phẩm. Mô hình có thể hiểu ý định người dùng và tư duy phản biện để mang lại giá trị, nhưng con người mới định hình gu thẩm định.

Một năm trước, chúng tôi chưa có hệ thống quảng cáo và chỉ có vài người nghiên cứu bài toán này. Giờ đây, chúng tôi có một hệ thống quảng cáo vững chắc, tạo ra mức doanh thu quy đổi theo năm hơn 1 tỷ USD, với bộ điều phối dựa trên LLM vận hành quy trình quảng cáo. Codex đóng vai trò then chốt trong việc nhân lên năng lực của đội ngũ, giúp chúng tôi xây dựng hệ thống từ đầu và đạt cột mốc lớn này về mức độ sử dụng với tốc độ chưa từng có. Ngay từ đầu, chúng tôi đã tổ chức đội ngũ và quy trình phát triển để tận dụng Codex nhằm nhanh chóng xây dựng và mở rộng hệ thống. Chúng tôi xây dựng các cơ chế bảo vệ để Codex đưa mã vào triển khai một cách an toàn, đáng tin cậy. Song song đó, chúng tôi thiết lập các plugin hạ tầng dữ liệu cho Codex để rút ngắn đáng kể chu trình từ thu thập thông tin chuyên sâu đến triển khai cải tiến cho hệ thống, bao gồm tính năng sản phẩm mới, nâng cao chất lượng và hiệu năng hệ thống.

Sự kết hợp giữa các ranh giới của hệ thống (dựa trên nguyên tắc quảng cáo⁠ của chúng tôi) và bộ điều phối dựa trên LLM giúp quảng cáo trở nên hữu ích mà không coi mọi cuộc trò chuyện là một yêu cầu quảng cáo. Trong thời gian tới, chúng tôi sẽ tiếp tục thử nghiệm các định dạng quảng cáo linh hoạt hơn để gia tăng giá trị cho người dùng (chẳng hạn cho phép họ trò chuyện trực tiếp với doanh nghiệp qua quảng cáo) và nhà quảng cáo. Kiến trúc tự cải thiện của hệ thống, được xây dựng trên các mô hình OpenAI với vòng lặp phản hồi liên tục, sẽ giúp chúng tôi đẩy nhanh việc cải thiện mức độ liên quan và cá nhân hóa theo thời gian.