Tạo ứng dụng linh hoạt thích nghi nhanh hơn với API Decisions
Ra quyết định nhanh, đúng trọng tâm, chi phí thấp cho mọi ứng dụng.
Ứng dụng và tác nhân đưa ra nhiều quyết định nhỏ trong suốt quy trình làm việc: phân loại đầu vào ra sao, chuyển yêu cầu đến đâu hay thực hiện hành động nào tiếp theo. Xét riêng lẻ, đó đều là những quyết định đơn giản. Nhưng ở quy mô lớn, độ trễ và chi phí sẽ cộng dồn.
Hôm nay, chúng tôi chính thức phát hành rộng rãi API Decisions. Được xây dựng trên GPT‑6 Luna, API Decisions tập trung năng lực trí tuệ của Luna vào những câu hỏi có phạm vi câu trả lời giới hạn, giúp ứng dụng và tác nhân đưa ra quyết định gần như theo thời gian thực từ văn bản, hình ảnh và đầu vào có cấu trúc, nhanh hơn tới 10 lần so với GPT‑6 Luna qua API Responses.
Kể từ bản beta công khai, chúng tôi đã bổ sung khả năng tích hợp trực tiếp với GPT‑Live, tính năng lưu trữ nội dung câu lệnh cho ngữ cảnh dùng lại và tùy chọn giới hạn hoạt động suy luận trong lãnh thổ Hoa Kỳ và EU. Nhà phát triển cũng có thể truyền đầu vào trực tiếp ở định dạng JSON, đưa hình ảnh vào phần hướng dẫn của câu hỏi và đặt tối đa 400 câu hỏi cho mỗi yêu cầu, gấp đôi giới hạn trước đây. Chúng tôi cũng tiếp tục giảm độ trễ, trong đó có việc bổ sung năng lực xử lý tại một số khu vực ở châu Á.
Việc triển khai Decisions ban đầu đã cho thấy tính ứng dụng trong nhiều trường hợp sử dụng.
Tại OpenAI, các nhóm đang áp dụng API Decisions vào các quy trình phát triển sản phẩm và kinh doanh. Nhóm dot đang sử dụng API này để rút ngắn thời gian phản hồi và tăng tính tương tác. Nhóm Tài chính cá nhân của chúng tôi dùng Decisions để phân loại mô tả giao dịch, còn nhóm Truyền thông dùng Decisions để phân loại tin bài theo chủ đề và chấm điểm mức độ củng cố hay phản bác các thông điệp chủ đạo, qua đó xác định nội dung cần xem xét kỹ hơn.
Những ví dụ ban đầu này cho thấy việc ra quyết định nhanh, có cấu trúc có thể biến thông tin đầu vào thành hành động hữu ích trong nhiều trường hợp sử dụng. Khách hàng cũng đang ứng dụng API Decisions rộng rãi không kém, từ phân bổ chính xác chi phí AI đến tăng tính tương tác cho trải nghiệm học ngôn ngữ.
Sử dụng API Decisions rất đơn giản: nhà phát triển xác định câu hỏi cùng các câu trả lời được phép, rồi cung cấp ngữ cảnh dưới dạng văn bản, hình ảnh hoặc trực tiếp ở định dạng JSON. API trả về một trong ba loại câu trả lời được hỗ trợ — xác suất, lựa chọn hoặc điểm số — để ứng dụng xác định bước tiếp theo. Sự đa dạng về loại câu trả lời giúp Decisions phù hợp với nhiều trường hợp sử dụng.
API Decisions hỗ trợ ba loại câu trả lời:
Loại | Mục đích | Kết quả chính |
|---|---|---|
predicate | Ước tính xác suất một điều kiện là đúng, chẳng hạn sản phẩm có hư hỏng nhìn thấy được hay không. | probability: giá trị từ 0 đến 1 ước tính xác suất điều kiện là đúng. |
choice | Chọn một trong các phương án bạn đã xác định trước, chẳng hạn tác nhân nên tiếp tục, thử lại hay yêu cầu làm rõ. | choice: một trong các giá trị bạn cung cấp. Phản hồi cũng bao gồm các xác suất và độ tin cậy. |
score | Đánh giá đầu vào theo các mức được sắp thứ tự trong một thang đánh giá, chẳng hạn mức độ nghiêm trọng của hư hỏng. | score: trung bình của các chỉ số mức, lấy xác suất làm trọng số. |
Với GPT‑Live, bạn có thể mang khả năng trò chuyện tự nhiên, giàu biểu cảm đến các ứng dụng giọng nói, cùng khả năng xử lý ngắt lời mượt mà để cuộc trò chuyện luôn liền mạch. API Decisions hiện tích hợp trực tiếp với GPT‑Live(mở trong cửa sổ mới), giúp ứng dụng đưa ra quyết định nhanh, đúng trọng tâm ngay trong cuộc trò chuyện trực tiếp. Một tác nhân hỗ trợ khách hàng có thể quyết định nên đặt câu hỏi để làm rõ, chuyển yêu cầu đến nơi phù hợp hay chuyển vấn đề lên cấp xử lý cao hơn. Một nhân vật đại diện có thể điều chỉnh nét mặt khi người dùng nói chuyện với mình và dựa trên lời người dùng để đáp lại bằng một cái nháy mắt hoặc nụ cười, tạo nên trải nghiệm tương tác hơn.
Ví dụ dưới đây sử dụng các bản cập nhật nội dung phiên âm để chọn biểu cảm cho nhân vật đại diện. Thêm cấu hình này vào session.triggers trong một phiên GPT‑Live hiện có.
Live phát ra một decision.event; ứng dụng đọc reaction đã chọn và tạo chuyển động tương ứng cho nhân vật. Tìm hiểu thêm về cách kết nối giọng nói với API Decisions.(mở trong cửa sổ mới)
Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Bản demo này có giới hạn thời gian. Bằng cách sử dụng dịch vụ này, bạn đồng ý với Điều khoản của OpenAI và xác nhận đã biết Chính sách quyền riêng tư của chúng tôi.
API Decisions chính thức được phát hành rộng rãi hôm nay với GPT‑6 Luna qua điểm cuối Decisions chuyên dụng. Xem hướng dẫn về giá và phạm vi cung cấp(mở trong cửa sổ mới) để biết mức giá hiện tại và thông tin về lưu vào bộ nhớ đệm.
Hãy bắt đầu với một quyết định mà ứng dụng của bạn thường xuyên phải đưa ra. Xác định câu hỏi, các câu trả lời có thể có và ngữ cảnh cần thiết để phân biệt chúng. Thử nghiệm với các ví dụ phản ánh cách sử dụng thực tế trong Khu thử nghiệm Decisions(mở trong cửa sổ mới) bằng văn bản hoặc hình ảnh của riêng bạn, hoặc làm theo hướng dẫn dành cho nhà phát triển(mở trong cửa sổ mới) để gửi yêu cầu đầu tiên.
API Decisions có giá 0,10 USD cho mỗi triệu token đầu vào. Đầu vào đã lưu trong bộ nhớ đệm có giá 0,01 USD cho mỗi triệu token. Để biết giá ghi vào bộ nhớ đệm với thời hạn 30 phút và 12 giờ, hãy đọc hướng dẫn về giá của chúng tôi.(mở trong cửa sổ mới) Bạn chỉ trả phí cho token đầu vào, không mất phí cho token đầu ra. Chúng tôi hỗ trợ xử lý theo khu vực tại Hoa Kỳ và EU, đồng thời cung cấp tùy chọn không lưu giữ dữ liệu(mở trong cửa sổ mới) cho khách hàng đủ điều kiện. Xem thông tin về giá và lưu vào bộ nhớ đệm(mở trong cửa sổ mới) cùng các biện pháp kiểm soát dữ liệu(mở trong cửa sổ mới) để biết chi tiết.
