SafetyKit OpenAI च्या सर्वात सक्षम मॉडेल्ससह जोखीम एजंट वाढवते

SafetyKit⁠(नवीन विंडोमध्ये उघडेल) मार्केटप्लेस, पेमेंट प्लॅटफॉर्म आणि फिनटेक कंपन्यांना मजकूर, प्रतिमा, आर्थिक व्यवहार, उत्पादन सूची आणि इतर बाबींमध्ये फसवणूक आणि प्रतिबंधित क्रियाकलाप ओळखण्यात आणि त्यावर कारवाई करण्यात मदत करण्यासाठी मल्टिमोडल AI एजंट तयार करते. मॉडेल रीझनिंग आणि मल्टिमोडल समज यांमधील अलीकडील प्रगतीमुळे हे आता अधिक प्रभावी झाले आहे, ज्यामुळे जोखीम, अनुपालन आणि सुरक्षा ऑपरेशन्ससाठी एक नवीन मानक स्थापित झाले आहे.

SafetyKit चे एजंट GPT‑5, GPT‑4.1, डीप रिसर्च आणि कॉम्प्युटर यूझिंग एजंट (CUA) चा वापर करून SafetyKit च्या इव्हॅल्सच्या आधारे १००% ग्राहक सामग्रीचे ९५% पेक्षा जास्त अचूकतेसह पुनरावलोकन करतात. ते प्लॅटफॉर्मना वापरकर्त्यांचे संरक्षण करण्यास, फसवणूक टाळण्यास, नियामक दंड टाळण्यास आणि जुन्या प्रणालींकडून दुर्लक्षित होऊ शकणाऱ्या जटिल धोरणांची अंमलबजावणी करण्यास मदत करू शकतात, जसे की प्रदेश-विशिष्ट नियम, फसव्या प्रतिमांमध्ये एम्बेड केलेले फोन नंबर किंवा स्पष्ट सामग्री. ऑटोमेशन मानवी मॉडरेटर्सना आक्षेपार्ह सामग्रीच्या संपर्कात येण्यापासून संरक्षण देऊ शकते आणि सूक्ष्म धोरणात्मक निर्णय हाताळण्यासाठी त्यांना मोकळीक देते.

SafetyKit चे एजंट प्रत्येक विशिष्ट जोखीम श्रेणी हाताळण्यासाठी तयार केलेले आहेत, फसवणुकीपासून ते बेकायदेशीर उत्पादनांपर्यंत. प्रत्येक सामग्रीचा भाग त्या उल्लंघनासाठी सर्वात योग्य एजंटकडे, इष्टतम OpenAI मॉडेल वापरून, मार्गदर्शित केला जातो:

• GPT‑5 मजकूर, प्रतिमा आणि UI मध्ये मल्टिमोडल रीझनिंग लागू करून लपलेले धोके उघड करण्यासाठी आणि स्तरित, अचूक निर्णय-प्रक्रियेला समर्थन देतो
• GPT‑4.1 सविस्तर सामग्री-धोरण सूचनांचे विश्वसनीयपणे पालन करते आणि उच्च-खंडाच्या मॉडरेशन workflows कार्यक्षमतेने व्यवस्थापित करते
• रीइन्फोर्समेंट फाइन-ट्यूनिंग (RFT) रिकॉल आणि प्रिसिजन डीफॉल्ट मॉडेल्सपेक्षा अधिक वाढवते, आणि जटिल सुरक्षा धोरणांसह अत्याधुनिक कामगिरी साध्य करते
• डीप रिसर्च व्यापारी पुनरावलोकने आणि पडताळण्यांमध्ये रिअल-टाइम ऑनलाइन तपास समाकलित करते
• कॉम्प्युटर-यूझिंग एजंट (CUA) जटिल धोरणात्मक कामे स्वयंचलित करते, ज्यामुळे महागड्या मॅन्युअल पुनरावलोकनांवरील अवलंबित्व कमी होते

हा मॉडेल-मॅचिंग दृष्टिकोन SafetyKit ला विविध modalities मध्ये कंटेंट रिव्ह्यू लेगेसी सोल्यूशन्सपेक्षा अधिक सूक्ष्मता आणि अचूकतेसह स्केल करण्यास सक्षम करतो.

उदाहरणार्थ, Scam Detection एजंट फक्त मजकूर स्कॅन करण्याच्या पलीकडे कार्य करते. हे प्रॉडक्ट इमेजेसमध्ये एम्बेड केलेल्या QR कोड्स किंवा फोन नंबर यांसारख्या व्हिज्युअल घटकांचे विश्लेषण करते. GPT‑4.1 त्याला प्रतिमेचे विश्लेषण करण्यास, मांडणी समजून घेण्यास आणि ते धोरणाचे उल्लंघन आहे की नाही हे ठरवण्यास मदत करते.

पॉलिसी डिस्क्लोजर एजंट आवश्यक भाषेसाठी, जसे की लीगल डिस्क्लेमर्स किंवा प्रदेश-विशिष्ट कंप्लायन्स चेतावण्या, लिस्टिंग्ज किंवा लँडिंग पेजेस तपासतो. GPT‑4.1 संबंधित विभाग काढतो, GPT‑5 अनुपालनाचे मूल्यांकन करते, आणि एजंट उल्लंघनांना चिन्हांकित करतो.

“आम्ही आमच्या एजंट्सना विशिष्ट उद्देशांसाठी तयार केलेल्या कार्यप्रवाहांप्रमाणे मानतो,” ग्राउनके म्हणतात. “काही कामांसाठी सखोल रीझनिंग आवश्यक असतो, तर इतरांसाठी मल्टीमोडल संदर्भाची गरज असते. OpenAI हा एकमेव स्टॅक आहे जो दोन्ही ठिकाणी विश्वसनीय कामगिरी प्रदान करतो."

धोरणात्मक निर्णय अनेकदा सूक्ष्म फरकांवर अवलंबून असतात. अशा मार्केटप्लेसचा विचार करा जिथे विक्रेत्यांना वेलनेस उत्पादनांसाठी अस्वीकरण समाविष्ट करणे आवश्यक आहे, आणि जिथे आवश्यकता उत्पादनांवरील दाव्यांनुसार व प्रादेशिक नियमांनुसार बदलतात. जुने प्रदाते कीवर्ड ट्रिगर्स किंवा कठोर नियमसंच वापरतात, ज्यामुळे या निर्णयांसाठी आवश्यक असलेली सखोल निर्णयक्षमता गहाळ होऊ शकते आणि परिणामी अंमलबजावणी चुकते किंवा चुकीची होते.

SafetyKit चा धोरण प्रकटीकरण एजंट प्रथम SafetyKit च्या अंतर्गत लायब्ररीतील धोरणांचा संदर्भ घेतो, त्यानंतर GPT‑5 सामग्रीचे मूल्यांकन करते: त्यात उपचार किंवा प्रतिबंध यांचा उल्लेख आहे का? ज्या प्रदेशात प्रकटीकरण अनिवार्य आहे, त्या प्रदेशात ते विकले जात आहे का? आणि तसे असल्यास, आवश्यक भाषा प्रत्यक्ष सूचीमध्ये समाविष्ट आहे का? काहीही अपुरे असल्यास, GPT‑5 स्ट्रक्चर्ड आउटपुट्स परत करते, ज्याचा वापर एजंट समस्या चिन्हांकित करण्यासाठी करतो.

“GPT‑5 ची ताकद वास्तविक धोरणावर आधारित असताना ते किती अचूकपणे तर्क करू शकते यात आहे,” असे ग्राउनके नमूद करतात. “यामुळे आम्हाला अगदी त्या काठाच्या प्रकरणांमध्येही अचूक आणि समर्थनयोग्य निर्णय घेता येतात, जिथे इतर प्रणाली अयशस्वी ठरतात.”

SafetyKit प्रत्येक नवीन OpenAI मॉडेलचे त्याच्या सर्वात कठीण प्रकरणांच्या तुलनेत बेंचमार्क करते आणि अनेकदा सर्वोत्तम कामगिरी करणारे मॉडेल्स त्याच दिवशी तैनात करते. कठोर अंतर्गत मूल्यांकनांमुळे संघा नवीन मॉडेल कार्यक्षमता कशी सुधारू शकतात आणि त्यांच्या मुख्य पायाभूत संरचनेत अखंडपणे कशी समाकलित होऊ शकतात हे त्वरीत ओळखता येते.

जेव्हा OpenAI o3 लाँच झाले, तेव्हा SafetyKit ने प्रमुख धोरण क्षेत्रांमध्ये edge case कामगिरी सुधारण्यासाठी त्याचा वापर केला. GPT‑5 त्यानंतर आले, आणि काही दिवसांतच ते त्यांच्या सर्वाधिक मागणी असलेल्या एजंट्समध्ये तैनात करण्यात आले, ज्यामुळे त्यांच्या सर्वात कठीण व्हिजन टास्क्सवरील बेंचमार्क स्कोअरमध्ये १० पेक्षा अधिक पॉइंट्सनी सुधारणा झाली.

SafetyKit इकोसिस्टममध्ये पुन्हा सुधारणा परत पाठवते आणि सुरक्षिततेसाठी अत्यंत महत्त्वाच्या वर्कलोड्ससाठी मॉडेलच्या भविष्यातील कार्यप्रदर्शनाला आकार देण्यास मदत करण्यासाठी eval चे निकाल, विशेष प्रकरणांतील अयशस्वीता आणि धोरण-विशिष्ट अंतर्दृष्टी थेट OpenAI सोबत शेअर करते.

SafetyKit चे आर्किटेक्चर मोठ्या प्रमाणावर धोरणांची अंमलबजावणी करते, वेग, अचूकता आणि सर्वसमावेशक जोखीम कव्हरेज प्रदान करते. पडद्यामागे, ते आता दररोज 16 अब्जांहून अधिक टोकन हाताळते, जे सहा महिन्यांपूर्वी 200 दशलक्ष होते, आणि अचूकतेशी तडजोड न करता अधिक सामग्रीचे विश्लेषण करते.

त्याच कालावधीत, SafetyKit ने पेमेंट जोखीम, फसवणूक, बाल शोषणविरोधी, मनी लॉन्डरिंगविरोधी या क्षेत्रांमध्ये विस्तार केला आहे, तसेच SafetyKit च्या संरक्षणाखालील कोट्यवधी अंतिम वापरकर्ते असलेले नवीन ग्राहकही जोडले आहेत. हा पाया ग्राहकांना उदयोन्मुख जोखमींना त्वरित आणि आत्मविश्वासाने प्रतिसाद देण्यासाठी सक्षम करतो.

“आम्ही असे एक चक्र तयार केले आहे की OpenAI चे प्रत्येक प्रकाशन थेट आमच्या क्षमतांना बळकटी देते,” ग्राउनके म्हणतात. “म्हणूनच ही प्रणाली सतत सुधारत राहते आणि विकसित होत जाणाऱ्या जोखमींपेक्षा नेहमीच पुढे राहते.”

• ग्राहकांच्या 100% सामग्रीचे पुनरावलोकन करताना 95%+ अचूकता
• दररोज 16B टोकन प्रक्रिया केली जातात, जे सहा महिन्यांत 200M होते
• सर्वात कठीण दृष्टी कार्यांवर 10+ गुणांचे बेंचमार्क वाढ