SafetyKit OpenAI మోడల్స్‌తో రిస్క్ ఏజెంట్స్ స్కేల్ చేస్తుంది

SafetyKit⁠(కొత్త విండోలో తెరుచుకుంటుంది) టెక్స్ట్, చిత్రాలు, ఆర్థిక లావాదేవీలు, ఉత్పత్తి జాబితాలు మరియు మరెన్నో విభాగాల్లో మోసం మరియు నిషేధిత కార్యకలాపాలను గుర్తించి వాటిపై చర్యలు తీసుకోవడంలో మార్కెట్‌ప్లేస్‌లు, పేమెంట్ ప్లాట్‌ఫారమ్‌లు మరియు ఫిన్‌టెక్‌లకు సహాయపడేందుకు మల్టీమోడల్ AI ఏజెంట్లను రూపొందిస్తుంది. మోడల్ రిజనింగ్ మరియు మల్టీమోడల్ అవగాహనలో ఇటీవల జరిగిన పురోగతులు దీనిని మరింత ప్రభావవంతంగా చేస్తూ, రిస్క్, కంప్లయన్స్, మరియు సేఫ్టీ ఆపరేషన్స్ కోసం కొత్త ప్రమాణాన్ని సృష్టించాయి.

SafetyKit యొక్క ఏజెంట్‌లు GPT‑5, GPT‑4.1, డీప్ రీసెర్చ్, మరియు కంప్యూటర్-యూజింగ్ ఏజెంట్ (CUA) ఉపయోగించి, SafetyKit యొక్క మూల్యాంకనాల ఆధారంగా 95% కంటే ఎక్కువ ఖచ్చితత్వంతో కస్టమర్ కంటెంట్‌లో 100%ను సమీక్షిస్తాయి. అవి ప్లాట్‌ఫారమ్‌లకు వినియోగదారులను రక్షించడంలో, మోసాలను నివారించడంలో, నియంత్రణ జరిమానాలను తప్పించడంలో మరియు పాత సిస్టమ్‌లు గుర్తించలేని ప్రాంత-ప్రత్యేక నియమాలు, మోసపూరిత చిత్రాల్లో దాగి ఉన్న ఫోన్ నంబర్లు లేదా స్పష్టమైన కంటెంట్ వంటి సంక్లిష్ట విధానాలను అమలు చేయడంలో సహాయపడతాయి. ఆటోమేషన్ మానవ మోడరేటర్లను అభ్యంతరకరమైన మెటీరియల్‌ను చూడకుండా రక్షిస్తుంది మరియు సూక్ష్మమైన విధాన నిర్ణయాలను నిర్వహించడానికి వారికి సమయం ఇస్తుంది.

SafetyKit యొక్క ఏజెంట్లు ప్రతి ఒక్కటి స్కామ్‌లు నుండి అక్రమ ఉత్పత్తుల వరకు ఒక నిర్దిష్ట రిస్క్ కేటగిరీని నిర్వహించడానికి రూపొందించబడ్డాయి. ప్రతి కంటెంట్ భాగం ఆ ఉల్లంఘనకు అత్యంత అనుకూలమైన ఏజెంట్‌కు అత్యుత్తమ OpenAI మోడల్‌ను ఉపయోగించి పంపబడుతుంది.

• GPT‑5 టెక్స్ట్, చిత్రాలు మరియు UI అంతటా మల్టీమోడల్ రిజనింగ్‌ను ఉపయోగించి దాగి ఉన్న ప్రమాదాలను వెలికితీయడానికి మరియు స్థరాలవారీగా ఖచ్చితమైన నిర్ణయాలను మద్దతు ఇస్తుంది
• GPT‑4.1 వివరమైన కంటెంట్-పాలసీ సూచనలను విశ్వసనీయంగా అనుసరిస్తుంది మరియు అధిక-వాల్యూం మోడరేషన్ వర్క్‌ఫ్లోలను సమర్థవంతంగా నిర్వహిస్తుంది
• రీఇన్‌ఫోర్స్‌మెంట్ ఫైన్-ట్యూనింగ్ (RFT) డిఫాల్ట్ మోడల్‌ను మించి రికాల్ మరియు ప్రెసిషన్‌ను పెంచి, సంక్లిష్టమైన భద్రతా విధానాలతో అత్యాధునిక పనితీరును సాధిస్తుంది
• డీప్ రీసెర్చ్ వ్యాపారి సమీక్షలు మరియు ధృవీకరణలలో రియల్-టైమ్ ఆన్‌లైన్ పరిశీలనను ఏకీకృతం చేస్తుంది
• కంప్యూటర్ యూజింగ్ ఏజెంట్ (CUA) క్లిష్టమైన పాలసీ పనులను ఆటోమేట్ చేస్తుంది, ఖరీదైన మాన్యువల్ సమీక్షలపై ఆధారపడటాన్ని తగ్గిస్తుంది.

ఈ మోడల్-మ్యాచింగ్ విధానం SafetyKit పాత పరిష్కారాలతో పోలిస్తే ఎక్కువ సూక్ష్మత మరియు ఖచ్చితత్వంతో మోడాలిటీలలో కంటెంట్ సమీక్షను విస్తరించడానికి అనుమతిస్తుంది.

ఉదాహరణకు, Scam Detection ఏజెంట్ కేవలం టెక్స్ట్‌ను స్కాన్ చేయడం మాత్రమే కాకుండా మరింత విశ్లేషిస్తుంది. ఇది ఉత్పత్తి చిత్రాల్లో పొందుపరచబడిన QR కోడ్‌లు లేదా ఫోన్ నంబర్లు వంటి దృశ్య అంశాలను విశ్లేషిస్తుంది. GPT‑4.1 చిత్రాన్ని విశ్లేషించడానికి, లేఅవుట్‌ను అర్థం చేసుకోవడానికి, మరియు అది విధాన ఉల్లంఘన కాదో నిర్ణయించడానికి సహాయపడుతుంది.

పాలసీ డిస్క్లోజర్ ఏజెంట్, లీగల్ డిస్క్లైమర్‌లు లేదా ప్రాంతం-నిర్దిష్ట కంప్లయన్స్ హెచ్చరికలు వంటి అవసరమైన భాష కోసం లిస్టింగ్‌లు లేదా ల్యాండింగ్ పేజ్‌లను తనిఖీ చేస్తుంది. GPT‑4.1 సంబంధిత సెక్షన్‌లను ఎక్స్‌ట్రాక్ట్ చేస్తుంది, GPT‑5 కంప్లయన్స్‌ను ఈవాల్యుయేట్ చేస్తుంది, మరియు ఏజెంట్ ఉల్లంఘనలను గుర్తించి ఫ్లాగ్ చేస్తుంది.

“మా ఏజెంట్స్‌ను మేము నిర్దిష్ట ప్రయోజనం కోసం రూపొందించిన వర్క్‌ఫ్లోలుగా భావిస్తాము,” అని గ్రౌంకే చెప్పారు. “కొన్ని పనులకు లోతైన రిజనింగ్ అవసరం, మరికొన్నింటికి మల్టీమోడల్ కాంటెక్స్ట్ అవసరం. OpenAI మాత్రమే రెండింటిలోనూ విశ్వసనీయ పనితీరును అందించే స్టాక్.”

పాలసీ నిర్ణయాలు తరచుగా సూక్ష్మమైన భేదాలపై ఆధారపడుతాయి. ఉత్పత్తి క్లెయిమ్స్ మరియు ప్రాంతీయ నియమాల ఆధారంగా అవసరాలు మారుతూ ఉండే వెల్‌నెస్ ఉత్పత్తుల కోసం అమ్మకందారులు నిరాకరణ ప్రకటనను చేర్చాల్సిన అవసరం ఉన్న మార్కెట్‌ప్లేస్‌ను తీసుకోండి. లెగసీ ప్రొవైడర్లు కీవర్డ్ ట్రిగర్లు లేదా కఠినమైన రూల్‌సెట్లను ఉపయోగిస్తారు, ఇవి లోతైన విచక్షణ అవసరమైన నిర్ణయాలను గుర్తించడంలో విఫలమవుతాయి, దాంతో అమలు తప్పిపోవడం లేదా తప్పుగా అమలుకావడం జరుగుతుంది.

SafetyKit యొక్క పాలసీ డిస్క్లోజర్ ఏజెంట్ ముందుగా SafetyKit యొక్క అంతర్గత లైబ్రరీలోని పాలసీలను సూచిస్తుంది. తరువాత GPT‑5 కంటెంట్‌ను ఈవాల్యుయేట్ చేస్తుంది: అది చికిత్స లేదా నివారణను ప్రస్తావిస్తుందా? వెల్లడి తప్పనిసరి అయిన ప్రాంతంలో ఇది అమ్మబడుతోందా? అలా అయితే, అవసరమైన భాష నిజంగా జాబితాలో చేర్చబడిందా? ఏదైనా లోపిస్తే, GPT‑5 ఏజెంట్ సమస్యను గుర్తించడానికి ఉపయోగించే స్ట్రక్చర్డ్ అవుట్‌పుట్స్‌ను తిరిగి ఇస్తుంది.

“GPT‑5 యొక్క శక్తి వాస్తవ విధానంపై ఆధారపడినప్పుడు అది ఎంత ఖచ్చితంగా తార్కికంగా ఆలోచించగలదో దాంట్లోనే ఉంది,” అని గ్రౌంకే పేర్కొన్నారు. “ఇది ఇతర వ్యవస్థలు విఫలమయ్యే ఎడ్జ్ కేసుల్లో కూడా ఖచ్చితమైన, సమర్థించదగిన నిర్ణయాలు తీసుకునేలా మాకు సహాయపడుతుంది.”

SafetyKit ప్రతి కొత్త OpenAI మోడల్‌ను దాని అత్యంత కఠినమైన కేసులపై బెంచ్‌మార్క్ చేస్తుంది, మరియు అత్యుత్తమ పనితీరు కనబరిచిన వాటిని తరచుగా అదే రోజున అమలు చేస్తుంది. కఠినమైన అంతర్గత మూల్యాంకనలు కొత్త మోడల్ పనితీరును మెరుగుపరచడానికి మరియు ప్రధాన మౌలిక సదుపాయాల్లో సజావుగా అనుసంధానించడానికి బృందానికి త్వరగా సహాయపడతాయి.

OpenAI o3 ప్రారంభమైనప్పుడు, ముఖ్యమైన విధాన రంగాల అంతటా ఎడ్జ్ కేసుల పనితీరును మెరుగుపరచడానికి SafetyKit దాన్ని ఉపయోగించింది. GPT‑5 వెంటనే వచ్చింది, మరియు కొన్ని రోజుల్లోనే అది వారి అత్యంత డిమాండ్ ఉన్న ఏజెంట్ల అంతటా అమలు చేయబడింది, వారి అత్యంత కఠినమైన విజన్ టాస్క్స్‌పై బెంచ్‌మార్క్ స్కోర్లను 10 పాయింట్లకు పైగా మెరుగుపరుస్తూ.

SafetyKit కూడా పర్యావరణ వ్యవస్థలోకి మెరుగుదలలను అందిస్తూ, eval ఫలితాలు, ఎడ్జ్ కేస్ వైఫల్యాలు, మరియు పాలసీ-సంబంధిత అంతర్దృష్టులను నేరుగా OpenAI తో పంచుకుంటుంది, తద్వారా భద్రత-కీలక వర్క్‌లోడ్స్ కోసం భవిష్యత్ మోడల్ పనితీరును మెరుగుపరచడంలో సహాయపడుతుంది.

SafetyKit యొక్క ఆర్కిటెక్చర్ పెద్ద స్థాయిలో పాలసీని అమలు చేస్తుంది, వేగం, ఖచ్చితత్వం మరియు సమగ్ర రిస్క్ కవరేజ్‌ను అందిస్తుంది. తెర వెనుక, ఇది ఇప్పుడు రోజుకు 16 బిలియన్ టోకెన్లను నిర్వహిస్తోంది, ఆరు నెలల క్రితం 200 మిలియన్ల నుంచి పెరిగి, ఖచ్చితత్వాన్ని తగ్గించకుండా మరింత కంటెంట్‌ను విశ్లేషిస్తోంది.

అదే సమయంలో, SafetyKit చెల్లింపుల ప్రమాదం, మోసం, బాలల దోపిడీ నిరోధం, మనీలాండరింగ్ నిరోధం వంటి రంగాలకు విస్తరించింది. అదనంగా, SafetyKit రక్షణలో ఉన్న వందల మిలియన్ల వినియోగదారులతో కొత్త కస్టమర్లను సంపాదించింది. ఈ పునాది కస్టమర్లను ఉద్భవిస్తున్న ప్రమాదాలకు వేగంగా మరియు ఆత్మవిశ్వాసంతో ప్రతిస్పందించగలిగేలా చేస్తుంది.

“ప్రతి OpenAI విడుదల నేరుగా మా సామర్థ్యాలను బలోపేతం చేసే ఒక లూప్‌ను మేము రూపొందించాము,” అని గ్రౌన్కే చెప్పారు. “అందుకే ఈ సిస్టమ్ నిరంతరం మెరుగుపడుతూ, ఉద్భవిస్తున్న ప్రమాదాలలో ఎప్పుడూ ముందుంటుంది.”

• 100% కస్టమర్ కంటెంట్‌ను సమీక్షిస్తూ 95%+ ఖచ్చితత్వం
• రోజుకు 16B టోకెన్ ప్రాసెస్ చేయబడుతున్నాయి, ఆరు నెలల్లో 200M నుండి పెరిగాయి
• అత్యంత క్లిష్టమైన విజన్ పనుల్లో బెంచ్‌మార్క్‌లో 10+ పాయింట్ల మెరుగుదల.