SafetyKit huongeza mawakala wa hatari kwa kut'a miundo ya OpenAI

SafetyKit⁠(fungua katika dirisha jipya) huunda mawakala wa AI wa namna nyingi ili kusaidia majukwaa ya soko, majukwaa ya malipo na kampuni za fintech kutambua na kuchukua hatua dhidi ya ulaghai na shughuli zilizopigwa marufuku katika maandishi, picha, miamala ya kifedha, orodha za bidhaa na mengineyo. Mafanikio ya hivi karibuni katika uwazaji wa muundo (ya AI) na uelewa wa namna nyingi sasa yanaifanya hii iwe yenye ufanisi zaidi, yakiiweka kwenye kiwango kipya cha ubora kwa shughuli za uendeshaji wa hatari, uzingatiaji na usalama.

Mawakala wa SafetyKit hutumia GPT‑5, GPT‑4.1, utafiti wa kina, na Wakala Anayetumia Kompyuta (CUA) kukagua asilimia 100 ya maudhui ya wateja kwa usahihi wa zaidi ya asilimia 95 kwa mujibu wa tathmini za SafetyKit. Zinaweza kusaidia majukwaa kulinda watumiaji, kuzuia udanganyifu, kuepuka faini za udhibiti, na kutekeleza sera changamani ambazo mifumo ya zamani inaweza kukosa kutambua, kama vile sheria mahususi za maeneo fulani, nambari za simu zilizopachikwa kwenye picha za utapeli, au maudhui ya wazi. Uendeshaji wa kiotomatiki unaweza pia kuwalinda wasimamizi wa maudhui wa binadamu dhidi ya kukumbana na maudhui ya kuudhi na kuwawezesha kushughulikia maamuzi ya sera yenye maelezo ya kina.

Mawakala wa SafetyKit wameundwa kushughulikia kila kategoria maalum ya hatari, kuanzia ulaghai hadi bidhaa haramu. Kila kipande cha maudhui huelekezwa kwa wakala anayefaa zaidi kwa ukiukaji huo, kwa kutumia muundo bora wa OpenAI:

• GPT‑5 hutumia uwazaji wa aina nyingi katika maandishi, picha na UI ili kufichua hatari zilizofichwa na kusaidia ufanyaji maamuzi wa ngazi nyingi na sahihi
• GPT‑4.1 hufuata kwa uaminifu maelekezo ya kina ya sera za maudhui na inasimamia kwa ufanisi michakato ya kazi ya udhibiti wa maudhui ya kiwango cha juu
• Miundo ya uimarishaji (RFT) huongeza ukumbukaji na usahihi zaidi ya miundo chaguomsingi, na kufikia utendaji wa mpaka kwa sera changamano za usalama
• Utafiti wa kina unajumuisha uchunguzi wa mtandaoni wa papo hapo katika hakiki na uthibitishaji wa wafanyabiashara
• Wakala Anayetumia Kompyuta (CUA) huendesha kiotomatiki kazi changamano za sera, kupunguza utegemezi wa ukaguzi wa gharama kubwa wa mikono

Mbinu hii ya ulinganishaji wa muundo huwezesha SafetyKit kuongeza ukaguzi wa maudhui katika aina mbalimbali za mbinu kwa umakini wa kina na usahihi zaidi kuliko suluhisho za zamani zinavyoweza.

Kwa mfano, wakala wa Kugundua Ulaghai huenda zaidi ya kuchanganua maandishi pekee. Huchanganua vitu vya kuona kama vile misimbo ya QR au nambari za simu zilizopachikwa katika picha za bidhaa. GPT‑4.1 huisaidia kuchanganua picha, kuelewa mpangilio, na kuamua iwapo ni ukiukaji wa sera.

Wakala wa Ufichuzi wa Sera hukagua orodha au kurasa za kutua ili kubaini lugha inayohitajika, kama vile kanusho za kisheria au maonyo ya uzingatiaji mahususi kwa eneo. GPT‑4.1 hutoa sehemu husika, GPT‑5 hutathmini ufuatiliaji, na wakala huashiria ukiukaji.

“Tunawachukulia mawakala wetu kama taratibu za kazi zilizoundwa kwa madhumuni maalum,” anasema Graunke. “Baadhi ya kazi zinahitaji uwazaji wa kina, nyingine zinahitaji muktadha wa aina nyingi. OpenAI ndiyo safu pekee inayotoa utendaji wa kuaminika katika vipengele vyote viwili.”

Maamuzi ya sera mara nyingi hutegemea tofauti ndogo ndogo. Fikiria soko linalowahitaji wauzaji kujumuisha kanusho kwa bidhaa za ustawi, huku mahitaji yakitofautiana kulingana na madai ya bidhaa na sheria za kikanda. Watoa huduma wa zamani hutumia vichochezi vya maneno muhimu au seti ngumu za sheria, ambazo zinaweza kukosa maamuzi ya kina ya kiutambuzi ambayo maamuzi haya yanaweza kuhitaji, na hivyo kusababisha utekelezaji kukosekana au usio sahihi.

Wakala wa Ufichuzi wa Sera wa SafetyKit kwanza hurejelea sera kutoka kwenye maktaba ya ndani ya SafetyKit kisha GPT‑5 hutathmini maudhui: je, yanataja matibabu au kinga? Je, inauzwa katika eneo ambalo ufichuzi ni wa lazima? Na ikiwa ni hivyo, je, lugha inayohitajika kweli imejumuishwa kwenye orodha? Ikiwa chochote kitapungua, GPT‑5 hurudisha matokeo yaliyopangwa ambayo wakala hutumia kuripoti tatizo.

“Nguvu ya GPT‑5 iko katika jinsi inavyoweza kuwaza kwa usahihi mkubwa inapojengwa katika sera halisi,” anabainisha Graunke. “Inatuwezesha kufanya maamuzi sahihi na yanayoweza kutetewa hata katika hali za kipekee ambapo mifumo mingine hushindwa.”

SafetyKit hupima kila mfumo mpya wa OpenAI dhidi ya hali ngumu zaidi, mara nyingi ikiweka watendaji wakuu siku hiyohiyo. Tathmini kali za ndani huruhusu timu kutambua haraka jinsi mifumo mipya inavyoweza kuboresha utendaji na kuunganishwa kikamilifu katika miundombinu yao ya msingi.

OpenAI o3 ilipozinduliwa, SafetyKit iliitumia kuboresha utendaji katika hali za kipekee katika maeneo muhimu ya sera. GPT‑5 ikafuata, na ndani ya siku chache, ikasambazwa kwa mawakala wao wanaohitaji zaidi, na kuboresha alama za majaribio kwa zaidi ya pointi 10 kwenye shughuli zao ngumu zaidi za kuona.

SafetyKit pia hurejesha maboresho katika mfumo ikolojia, ikishiriki matokeo ya tathmini, kushindwa kwa hali za pembezoni, na maarifa mahususi ya sera moja kwa moja na OpenAI ili kusaidia kuunda utendaji wa muundo ya baadaye kwa mzigo wa kazi muhimu wa usalama.

Usanifu wa SafetyKit unatekeleza sera kwa kiwango kikubwa, ukitoa kasi, usahihi, na ushughulikiaji kamili wa hatari. Nyuma ya pazia, sasa inashughulikia zaidi ya tokeni bilioni 16 kila siku, kutoka milioni 200 miezi sita iliyopita, ikichanganua maudhui zaidi bila kupunguza kiwango cha usahihi.

Katika kipindi hichohicho, SafetyKit imepanuka kujumuisha hatari za malipo, udanganyifu, kupambana na matumizi mabaya ya watoto, kupambana na utakatishaji wa fedha, na wateja wapya walio na mamia ya mamilioni ya watumiaji walio chini ya ulinzi wa SafetyKit. Msingi huu unawawezesha wateja kujibu kwa haraka na kwa ujasiri hatari zinazoibuka.

“Tumeunda mfumo ambapo kila toleo la OpenAI huimarisha moja kwa moja uwezo wetu,” anasema Graunke. “Ndiyo maana mfumo unaendelea kuboreka, ukiendelea daima kuwa mbele ya hatari zinazobadilika.”

• Usahihi wa asilimia 95%+ katika kukagua asilimia 100 ya maudhui ya wateja
• Tokeni bilioni 16 huchakatwa kila siku, zimeongezeka kutoka milioni 200 ndani ya miezi sita
• Ongezeko la pointi 10+ kwenye vigezo vya kupima (benchmarks) kwa kazi ngumu zaidi za uoni