SafetyKit-ն OpenAI-ով մեծացրել է ռիսկի գնահատման ագենտի կիրառումը

SafetyKit-ը⁠(բացվում է նոր պատուհանում) ստեղծում է բազմամոդալ ԱԲ ագենտներ՝ օգնելու առևտրային հարթակներին, վճարային հարթակներին և ֆինտեխ ընկերություններին հայտնաբերել խարդախությունն ու արգելված գործունեությունը տեքստերում, պատկերներում, ֆինանսական գործարքներում, ապրանքների ցուցակներում և այլուր և արձագանքել դրանց։ Մոդելի հիմնավորման և բազմամոդալ ըմբռնման ոլորտներում վերջին բեկումնային առաջընթացներն այժմ սա դարձնում են ավելի արդյունավետ՝ սահմանելով ռիսկերի, համապատասխանության և անվտանգության գործառնությունների նոր նշաձող։

SafetyKit-ի ագենտներն օգտագործում են GPT‑5, GPT‑4.1, խորքահին ուսումնասիրություն և համակարգիչ օգտագործող ագենտ՝ SafetyKit-ի գնահատումների հիման վրա հաճախորդների բովանդակության 100%-ը 95% և ավելի ճշգրտությամբ ստուգելու համար։ Դրանք կարող են օգնել հարթակներին պաշտպանել օգտատերերին, կանխել խարդախությունը, խուսափել կարգավորող տուգանքներից և ապահովել բարդ կանոնների կիրարկումը, որոնք հին համակարգերը կարող են բաց թողնել, օրինակ՝ տարածաշրջանին հատուկ կանոնները, խարդախ պատկերներում ներկառուցված հեռախոսահամարները կամ անպարկեշտ բովանդակությունը։ Ավտոմատացումը կարող է ոչ միայն մոդերատորներին հեռու պահել վիրավորական նյութերի հետ անմիջական շփումից, այլև նրանց հնարավորություն տալ կենտրոնանալու այնպիսի որոշումների վրա, որոնք պահանջում են ավելի նուրբ գնահատում և մարդկային դատողություն։

SafetyKit-ի ագենտներից յուրաքանչյուրը նախատեսված է ռիսկի որոշակի կատեգորիայով զբաղվելու համար՝ խարդախություններից մինչև անօրինական ապրանքներ։ Բովանդակության յուրաքանչյուր միավոր ուղղվում է այդ խախտմանը լավագույնս համապատասխանող ագենտին՝ օգտագործելով OpenAI-ի օպտիմալ մոդելը։

• GPT‑5-ը տեքստի, պատկերների և միջերեսի տարբեր տարրերի վրա կիրառում է բազմամոդալ դատողություն՝ թաքնված ռիսկերը բացահայտելու և ավելի շերտավորված ու ճշգրիտ որոշումներ կայացնելուն աջակցելու համար
• GPT‑4.1-ը հուսալի է բովանդակության քաղաքականության մանրամասն հրահանգներին հետևելու հարցում և արդյունավետորեն կառավարում է մեծ ծավալի մոդերացիոն աշխատանքային հոսքեր
• Ամրապնդումով կարգավորման (RFT) շնորհիվ մոդելն ավելի լավ է որսում անհրաժեշտ դեպքերը և ավելի ճշգրիտ է աշխատում, քան կանխադրված տարբերակները, իսկ բարդ անվտանգության կանոնների դեպքում հասնում է առաջատար արդյունքների
• Խորքային ուսումնասիրությունը վաճառողների գնահատման ու վավերացման գործընթացում ինտեգրում է իրական ժամանակում կատարվող առցանց ուսումնասիրություն
• Համակարգիչ օգտագործող ագենտը (CUA) ավտոմատացնում է կանոնակարգերի հետ կապված բարդ առաջադրանքները՝ նվազեցնելով ծախսատար ձեռքով ստուգումների անհրաժեշտությունը

Այս մոտեցման շնորհիվ SafetyKit-ը կարողանում է մեծ ծավալներով իրականացնել տարբեր տեսակի բովանդակության ստուգում՝ ապահովելով ավելի նուրբ գնահատում և ավելի բարձր ճշգրտություն, քան ավանդական լուծումներն են առաջարկում։

Օրինակ՝ Խաբեության հայտնաբերման ագենտը չի սահմանափակվում միայն տեքստը սկանավորելով։ Այն վերլուծում է տեսողական տարրեր, օրինակ՝ ապրանքի պատկերներում ներկառուցված QR կոդեր կամ հեռախոսահամարներ։ GPT‑4.1-ն օգնում է վերլուծել պատկերը, հասկանալ դրա կառուցվածքն ու դասավորությունը և որոշել՝ արդյոք դա խախտում է կանոնները։

Պարտադիր բացահայտումների ստուգման ագենտը ստուգում է ապրանքների հայտարարությունները կամ նպատակային էջերը՝ տեսնելու, թե արդյոք ներառված են բոլոր պարտադիր ձևակերպումները, օրինակ՝ իրավական ծանոթագրությունները կամ կոնկրետ տարածաշրջանի համար պահանջվող համապատասխանության զգուշացումները։ GPT‑4.1-ն առանձնացնում է համապատասխան բաժինները, GPT‑5-ը գնահատում է համապատասխանությունը, իսկ ագենտը նշում է խախտումները։

«Մենք մեր ագենտներին դիտարկում ենք որպես հատուկ նպատակների համար ստեղծված աշխատանքային հոսքեր»,- ասում է Գրաունկեն։ -«Որոշ առաջադրանքներ պահանջում են խորը հիմնավորում, իսկ մյուսները՝ բազմամոդալ համատեքստ։ OpenAI-ը միակ հարթակն է, որը երկու դեպքում էլ ապահովում է հուսալի կատարողականություն»։

Քաղաքականության կիրառման հետ կապված որոշումները հաճախ կախված են նուրբ տարբերակումներից։ Օրինակ՝ պատկերացրեք առևտրի մի հարթակ, որտեղ վաճառողներից պահանջվում է առողջ կենսակերպը խթանող ապրանքների համար ներառել համապատասխան իրավական նշում, ընդ որում այդ պահանջները փոխվում են՝ կախված ապրանքի ներկայացվող ազդեցությունից և տվյալ տարածաշրջանի կանոններից։ Ավանդական համակարգերը սովորաբար աշխատում են հիմնաբառերի կամ խստորեն ֆիքսված կանոնների հիման վրա, բայց այդ մոտեցումը հաճախ բավարար չէ նման որոշումների համար անհրաժեշտ ավելի խորքային գնահատումը կատարելու համար, ինչի հետևանքով խախտումները կարող են կամ անտեսվել, կամ սխալ գնահատվել։

SafetyKit-ի՝ Պարտադիր բացահայտումների ստուգման ագենտը սկզբում հղում է անում SafetyKit-ի ներքին կանոնների գրադարանին, իսկ հետո GPT‑5‑ը գնահատում է բովանդակությունը՝ տեսնելու համար, թե արդյոք այնտեղ խոսք կա բուժման կամ կանխարգելման մասին։ Արդյո՞ք այն վաճառվում է մի տարածաշրջանում, որտեղ այդպիսի ծանոթագրությունը պարտադիր է։ Եվ եթե այո, ապա արդյո՞ք հայտարարության մեջ իսկապես ներառված է պահանջվող ձևակերպումը։ Եթե որևէ բան թերի է, GPT‑5-ը վերադարձնում է հստակ կառուցվածքային արդյունք, և դրա հիման վրա գործիքը նշում է խնդիրը։

«GPT‑5‑ի ուժը երևում է նրանում, թե որքան ճշգրիտ կարող է դատել, երբ հիմնվում է իրական կանոնների վրա»,– նշում է Գրաունկեն։ «Դրա շնորհիվ մենք կարողանում ենք ճիշտ և հիմնավոր որոշումներ կայացնել նույնիսկ այն բարդ իրավիճակներում, որտեղ մյուս համակարգերը ձախողում են»։

SafetyKit-ն OpenAI-ի յուրաքանչյուր նոր մոդել փորձարկում է իր ամենաբարդ դեպքերի վրա և հաճախ նույն օրը գործարկում է լավագույն արդյունք ցույց տված տարբերակները։ Մանրակրկիտ ներքին գնահատումների շնորհիվ թիմը կարողանում է արագ հասկանալ, թե նոր մոդելներն ինչպես կարող են բարելավել արդյունավետությունը, և առանց խոչընդոտների դրանք ներառել իրենց հիմնական ենթակառուցվածքում։

Երբ OpenAI-ի o3 մոդելը հասանելի դարձավ, SafetyKit-ն այն կիրառեց՝ կարևոր կանոնակարգային ոլորտներում բարդ սահմանային դեպքերի մշակումը ուժեղացնելու համար։ Դրան հաջորդեց GPT‑5‑ը, որը մի քանի օրում արդեն ներդրվել էր նրանց ամենաբարդ ագենտներում և ամենադժվար տեսողական խնդիրների դեպքում համեմատական արդյունքները բարձրացրել էր ավելի քան 10 միավորով։

SafetyKit-ը նաև իր փորձից ստացված բարելավումները փոխանցում է էկոհամակարգին՝ OpenAI-ի հետ կիսվելով գնահատումների արդյունքներով, եզրային բարդ դեպքերում ի հայտ եկած սխալներով և առանձին կանոնակարգերի վերաբերյալ խորքային դիտարկումներով, որպեսզի ապագա մոդելներն ավելի լավ աշխատեն այն ոլորտներում, որտեղ անվտանգությունը վճռորոշ է։

SafetyKit-ի ճարտարապետությունը թույլ է տալիս լայն մասշտաբով ապահովել կանոնների կիրառումը՝ միաժամանակ պահպանելով արագությունը, ճշգրտությունը և ռիսկերի համապարփակ ծածկույթը։ Ներքին մակարդակում համակարգն այժմ օրական մշակում է ավելի քան 16 մլրդ նշան, մինչդեռ վեց ամիս առաջ այդ ցուցանիշը 200 մլն էր՝ վերլուծելով ավելի մեծ ծավալի բովանդակություն առանց ճշգրտությունը կորցնելու։

Միևնույն ժամանակ, SafetyKit-ը մուտք է գործել նաև վճարումների ռիսկերի, խարդախության դեմ պայքարի, երեխաների շահագործման կանխարգելման և փողերի լվացման դեմ պայքարի ոլորտներ, ինչպես նաև ձեռք բերել նոր հաճախորդներ, որոնց հարյուրավոր միլիոնավոր օգտատերերը պաշտպանվում են SafetyKit-ի կողմից։ Այս հիմքի շնորհիվ հաճախորդները կարողանում են արագ ու վստահ գործել, երբ առաջանում են նոր ռիսկեր։

«Մենք այնպիսի գործընթաց ենք ձևավորել, որ OpenAI-ի ամեն նոր թողարկում անմիջապես ավելի է ուժեղացնում մեր համակարգը»,– ասում է Գրաունկեն։ –«Դրա շնորհիվ էլ համակարգը անընդհատ կատարելագործվում է և կարողանում է միշտ մեկ քայլ առաջ լինել զարգացող ռիսկերից»։

• Հաճախորդների բովանդակության 100%-ը ստուգելիս՝ 95% և ավելի ճշգրտություն
• Օրական մշակվում է 16 մլրդ թոքեն․ վեց ամիս առաջ այս թիվը կազմում էր 200 մլն
• Ամենաբարդ տեսողական առաջադրանքներում 10 և ավելի միավորի աճ