„SafetyKit“ naudoja naujausius „OpenAI“ rizikos valdymo agentus

SafetyKit⁠(atsidaro naujame lange) kuria daugiarūšius DI agentus, padedančius prekybos platformoms, mokėjimo sistemoms ir finansinių technologijų įmonėms aptikti sukčiavimą bei draudžiamą veiklą ir į ją reaguoti analizuojant tekstą, vaizdus, finansines operacijas, prekių sąrašus ir dar daugiau. Dėl naujausių proveržių modelių protavimo ir daugiarūšio supratimo srityse dabar tai daroma efektyviau, taip nustatant naują standartą rizikos, atitikties ir saugos operacijose.

„SafetyKit“ agentai naudoja GPT‑5, GPT‑4.1, gilųjį tyrimą ir kompiuterį naudojantį agentą (CUA), kad peržiūrėtų 100 proc. klientų turinio didesniu nei 95 proc. tikslumu, remiantis pačios „SafetyKit“ vertinimais. Jie gali padėti platformoms apsaugoti naudotojus, užkirsti kelią sukčiavimui, išvengti reguliavimo institucijų baudų ir užtikrinti sudėtingos politikos vykdymą, ko senos sistemos gali nepastebėti, pavyzdžiui, specifinių regioninių taisyklių, į sukčiavimui skirtus vaizdus įterptų telefonų numerių ar nepadorų turinį. Automatizavimas taip pat gali apsaugoti žmones moderatorius nuo susidūrimo su įžeidžiančiu turiniu ir leidžia priimti subtilesnius, su politika susijusius sprendimus.

Kiekvienas „SafetyKit“ agentas sukurtas tam tikrai rizikos kategorijai – nuo sukčiavimo iki nelegalių prekių – valdyti. Kiekvienas turinio vienetas nukreipiamas agentui, geriausiai tinkančiam konkrečiam pažeidimui, naudojant optimalų „OpenAI“ modelį:

• GPT‑5 taiko daugiarūšį protavimą analizuodamas tekstą, vaizdus ir naudotojo sąsają, kad atskleistų paslėptą riziką ir palaikytų daugiapakopį, tikslų sprendimų priėmimą.
• GPT‑4.1 patikimai laikosi išsamių turinio politikos instrukcijų ir efektyviai valdo didelės apimties moderavimo procesus.
• Skatinamasis suderinimas (angl. „Reinforcement Fine-Tuning“, RFT) padidina aprėptį ir tikslumą lyginant su numatytaisiais modeliais, pasiekiant priešakinį našumą taikant sudėtingą saugos politiką.
• Gilusis tyrimas integruoja realiojo laiko internetinius tyrimus į prekybininkų peržiūras ir patikras.
• Kompiuterį naudojantis agentas (CUA) automatizuoja sudėtingas politikos užduotis, sumažindamas brangiai kainuojančių rankinių peržiūrų poreikį.

Šis modelių derinimo metodas leidžia „SafetyKit“ plėsti turinio peržiūrą įvairiais formatais su daugiau niuansų ir tikslumo, nei gali senieji sprendimai.

Pavyzdžiui, sukčiavimo aptikimo agentas neapsiriboja vien teksto nuskaitymu. Jis analizuoja tokius vaizdinius elementus kaip QR kodai arba prekių vaizduose įterpti telefonų numeriai. GPT‑4.1 padeda jam apdoroti vaizdą, suprasti maketą ir nuspręsti, ar tai politikos pažeidimas.

Informacijos atskleidimo agentas tikrina skelbimus arba nukreipimo puslapius, ar juose yra reikiamo teksto, pavyzdžiui, teisinių atsakomybės ribojimų arba regioninių atitikties įspėjimų. GPT‑4.1 ištraukia atitinkamas dalis, GPT‑5 įvertina atitiktį, o agentas pažymi pažeidimus.

„Į savo agentus žiūrime kaip į specializuotus procesus, – sako D. Graunke. – Kai kurioms užduotims reikia giliojo protavimo, kitoms – daugiarūšio konteksto.“ „OpenAI“ yra vienintelis technologijų dėklas, užtikrinantis patikimą našumą abiem atvejais.“

Politikos sprendimai dažnai priklauso nuo subtilių skirtumų. Paimkime, pavyzdžiui, prekybos platformą, kurioje reikalaujama, kad pardavėjai pateiktų informaciją apie sveikatingumo produktus, o reikalavimai skiriasi priklausomai nuo produkto savybių ir regioninių taisyklių. Senųjų sistemų tiekėjai naudoja raktažodžių aktyviklius arba griežtas taisykles, dėl kurių gali būti praleidžiamas gilesnis situacijos vertinimas, o tai lemia praleistus ar neteisingus sprendimus.

„SafetyKit“ informacijos atskleidimo agentas pirmiausia peržiūri politiką iš „SafetyKit“ vidinės bibliotekos, o tada GPT‑5 įvertina turinį: ar jame užsimenama apie gydymą ar prevenciją? Ar prekė parduodama regione, kuriame privaloma atskleisti šią informaciją? Jei taip, ar skelbime iš tiesų pateiktas reikiamas tekstas? Jei ko nors trūksta, GPT‑5 pateikia susistemintą išvestį, kurią agentas naudoja problemai pažymėti.

„GPT‑5 galia slypi tame, kaip tiksliai jis gali protauti remdamasis realia politika“, – pažymi D. Graunke. „Tai leidžia mums priimti tikslius ir pagrįstus sprendimus net ir ribiniais atvejais, kai kitos sistemos susiduria su sunkumais.“

„SafetyKit“ testuoja kiekvieną naują „OpenAI“ modelį su sudėtingiausiais atvejais, o geriausius rezultatus parodžiusius modelius dažnai įdiegia dar tą pačią dieną. Griežti vidiniai vertinimai leidžia komandai greitai nustatyti, kaip nauji modeliai gali pagerinti našumą, ir sklandžiai integruoti juos į pagrindinę infrastruktūrą.

Kai buvo išleistas „OpenAI o3“, „SafetyKit“ naudojo jį, kad pagerintų ribinių atvejų vertinimo našumą pagrindinėse politikos srityse. Po jo sekė GPT‑5, ir per kelias dienas jis buvo įdiegtas sudėtingiausiems agentams, padidinant testų rezultatus daugiau nei 10 taškų atliekant sunkiausias vaizdo analizės užduotis.

„SafetyKit“ taip pat grąžina patobulinimus atgal į ekosistemą – dalijasi vertinimų rezultatais, nesėkmingais ribiniais atvejais ir su politika susijusiomis įžvalgomis tiesiogiai su „OpenAI“, kad padėtų formuoti būsimą modelio našumą saugai svarbioms darbo apkrovoms.

„SafetyKit“ architektūra užtikrina politikos vykdymą dideliu mastu, garantuodama greitį, tikslumą ir visapusišką rizikos aprėptį. Užkulisiuose dabar ji kasdien apdoroja daugiau nei 16 milijardų žetonų – tai gerokai daugiau nei prieš pusmetį, kai buvo apdorojama 200 milijonų, analizuojant didesnį turinio kiekį neaukojant tikslumo.

Per tą patį laiką „SafetyKit“ išplėtė savo veiklą į mokėjimų rizikos, sukčiavimo, kovos su vaikų išnaudojimu, pinigų plovimo prevencijos sritis, pritraukdama naujų klientų ir užtikrindama šimtų milijonų galutinių naudotojų apsaugą. Šis pagrindas įgalina klientus greitai ir užtikrintai reaguoti į kylančią riziką.

„Sukūrėme ciklą, kuriame kiekvienas naujas „OpenAI“ išleidimas tiesiogiai stiprina mūsų galimybes, – teigia D. Graunke. – Štai kodėl sistema nuolat tobulėja ir visada išlieka priekyje atsirandančios rizikos.“

• 95 % tikslumas peržiūrint 100 % klientų turinio
• Kasdien apdorojama 16 mlrd. žetonų – padidėjimas nuo 200 mln. per pusmetį
• 10 taškų geresni rezultatai atliekant sudėtingiausias vaizdo atpažinimo užduotis