SafetyKit scalează agenții de risc cu cele mai bune modele OpenAI
De la prototipare cu previzualizări timpurii ale modelelor vizuale până la scalare cu GPT‑5, agenții multimodali SafetyKit se extind în noi domenii și sporesc precizia.
Rezultate
95%+
Acuratețe în revizuirea a 100% din conținutul clienților (evaluări SafetyKit)
Rezultate
16B
Tokenuri procesate zilnic, în creștere de la 200 de milioane în urmă cu șase luni
Rezultate
10+
Creșteri de performanță punctuală la sarcinile vizuale dificile cu GPT-5
SafetyKit(se deschide într-o fereastră nouă) creează agenți IA multimodali pentru a ajuta marketplace-uri, platforme de plăți și companii fintech să detecteze și să acționeze împotriva fraudei și a activităților interzise din texte, imagini, tranzacții financiare, listări de produse și nu numai. Progresele recente majore din raţionamentul modelelor și înțelegerea multimodală fac acum acest lucru mai eficient, stabilind un nou standard pentru operațiunile de gestionare a riscurilor, conformitate și siguranță.
Agenții SafetyKit valorifică GPT‑5, GPT‑4.1, cercetarea aprofundată și agentul de utilizare a computerului (CUA) pentru a analiza 100% din conținutul clienților, cu o precizie de peste 95%, pe baza evaluărilor SafetyKit. Acestea pot ajuta platformele să protejeze utilizatorii, să prevină frauda, să evite amenzile de reglementare și să aplice politici complexe pe care sistemele vechi le-ar putea omite, cum ar fi regulile specifice anumitor regiuni, numerele de telefon încorporate în imagini frauduloase sau conținutul explicit. Automatizarea poate proteja și moderatorii umani de expunerea la materiale ofensatoare și îi eliberează pentru a gestiona decizii de politici nuanțate.
„OpenAI ne oferă acces la cele mai avansate modele multimodale și de raționament de pe piață. Ne permite să ne adaptăm rapid, să livrăm agenți noi mai repede și să gestionăm tipuri de conținut pe care alte soluții nici măcar nu le pot analiza.”
Proiectează agenți pentru ceea ce cere sarcina, apoi alege modelul potrivit
Fiecare dintre agenții SafetyKit este conceput pentru a gestiona o anumită categorie de risc, de la escrocherii la produse ilegale. Fiecare element de conținut este direcționat către agentul cel mai potrivit pentru acea încălcare, folosind modelul OpenAI optim:
- GPT‑5 aplică raționament multimodal în text, imagini și interfața utilizatorului pentru a scoate la iveală riscuri ascunse și a sprijini luarea deciziilor precise și stratificate.
- GPT‑4.1 respectă în mod fiabil instrucțiunile detaliate privind politica de conținut și gestionează eficient fluxurile de lucru de moderare cu volum mare
- Reglarea fină prin consolidare (RFT) îmbunătățește reamintirea și precizia față de modelele implicite, obținând performanțe de vârf cu politici complexe de siguranță
- Cercetarea aprofundată integrează investigații online în timp real în recenziile și verificările comercianților
- Agentul de utilizare a computerului (CUA) automatizează sarcinile complexe legate de politici, reducând dependența de revizuirile manuale costisitoare
Această abordare de corelare a modelelor permite ca SafetyKit să extindă revizuirea conținutului în toate modalitățile, cu mai multă nuanță și precizie decât soluțiile tradiționale.
De exemplu, agentul de detectare a înșelătoriilor depășește simpla scanare a textului. Analizează elemente vizuale precum coduri QR sau numere de telefon integrate în imaginile produselor. GPT‑4.1 îl ajută să interpreteze imaginea, să înțeleagă aspectul și să decidă dacă reprezintă o încălcare a politicilor.
Agentul de dezvăluire a politicilor verifică anunțurile sau paginile de destinație pentru a se asigura că conțin textele necesare, cum ar fi mențiunile legale sau avertismentele de conformitate specifice fiecărei regiuni. GPT‑4.1 extrage secțiunile relevante, GPT‑5 evaluează conformitatea, iar agentul semnalează încălcările.
„Ne gândim la agenții noștri ca la niște fluxuri de lucru concepute special”, spune Graunke. „Unele sarcini necesită raţionament profund, altele au nevoie de context multimodal. OpenAI este singura platformă care oferă performanțe fiabile în ambele cazuri.”
Folosește GPT‑5 pentru a gestiona situațiile neclare și deciziile importante
Deciziile privind politicile depind adesea de distincții subtile. Să luăm ca exemplu un marketplace care le impune vânzătorilor să includă o clauză de declinare a responsabilității pentru produsele de bunăstare, cerințele variind în funcție de afirmațiile despre produs și de regulile regionale. Furnizorii vechi folosesc declanșatoare bazate pe cuvinte-cheie sau seturi rigide de reguli, care pot rata judecățile mai nuanțate pe care aceste decizii le pot necesita, ceea ce duce la o aplicare omisă sau incorectă.
Agentul de dezvăluire a politicilor SafetyKit verifică inițial politicile din biblioteca internă a SafetyKit, apoi GPT‑5 evaluează conținutul: menționează tratarea sau prevenția? Se vinde într-o regiune în care dezvăluirea este obligatorie? Și, dacă da, limba necesară este într-adevăr inclusă în anunț? Dacă ceva nu este în regulă, GPT‑5 generează un răspuns structurat pe care agentul îl folosește pentru a semnala problema.
„Puterea lui GPT‑5 constă în cât de precis poate raționa atunci când se bazează pe politici reale”, remarcă Graunke. „Ne permite să luăm decizii corecte și justificabile chiar și în cazurile limită în care alte sisteme eșuează.”
Transformă fiecare lansare de model într-un succes pentru produs
SafetyKit evaluează fiecare nou model OpenAI în raport cu cele mai dificile cazuri ale sale, implementând adesea cele mai performante modele chiar în aceeași zi! Evaluările interne riguroase îi permit echipei să identifice rapid cum noul model poate îmbunătăți performanța și să se integreze fără probleme în infrastructura sa de bază.
Când a fost lansat OpenAI o3, SafetyKit l-a folosit pentru a îmbunătăți performanța în situațiile limită în domenii cheie de politici. A urmat GPT‑5 și, în câteva zile, a fost implementat în cei mai solicitanți agenți ai săi, îmbunătățind scorurile testelor de performanță cu peste 10 puncte la cele mai dificile sarcini vizuale.
„OpenAI se mișcă rapid, iar noi ne-am conceput sistemul astfel încât să țină pasul. Fiecare nouă lansare ne oferă un avantaj operațional, deblocând noi capacități și domenii pe care înainte nu le puteam susține și sporind acoperirea și acuratețea pe care le oferim clienților.”
SafetyKit reintroduce îmbunătățiri în ecosistem, partajând direct cu OpenAI rezultatele evaluărilor, eșecurile din cazurile limită și informații specifice politicilor pentru a contribui la definirea performanței viitoare a modelelor pentru sarcini critice din punct de vedere al siguranței.
Scalează creșterea clienților și a volumului cu cea mai bună soluție OpenAI
Arhitectura SafetyKit impune politicile la scară largă, oferind viteză, precizie și acoperire completă a riscurilor. În culise, acum gestionează peste 16 miliarde de tokenuri zilnic, în creștere de la 200 de milioane față de acum șase luni, analizând mai mult conținut fără a sacrifica acuratețea.
În același timp, SafetyKit s-a extins la riscul în domeniul plăților, fraudă, combaterea exploatării copiilor, combaterea spălării banilor și noi clienți, cu sute de milioane de utilizatori finali aflați sub protecția SafetyKit. Această bază le oferă clienților posibilitatea să răspundă rapid și cu încredere la riscurile emergente.
„Am creat o buclă în care fiecare lansare OpenAI ne consolidează direct capacitățile”, spune Graunke. „De aceea, sistemul se îmbunătățește continuu, rămânând mereu cu un pas înaintea riscurilor în evoluție.”
Rezultate dintr-o privire
- Acuratețe de 95%+ în analizarea a 100% din conținutul clienților
- 16 miliarde de tokenuri procesate zilnic, față de 200 de milioane în urmă cu șase luni
- Câștiguri de peste 10 puncte în testele de performanță pentru cele mai dificile sarcini de procesare vizuală
