SafetyKit прилага агентите за риск с най-мощните модели на OpenAI

SafetyKit⁠(отваря се в нов прозорец) създава мултимодални агенти с изкуствен интелект, които помагат на пазарите, платежните платформи и финтех компаниите да откриват и предприемат действия срещу измами и забранени дейности в текстове, изображения, финансови трансакции, продуктови обяви и други. Последните пробиви в структурираното анализиране на модела и мултимодалното разбиране правят този процес по-ефективен, като поставят нови стандарти за операциите за управлението на риска, съответствието и безопасността.

Агентите на SafetyKit използват GPT‑5, GPT‑4.1, дълбоко проучване и използващ компютър агент (CUA), за да проверяват 100% от клиентското съдържание с над 95% точност според оценките на SafetyKit. Те могат да помогнат на платформите да защитават потребителите, да предотвратяват измами, да избягват регулаторни глоби и да прилагат сложни политики, които предходните системи може да пропуснат, като специфични за даден регион правила, вградени телефонни номера в изображения за измами или възрастово ограничено съдържание. Автоматизацията може също така да предпази човешките модератори от излагане на обидни материали и да им даде свобода да се занимават с нюансирани решения, свързани с политиките.

Агентите на SafetyKit са създадени да се справят с конкретна категория риск – от измами до незаконни продукти. Всяка част от съдържанието се насочва към агента, който е най-подходящ за съответното нарушение, като се използва оптималният модел на OpenAI:

• GPT‑5 прилага мултимодално структурирано анализиране върху текст, изображения и потребителски интерфейс, за да открива скрити рискове и да подпомага многостепенното и прецизно вземане на решения
• GPT‑4.1 следва надеждно подробни инструкции относно политиката за съдържанието и ефективно управлява работни процеси за модериране с голям обем
• Финото настройване с утвърждение (RFT) повишава обхвата и прецизността в сравнение със стандартните модели, постигайки водещи резултати при сложни политики за безопасност
• Дълбоко проучване интегрира онлайн разследване на отзиви и проверки на търговци в реално време
• Използващ компютър агент (CUA) автоматизира сложни задачи, свързани с политиките, като намалява зависимостта от скъпоструващи ръчни прегледи

Този подход за съпоставяне на модели позволява на SafetyKit да мащабира прегледа на съдържанието в различни модалности с повече нюанси и точност, отколкото могат да предложат традиционните решения.

Агентът за откриване на измами, например, не извършва просто сканиране на текст. Той анализира визуални елементи като QR кодове или телефонни номера, вградени в изображенията на продукти. GPT‑4.1 му помага да анализира изображението, да разбере оформлението и да прецени дали се установява нарушение на политиките.

Агентът за оповестяване на политики проверява обявите или целевите страници за наличието на задължителни текстове, като например правни декларации за отказ от отговорност или специфични за даден регион предупреждения за съответствие. GPT‑4.1 извлича съответните раздели, GPT‑5 оценява съответствието, а агентът сигнализира за нарушения.

„Разглеждаме нашите агенти като специално създадени работни процеси“, казва Граунке. „Някои задачи изискват структурирано анализиране, а други се нуждаят от мултимодален контекст. OpenAI е единствената платформа, която осигурява надеждна производителност и в двата случая.“

Решенията по отношение на политиките често зависят от фини разграничения. Да разгледаме пазар, който изисква от продавачите да включват декларация за отказ от отговорност за продукти за здраве, като изискванията варират в зависимост от твърденията за продукта и регионалните правила. Традиционните доставчици използват задействащи механизми по ключови думи или набори от строги правила, които могат да пропуснат по-задълбочените преценки, изисквани от тези решения, което води до пропуснато или неправилно прилагане.

Агентът за оповестяване на политики на SafetyKit първо прави справка в политиките от вътрешната библиотека на SafetyKit, след което GPT‑5 оценява съдържанието: споменава ли се лечение или профилактика? Продава ли се продуктът в регион, в който оповестяването на информация е задължително? И ако е така, необходимият текст действително ли е включен в обявата? Ако нещо не е наред, GPT‑5 връща структурирани изходни данни, които агентът използва, за да сигнализира за проблема.

„Силата на GPT‑5 се състои в това колко прецизно може да анализира, когато се основава на реални политики“, отбелязва Граунке. „Това ни позволява да вземаме точни и обосновани решения дори в крайни случаи, в които други системи се провалят.“

SafetyKit сравнява всеки нов модел на OpenAI с най-трудните си случаи, като често внедрява най-добре представящите се модели още същия ден. Строгите вътрешни оценки позволяват на екипа бързо да идентифицира как новите модели могат да подобрят производителността и да се интегрират безпроблемно в основната инфраструктура.

Когато бе пуснат OpenAI o3, SafetyKit го използва, за да подобри производителността в гранични случаи в ключови области на политиката. След него беше пуснат GPT‑5, който в рамките само на дни беше внедрен в най-взискателните агенти на компанията, подобрявайки резултатите на тестовете по показатели с повече от 10 пункта при най-трудните задачи за визуално разпознаване.

Същевременно SafetyKit връща подобренията в екосистемата, като споделя резултати от оценки, случаи на отказ при гранични случаи и конкретни данни за политиките директно с OpenAI, за да подпомогне бъдещата производителност на моделите при критични за безопасността работни задачи.

Архитектурата на SafetyKit прилага политиките в мащаб, осигурявайки скорост, прецизност и цялостно покритие на риска. Зад кулисите тя вече обработва над 16 млрд. токена дневно в сравнение с 200 млн. преди шест месеца, като анализира повече съдържание, без да прави компромис с точността.

През същия период SafetyKit разшири обхвата си до рискове, свързани с плащания, измами, борба с експлоатацията на деца, борба с изпирането на пари и нови клиенти със стотици милиони крайни потребители под защитата на компанията. Тази основа дава възможност на клиентите да реагират бързо и уверено при нововъзникващи рискове.

„Създадохме цикъл, при който всяко ново издание на OpenAI директно укрепва нашите възможности“, казва Граунке. „Затова системата непрекъснато се усъвършенства и винаги изпреварва развиващите се рискове.“

• Над 95% точност при прегледа на 100% от клиентското съдържание
• 16 млрд. токена, обработвани дневно, спрямо 200 млн. преди шест месеца
• Подобрение с над 10 пункта в сравнителните тестове при най-трудните задачи за визуално разпознаване