SafetyKit vurderer risikofaktorer vha OpenAIs avancerede modeller

SafetyKit⁠(åbner i et nyt vindue) udvikler multimodale AI-agenter, der hjælper markedspladser, betalingsplatforme og fintech-virksomheder med at opdage og reagere på svindel og ulovlige aktiviteter i tekster, billeder, finansielle transaktioner, produktopslag og meget mere. De seneste fremskridt inden for modelbaseret ræsonnement og multimodal forståelse gør dette nu mere effektivt og sætter nye standarder for arbejdet med risiko, compliance og sikkerhed.

SafetyKits agenter udnytter GPT‑5, GPT‑4.1, dybdegående research og Computer Using Agent (CUA) til at gennemgå 100 % af kundernes indhold med en nøjagtighed på over 95 % ifølge SafetyKits egne evalueringer. De kan hjælpe platforme med at beskytte brugerne, forhindre svindel, undgå bøder fra myndighederne og håndhæve komplekse retningslinjer, som ældre systemer måske overser, såsom regionsspecifikke regler, telefonnumre indlejret i svindelbilleder eller eksplicit indhold. Automatisering kan også beskytte menneskelige moderatorer mod at blive udsat for stødende indhold og giver dem dermed mere tid til at tage stilling til nuancerede politiske beslutninger.

SafetyKits agenter er hver især udviklet til at håndtere en bestemt risikokategori, lige fra svindel til ulovlige produkter. Hvert stykke indhold videresendes til den agent, der er bedst egnet til at håndtere den pågældende overtrædelse, ved hjælp af den optimale OpenAI-model:

• GPT‑5 anvender multimodal ræsonnering på tværs af tekst, billeder og brugergrænseflader for at afdække skjulte risici og understøtte en nuanceret og præcis beslutningstagning
• GPT‑4.1 følger pålideligt detaljerede retningslinjer for indholdspolitik og håndterer effektivt moderationsarbejdsgange med store datamængder
• Finjustering ved hjælp af forstærkning (RFT) forbedrer genkaldelse og præcision i forhold til standardmodellerne og opnår banebrydende resultater med komplekse sikkerhedspolitikker
• En grundig undersøgelse integrerer onlineundersøgelser i realtid af anmeldelser og verifikationer af forhandlere
• Computerbaseret agent (CUA) automatiserer komplekse opgaver i forbindelse med sikkerhedspolitikker og mindsker dermed behovet for dyre manuelle gennemgange

Denne modelbaserede tilgang gør det muligt for SafetyKit at skalere indholdsgennemgangen på tværs af modaliteter med større nuancering og nøjagtighed, end ældre løsninger kan.

Agenten til afsløring af svindel går for eksempel langt ud over blot at scanne tekst. Den analyserer visuelle elementer som QR-koder eller telefonnumre, der er indlejret i produktbilleder. GPT‑4.1 hjælper med at analysere billedet, forstå dets opbygning og afgøre, om der er tale om en overtrædelse af retningslinjerne.

Agenten til politikoplysning tjekker produktopslag eller landingssider for obligatoriske tekster, såsom juridiske ansvarsfraskrivelser eller regionsspecifikke advarsler om overholdelse af lovgivning. GPT‑4.1 udtrækker relevante afsnit, GPT‑5 vurderer overholdelsen, og agenten markerer overtrædelser.

"Vi betragter vores agenter som specialudviklede arbejdsgange," siger Graunke. "Nogle opgaver kræver dybdegående ræsonnering, andre kræver multimodal kontekst. OpenAI er den eneste platform, der leverer pålidelig ydeevne på begge områder."

Politiske beslutninger afhænger ofte af subtile nuancer. Tag for eksempel en markedsplads, hvor sælgerne skal medtage en ansvarsfraskrivelse for wellness-produkter, hvor kravene varierer afhængigt af produktpåstande og lokale regler. Traditionelle udbydere anvender nøgleordsbaserede udløsere eller faste regelsæt, hvilket kan betyde, at de overser de mere nuancerede vurderinger, som disse beslutninger kan kræve, hvilket kan føre til manglende eller forkert håndhævelse.

SafetyKits Policy Disclosure-agent søger først efter policer i SafetyKits interne bibliotek, hvorefter GPT‑5 vurderer indholdet: nævnes der behandling eller forebyggelse? Sælges det i et område, hvor der er oplysningspligt? Og hvis det er tilfældet, er det pågældende sprog så faktisk angivet i annoncen? Hvis noget ikke lever op til forventningerne, returnerer GPT‑5 et struktureret output, som agenten bruger til at markere problemet.

"Styrken ved GPT‑5 ligger i, hvor præcist det kan ræsonnere, når det tager udgangspunkt i reel politik," bemærker Graunke. “Det gør det muligt for os at træffe præcise og velbegrundede beslutninger, selv i de grænsesager, hvor andre systemer svigter.”

SafetyKit benchmarker hver ny OpenAI-model mod sine sværeste cases og implementerer ofte de bedst præsterende allerede samme dag. Gennem grundige interne evalueringer kan teamet hurtigt afgøre, hvordan nye modeller kan forbedre ydeevnen og integreres problemfrit i deres centrale infrastruktur.

Da OpenAI o3 blev lanceret, benyttede SafetyKit det til at forbedre ydeevnen i grænsetilfælde inden for centrale politikområder. Derefter fulgte GPT‑5, og inden for få dage blev det taget i brug hos deres mest krævende agenter, hvilket forbedrede benchmark-resultaterne med mere end 10 point i deres sværeste billedbehandlingsopgaver.

SafetyKit bidrager også med forbedringer til økosystemet ved at dele evalueringsresultater, fejl i grænsetilfælde og politikspecifikke indsigter direkte med OpenAI for at være med til at forme fremtidige modellers ydeevne i forbindelse med sikkerhedskritiske arbejdsopgaver.

SafetyKits arkitektur sikrer overholdelse af retningslinjer i stor skala og leverer hurtighed, præcision og omfattende risikodækning. Bag kulisserne behandler systemet nu over 16 milliarder tokens dagligt – en stigning fra 200 millioner for seks måneder siden – og analyserer dermed mere indhold uden at gå på kompromis med nøjagtigheden.

I samme periode har SafetyKit udvidet sine aktiviteter til at omfatte betalingsrisici, svindel, bekæmpelse af udnyttelse af børn, bekæmpelse af hvidvaskning af penge samt nye kunder, hvilket betyder, at hundredvis af millioner af slutbrugere nu er under SafetyKits beskyttelse. Dette fundament gør det muligt for kunderne at reagere hurtigt og trygt på nye risici.

"Vi har skabt en cirkel, hvor hver eneste OpenAI-udgivelse direkte styrker vores kapacitet," siger Graunke. "Derfor bliver systemet hele tiden bedre og er altid et skridt foran de nye risici.«

• Nøjagtighed på over 95 % ved gennemgang af 100 % af kundernes indhold
• Der behandles dagligt 16 milliarder tokens, hvilket er en stigning fra 200 millioner på seks måneder
• En forbedring på mere end 10 point i benchmark-testene for de sværeste synsopgaver