SafetyKit מרחיבה סוכני סיכון עם מיטב המודלים של OpenAI

SafetyKit⁠(נפתח בחלון חדש) מפתחת סוכני בינה מלאכותית מולטי-מודאליים כדי לעזור לזירות מסחר, לפלטפורמות תשלומים ולחברות פינטק לזהות הונאות ופעילות אסורה ולטפל בהן – בטקסט, בתמונות, בעסקאות פיננסיות, ברשומות מוצרים ועוד. פריצות דרך אחרונות ביכולות ה-reasoning וההבנה המולטי-מודאלית של מודלים מאפשרות כעת לעשות זאת ביעילות רבה יותר, ומציבות רף חדש בניהול סיכונים, ציות ובטיחות.

הסוכנים של SafetyKit נעזרים ב-GPT‑5, ב-GPT‑4.1, במחקר מעמיק ובסוכן לשימוש במחשב (CUA) כדי לבדוק 100% מתוכן הלקוחות ברמת דיוק של יותר מ-95%, לפי ההערכות של SafetyKit. הם יכולים לעזור לפלטפורמות להגן על משתמשים, למנוע הונאות, להימנע מקנסות רגולטוריים ולאכוף כללי מדיניות מורכבים שמערכות ותיקות עלולות להחמיץ – למשל כללים ייחודיים לאזור מסוים, מספרי טלפון המוטמעים בתמונות הונאה או תוכן מיני בוטה. אוטומציה יכולה גם להגן על בודקי תוכן אנושיים מפני חשיפה לחומר פוגעני, ולפנות אותם לקבלת החלטות מדיניות הדורשות שיקול דעת מורכב.

כל אחד מהסוכנים של SafetyKit נבנה לטיפול בקטגוריית סיכון מסוימת, מהונאות ועד מוצרים לא חוקיים. כל פריט תוכן מנותב לסוכן המתאים ביותר לסוג ההפרה, תוך שימוש במודל המתאים ביותר של OpenAI:

• GPT‑5 מפעיל reasoning מולטי-מודאלי על טקסט, תמונות וממשקי משתמש כדי לחשוף סיכונים נסתרים ולתמוך בקבלת החלטות מדויקת ורב-שכבתית

• GPT‑4.1 פועל באמינות לפי הוראות מפורטות של מדיניות תוכן, ומנהל ביעילות תהליכי בדיקת תוכן בהיקפים גדולים

• כוונון עדין עם למידת חיזוק (RFT) משפר את הכיסוי והדיוק מעבר למודלים בתצורת ברירת המחדל, ומשיג ביצועים בחזית הטכנולוגיה ביישום כללי מדיניות בטיחות מורכבים

• מחקר מעמיק משלב חקירה מקוונת בזמן אמת בבדיקות ובאימותים של בתי עסק

• סוכן לשימוש במחשב (CUA) מבצע אוטומציה של משימות מדיניות מורכבות ומצמצם את התלות בבדיקות ידניות יקרות

גישה זו של התאמת מודלים מאפשרת ל-SafetyKit להרחיב את בדיקת התוכן לסוגי מדיה שונים, תוך הבחנה בדקויות ודיוק העולים על יכולותיהם של פתרונות ותיקים.

הסוכן לזיהוי הונאות, למשל, לא מסתפק בסריקת טקסט. הוא מנתח רכיבים חזותיים כמו קודי QR או מספרי טלפון המוטמעים בתמונות מוצרים. GPT‑4.1 עוזר לו לפענח את התמונה, להבין את הפריסה ולהחליט אם מדובר בהפרת מדיניות.

הסוכן לבדיקת חובות גילוי בודק אם רשומות מוצרים או דפי נחיתה כוללים נוסחים נדרשים, כמו הצהרות משפטיות להגבלת אחריות או אזהרות ציות ייחודיות לאזור מסוים. GPT‑4.1 מחלץ את הקטעים הרלוונטיים, GPT‑5 בוחן את העמידה בדרישות, והסוכן מסמן הפרות.

״אנחנו רואים בסוכנים שלנו תהליכי עבודה שנבנו למטרה מוגדרת,״ אומר גראונקה. ״יש משימות שדורשות reasoning מעמיק, ואחרות שזקוקות להקשר מולטי-מודאלי. OpenAI היא התשתית הטכנולוגית היחידה שמספקת ביצועים אמינים בשני התחומים.״

החלטות בנוגע למדיניות תלויות לא פעם בהבחנות דקות. למשל, זירת מסחר שמחייבת מוכרים לכלול הצהרת הגבלת אחריות למוצרי בריאות ורווחה, עם דרישות שמשתנות לפי הטענות לגבי המוצר והכללים המקומיים. ספקים ותיקים מסתמכים על מילות מפתח או על מערכי כללים נוקשים, שעלולים להחמיץ את הצורך בשיקול דעת מעמיק יותר בהחלטות כאלה, ולהוביל לאי-אכיפה או לאכיפה שגויה.

הסוכן של SafetyKit לבדיקת חובות גילוי מעיין תחילה בכללי המדיניות בספרייה הפנימית של SafetyKit, ואז GPT‑5 בוחן את התוכן: האם מוזכרים בו טיפול או מניעה? האם המוצר נמכר באזור שבו חלה חובת גילוי? ואם כן, האם הנוסח הנדרש אכן מופיע ברשומת המוצר? אם משהו אינו עומד בדרישות, GPT‑5 מחזיר פלט מובנה שהסוכן משתמש בו כדי לסמן את הבעיה.

״העוצמה של GPT‑5 טמונה בדיוק שבו הוא מסוגל להסיק מסקנות כשהוא נשען על מדיניות ממשית,״ מציין גראונקה. ״הוא מאפשר לנו לקבל החלטות מדויקות שאפשר להצדיק, גם במקרי קצה שבהם מערכות אחרות נכשלות.״

SafetyKit בוחנת כל מודל חדש של OpenAI מול המקרים הקשים ביותר שלה, ולעיתים קרובות מטמיעה את המודלים המובילים בביצועים עוד באותו היום. הערכות פנימיות קפדניות מאפשרות לצוות לזהות במהירות כיצד מודלים חדשים יכולים לשפר ביצועים ולהשתלב בצורה חלקה בתשתית הליבה.

עם השקת OpenAI o3, השתמשה בו SafetyKit כדי לשפר את הביצועים במקרי קצה בתחומי מדיניות מרכזיים. אחריו הגיע GPT‑5, ובתוך ימים הוטמע בסוכנים התובעניים ביותר של החברה, ושיפר את ציוני מבחני הביצועים ביותר מ-10 נקודות במשימות הראייה הקשות ביותר שלה.

SafetyKit גם תורמת לשיפור המערכת האקולוגית: היא משתפת ישירות עם OpenAI תוצאות הערכה, כשלים במקרי קצה ותובנות הנוגעות לכללי מדיניות מסוימים, כדי לסייע בעיצוב הביצועים של מודלים עתידיים במשימות שבהן הבטיחות קריטית.

הארכיטקטורה של SafetyKit אוכפת מדיניות בקנה מידה רחב, תוך שמירה על מהירות, דיוק וכיסוי מקיף של סיכונים. מאחורי הקלעים, היא מעבדת כיום יותר מ-16 מיליארד טוקנים ביום, לעומת 200 מיליון לפני חצי שנה, ומנתחת יותר תוכן בלי להתפשר על הדיוק.

באותה תקופה הרחיבה SafetyKit את פעילותה לניהול סיכונים בתשלומים, למאבק בהונאות, בניצול ילדים ובהלבנת הון, וללקוחות חדשים שמאות מיליוני משתמשי הקצה שלהם מוגנים על ידי SafetyKit. תשתית זו מאפשרת ללקוחות להגיב במהירות ובביטחון לסיכונים חדשים.

״יצרנו מעגל שבו כל השקה של OpenAI מחזקת ישירות את היכולות שלנו,״ אומר גראונקה. ״לכן המערכת משתפרת ללא הרף ותמיד מקדימה את הסיכונים המתפתחים.״

• יותר מ-95% דיוק בבדיקת 100% מתוכן הלקוחות

• 16 מיליארד טוקנים מעובדים ביום, לעומת 200 מיליון לפני חצי שנה

• שיפור של יותר מ-10 נקודות במבחני ביצועים במשימות הראייה הקשות ביותר