כך Third Moment Research מפעילה 10,000 סוכנים ליותר מ-36 שעות

לכל חברה יש תהליכי עבודה, כלים, מקרי קצה והגדרות הצלחה משלה. ⁠(נפתח בחלון חדש)Third Moment Research⁠(נפתח בחלון חדש) מאמינה שהסוכנים הטובים ביותר צריכים להצטיין בעבודה הספציפית הזאת, ולשפר את יכולותיהם ככל שמשתמשים בהם יותר.

על בסיס הרעיון הזה, החברה בונה מערכת בינה מלאכותית שמשתפרת בעצמה. היא משתמשת במודלים העדכניים של OpenAI כדי להבין את התנהגות הסוכנים, לזהות חולשות חוזרות וליצור אוטומטית אלפי תרחישים סינתטיים סביב הבעיות האלה. הצוות משתמש בתרחישים האלה כדי לשפר את הסוכנים, וחוזר על התהליך כשמתגלות בעיות חדשות.

Codex, ‏GPT‑6 Astra, ‏GPT‑6 Sol ו-GPT‑6.1 Sol תומכים בעבודת המחקר והחישוב של המערכת, ומאפשרים ל-Third Moment להפעיל 10,000 סוכנים במקביל במחקרים שנמשכים 36–48 שעות. החברה משתמשת גם ב-Daybreak כדי לבדוק את האבטחה של הסביבות שבהן פועלים הסוכנים.

אחד היישומים הראשונים של Third Moment הוא בתחום המימון הכמותי, בזכות המדד הברור להצלחה. תחום זה מספק מסגרת מעשית לחקר אופן הפעולה של סוכנים והקשיים שהם נתקלים בהם. הצוות משתמש ב-Codex כדי לאתר בעיות בסביבת המחקר ולטפל בהן.

במקרה אחד, הצוות השתמש ב-Codex עם GPT‑5.6, מודל ה-GPT העדכני ביותר באותה עת, כדי לנתח אלפי רצפי סימולציה מתועדים — פעולות הסוכנים ותגובות הסביבה — לצד חותמות זמן ובסיס הקוד.

Codex חשף צוואר בקבוק: בדיקה של אסטרטגיית מסחר על נתונים היסטוריים של שנה שלמה, ברמת פקודות המסחר במניות בארה״ב, ארכה כמה שעות. בזמן ההמתנה, הסוכנים בדקו שוב ושוב אם הבדיקה הסתיימה, ובכך בזבזו טוקנים ומילאו את ההקשר שלהם בבדיקות סטטוס.

לאחר ניתוח פרופיל הביצועים של הבדיקה על נתוני העבר ובחינת הקלט והשימוש בה, Codex זיהה דרך לייעל את השימוש במטמון וטכניקה לאריזה צפופה של נתונים בזיכרון. הוא התנסה בפתרונות והטמיע את התיקון בסביבת הייצור, וכך קיצר את הבדיקה על נתוני העבר מכ-3 שעות לכ-3 עד 5 דקות. כך פחתו צריכת הטוקנים והצטברות המידע המיותר בהקשר, וחלק גדול יותר מתקציב הטוקנים של הסוכנים התפנה לניסויים נוספים.

Third Moment מעניקה לכל סוכן את הכלים, המידע והסביבה הדרושים לו למשימה מסוימת. לצורכי מחקר כמותי, הצוות מפעיל את ה-harness המוגדר כברירת מחדל ב-Codex בתוך סביבה מבוססת Docker. הסוכנים מקבלים טרה-בייט של נתונים, תיעוד ומאגר קוד למחקר, הכולל מודולים להנדסת מאפיינים, לאימון מודלים בתמיכת GPU, לאסטרטגיות מסחר ולסימולציה.

GPT‑6 Astra, ‏GPT‑6 Sol ו-GPT‑6.1 Sol מספקים את יכולות ה-reasoning, ואילו ה-harness של Codex מספק לסוכנים כלים לפעול, לבנות תוכניות, להגדיר יעדים, ליצור תת-סוכנים ולצמצם את ההקשר ככל שהעבודה מתקדמת.

כדי להתמודד עם סוכנים שעוצרים לפני השלמת המשימה, Third Moment משתמשת ב-Codex כתת-סוכן בתוך harness חיצוני שמופעל באמצעות GPT‑6 Sol או GPT‑6.1 Sol. כשהמשימה נשארת לא גמורה, ה-harness החיצוני בוחן את רצף הפעולות וקובע אם לנסות שוב, להפסיק את העבודה או להעביר אותה לבדיקה אנושית.

בסביבת המחקר הזאת, הסוכנים פועלים לשיפור מערכת מסחר בסיסית שבנו המהנדסים של Third Moment. הם בודקים אסטרטגיות מסחר על נתונים היסטוריים, מעריכים אם שיפור מסוים הוא משמעותי או רק רעש, ומשתמשים בכל תוצאה כדי לבחור את הניסוי הבא. לדברי אדם, עבודתם שיפרה את מערכת המסחר הבסיסית.

לדברי אדם, לפני GPT‑5.5 מודלים יכלו לבצע רק ניסויים שהמשתמש הגדיר. עם GPT‑5.5 ו-GPT‑5.6, מודלים שפעלו עם ה-harness של Codex כבר יכלו להשתמש בתוצאות כדי לתכנן ניסויי המשך. כעת, עם GPT‑6 Astra, ‏GPT‑6 Sol ו-GPT‑6.1 Sol, סוכנים יכולים לחקור גורמי שורש באמצעות מאות ניסויים שמתבצעים במקביל בעזרת תת-סוכנים.

ההתקדמות הזאת סייעה לסוכנים לבחון כיווני מחקר שהצוות לא צפה מראש. באחד מסבבי העבודה, GPT‑6.1 Sol זיהה את ההשפעה של עסקאות שאינן מוצגות בספר הפקודות, בבורסה שבה חלקן בנפח המסחר היה גדול מהצפוי. ״זו הייתה תוצאה לא מובנת מאליה, שצוות המחקר שלנו לא שקל בתחילת הדרך״, אומר אדם.

Third Moment מעריכה מודלים בתחומי האופטימיזציה, מערכות למידת המכונה והמחקר הכמותי. היא בודקת גרסאות חדשות של מודלי חזית ברמות ה-reasoning הגבוהות ביותר שלהם, ומעריכה את יכולתם להתמצא במאגרי קוד, לכתוב קוד יעיל ולהתמיד במחקר. הבדיקות הנוכחיות כוללות גם את GPT‑6 Luna.

באחד ממבחני הביצועים, הסוכנים מתבקשים לצמצם את השהיית העדכונים בשירות לוח תוצאות בזמן אמת, בלי לשנות את הפלט שלו. הצוות מודד את ההאצה באמצעות חלוקת זמן הריצה הממוצע של פתרון שיצר מומחה בזה של פתרון המודל, על אותה חומרה ובתנאי שהתוצאות נכונות. לדברי אדם, GPT‑6 Astra הניב את ההאצה הגדולה ביותר.

לעבודה ממוקדת, כולל בדיקות לאיתור חולשות אבטחה מסוימות במערכת הסימולציה, הצוות משתמש במודלים יעילים יותר כמו GPT‑5.6 Terra. במחקר מעמיק, אדם מאמין שיכולות reasoning חזקות יותר יכולות להצדיק עלות גבוהה יותר: ״בתחום המימון הכמותי, למציאת איתות מעניין כלשהו יש ערך גבוה במיוחד.״

כש-10,000 סוכנים פועלים באופן אוטונומי, Third Moment זקוקה לדרך לבדוק את האבטחה של סביבות המחקר שלה בהיקף רחב. הצוות משתמש בפלטפורמת אבטחת הסייבר Daybreak כדי לבצע את הבדיקות האלה אוטומטית לפני הפעלת הסימולציות.

הבדיקות בוחנות אם סוכן יכול לפרוץ את גבולות סביבת המחקר שלו ולגשת לרשת הרחבה יותר. ״בעזרת Daybreak, אנחנו יכולים לתת לסוכנים עצמם לבצע בדיקות חדירה בסימולציה ולבדוק את התשתית ואת האבטחה שלה״, אומר אדם.

השאיפה של Third Moment מתרחבת גם לעבודה המקצועית הייעודית שחברות מבצעות מדי יום. עבור קמעונאים, המשמעות יכולה להיות קבלת החלטות טובות יותר בשרשרת האספקה כשיש מחסור במלאי או עיכוב אצל ספק. עבור צוות הנדסה, המשמעות יכולה להיות איתור צווארי בקבוק בביצועים בבסיס קוד גדול. עבור עסק שעובד עם מסמכים רבים, המשמעות יכולה להיות זיהוי מקרים שבהם התחייבויות במסמך אחד אינן תואמות לתוצאות שתועדו במסמך אחר.

בהסתמך על יכולות ה-reasoning של GPT‑6 Astra, ‏GPT‑6 Sol ו-GPT‑6.1 Sol, ‏Third Moment מתכננת להתרחב ממחקרים בודדים למאות אלפי תת-סוכנים שפועלים בשיתוף פעולה. מפת הדרכים שלה כוללת שימוש בטריליוני טוקנים לתמיכה בשרשראות של עשרות ניסויים התלויים זה בזה, במטרה להשתמש במחקר הזה לשיפור אוטונומי של הסוכנים ככל שעולים אתגרים חדשים.

מבחינת אדם, כך תהיה לאנשים יכולת רבה יותר לעצב את האופן שבו סוכנים לומדים ועובדים: ״אנשים יוכלו להשפיע הרבה יותר, ולהתמקד בשאלה איך לערוך מחקר ואיך לייעל את המחקר עצמו, במקום לבצע אותו בפועל.״