כדי ש־AGI יועיל לאנושות כולה, אנו מאמינים שהוא חייב להיות כפוף לממשל דמוקרטי. זה יכול לקרות רק באמצעות דיון ציבורי מושכל ביכולות, בסיכונים ובאמצעי ההגנה של מערכות בינה מלאכותית בעלות יכולות מתקדמות. אנשים בכל מקום צריכים להבין את מסלול ההתפתחות הצפוי של frontier AI, כדי שיוכלו להשפיע באופן משמעותי על התפתחותה.
שקיפות לגבי סיכונים, תקריות ואמצעי הגנה ספציפיים היא הכרחית, אך אינה מספיקה. לדעתנו, הציבור צריך להבין גם כיצד מתפתחות המערכות המתקדמות ביותר וכיצד הן מקדמות את המחקר בתוך מעבדות החזית.
מטרתנו היא לבנות בבטחה חוקר בינה מלאכותית אוטומטי שיוכל לעבוד בפיקוח אנושי, לקדם למידה עמוקה והלימה ולאפשר שיפורים איטרטיביים. לפי המדידות שלנו, השגנו כעת את היעד שעליו הכרזנו(נפתח בחלון חדש) בסתיו שעבר: מתמחה מחקר אוטומטי עד ספטמבר השנה. ב״מתמחה מחקר״ אנו מתכוונים למערכת שיכולה לבצע משימות מחקר מוגדרות היטב בהנחיה אנושית, כולל משימות שיידרשו לחוקר מיומן כמה ימים להשלימן. אנו מתקדמים משמעותית לקראת יצירת חוקר בינה מלאכותית אוטומטי עד מרץ 2028.
במהלך השנה השתנתה מאוד עבודתם היומיומית של חוקרי OpenAI. חוקרים משתמשים בסוכני תכנות לאורך היום, לעיתים קרובות בכמה סשנים במקביל, והיקף השימוש הכולל גדל במהירות, בקצב העולה על זה שבצוותים אחרים ב־OpenAI. חוקרים תורמים קוד מהר יותר ומריצים יותר ניסויים. גם אופן השימוש בסוכנים משתנה: הסוכנים מטפלים במשימות מורכבות יותר ויותר, ומצליחים בהן לעיתים קרובות יותר. מחקר בינה מלאכותית הוא תהליך מורכב עם צווארי בקבוק אפשריים רבים, ולכן קצב ההתקדמות הכולל כנראה לא ידביק את קצב השיפור במדדים הספציפיים האלה. אך ככלל, הממצאים תואמים את הרושם הרחב של רבים מאיתנו בחברה, שכלים אג'נטיים מאיצים משמעותית את התקדמות המחקר. בני אדם עדיין קובעים את סדרי העדיפויות במחקר, בוחרים אילו רעיונות ותוצאות להמשיך לפתח, ומחליטים אם להרחיב מערכות, להשהותן או לפרוס אותן.
אנו מאמינים שמחקר בינה מלאכותית אוטומטי, אם ייעשה באחריות, יניב מודלים שישפרו ישירות את רווחת האדם ויקדמו את המשימה של OpenAI. הוא יכול להוזיל את העלות של אינטליגנציה מתקדמת, כך שאנשים ברחבי העולם יוכלו ליהנות ממנה. אחת הסיבות לעיסוקנו בכך היא שמחקר אוטומטי עשוי לעזור לנו לפתור את בעיית ההלימה ולבנות הגנות מפני בינה מלאכותית בעלת יכולות הולכות וגדלות. חוקר בינה מלאכותית אוטומטי יכול להיות גם חוקר בטיחות או הלימה אוטומטי. מערכות בעלות יכולות משופרות והלימה עשויות לסייע באבטחת תשתיות קריטיות, בהגנה מפני סוכני בינה מלאכותית מסוכנים ובפיתוח אמצעי הגנה חדשים.
אלו סיבות לפתח יכולות מחקר אוטומטיות מועילות, אך אין פירושן ש־RSI מהיר הוא בהכרח תוצאה שעלינו לשאוף אליה. השאלה אם וכיצד להמשיך חייבת להיות תלויה ביכולתנו לשמר שליטה אנושית ובבחירות דמוקרטיות מושכלות לגבי התועלות והסיכונים.
עדיין איננו יודעים כיצד להגיע בבטחה עד ל־RSI מלא בעל הלימה. אנו פועלים להרחיב את אמצעי ההלימה והבטיחות לצד היכולות. אך איננו יכולים להניח שההלימה והבטיחות יתקדמו באותו קצב, וניטור מערכות בעלות יכולות מתקדמות יותר עלול להיות קשה יותר. עבודה קפדנית על הלימה ובטיחות עומדת במרכז המאמץ הזה. היא מתחילה במדידה ובצמצום של בעיות הבטיחות שאנו רואים כיום במערכות תכנות אג'נטי. בכל פעם שנמצא שהמשך העבודה ייצור סיכון בטיחותי בלתי קביל, נפעל בהתאם, לרבות האטה או עצירה של פיתוח או פריסת מערכות שלא נוכל להגן עליהן במידה מספקת.
לאחר התקרית האחרונה ב־Hugging Face, מימשנו את המחויבות הזו: השהינו אימון בלמידת חיזוק (RL) של המודלים החדשים ביותר שלנו המיועדים לפריסה, ובינתיים הקשחנו עוד את סביבות המחקר, ערכנו בהן בדיקות צוות אדום והרחבנו את כיסוי מערכות הניטור. הדבר לא עצר את המחקר כולו: חלק מעומסי העבודה חודשו תחת בקרות מחמירות יותר, ואחרים נותרו מושהים. העלינו את הסטנדרטים שלנו לבטיחות ולהלימה ושילבנו את עבודת הבטיחות עמוק יותר במחזור חיי המודל, תוך דרישה לראיות חזקות יותר להתנהגות בעלת הלימה לאורך כל האימון.
היום אנו מציגים תמונת מצב מפורטת של תרומת המערכות האג'נטיות להתקדמותנו לקראת RSI בחודשים האחרונים. מערכות אג'נטיות הן חדשות ומשתנות במהירות, ומאמצי המדידה שלנו עדיין ראשוניים. בשיתוף התוצאות הראשוניות והשיטות שמאחוריהן, אנו מבקשים ליידע את הציבור, לעודד נורמה של דיווח פומבי ולסייע לתחום להתקדם לסטנדרטים משותפים למדידה.
בסופו של דבר, כפי שכתבנו במתווה המדיניות שלנו לטכנולוגיות חזית, אנו סבורים שיש לחייב אותנו וחברות אחרות לדווח לציבור על התקדמותנו לקראת RSI. גם ללא דרישה כזו, אנו מתכננים להמשיך לנהוג בשקיפות לגבי התקדמותנו ב־RSI. נפתח את גישת השקיפות שלנו ככל ששיטות המדידה וההבנה שלנו ישתפרו, תוך איזון עם הצורך לשמור על אבטחה ולהגן על מידע קנייני.
בתחילת השנה, החוקר החציוני ב־OpenAI לפי היקף השימוש בסוכנים השתמש בסוכני תכנות בהיקף מצומצם בלבד. עד אמצע אוגוסט, החוקר החציוני כבר שילב סוכנים בעבודתו מדי יום, עם שימוש בהסקה בשווי של יותר מ־600 דולר ליום לפי מחירי ה־API. המשתמש באחוזון ה־90 במערך המחקר שלנו משתמש כעת בטוקנים בשווי של יותר מ־7,000 דולר ביום.
לפני יוני 2026, זמן הריצה הכולל של הסוכנים במערך המחקר עדיין היה נמוך מסך שעות העבודה האנושית. מאז המצב השתנה. במונחים של יום עבודה בן 8 שעות, נכון לאמצע אוגוסט מערך המחקר משתמש בסך הכול ב־3.1 ימי עבודת סוכנים על כל יום עבודה אנושי.
דרך נוספת לבחון זאת היא לבדוק כמה חוקרים משתמשים בתהליכי עבודה מקביליים בהיקף גבוה, למשל הרצת 4 סוכנים או יותר בו־זמנית. כפי שמוצג להלן, מספר זה גדל. נתונים אלה כוללים את השיאים היומיים הן של סוכנים שהמשתמש הפעיל ישירות והן של סוכני משנה שנוצרו בהמשך בידי אותם סוכנים.
אפשר לראות בחלק ניכר ממחקר הבינה המלאכותית תהליך עתיר עבודה, שמטרתו לשלב שיפור חדש באינטליגנציה או בביצועים באחד ממודלי הליבה שלנו. התהליך תלוי בשלבים רבים, והיכולות מתקדמות כשכולם מצליחים יחד: על החוקרים לתכנן שיפורים, לכתוב הערכות לביצועי המודל, לפתח תשתיות לבדיקת השיפורים בקנה מידה גדול, לאתר באגים והתנהגות לא בטוחה או חסרת הלימה במהלך האימון, ולשלב רעיונות מוצלחים בהרצת אימון מרכזית. כשל בכל שלב במחקר עלול להגביל את המחזור כולו.
כתיבת קוד והרצת ניסויים הן שתי פעילויות מרכזיות בעבודת החוקרים, ואנו רואים ראיות לכך שתהליכים אלה מואצים.
קל יחסית למדוד נתונים אלה, אך לעיתים קשה לפרש אותם. ככל שהאוטומציה מתקדמת, המשימות שהכי קשה להפוך לאוטומטיות יתפסו חלק גדול יותר ממאמץ החוקרים, ויהפכו לצווארי הבקבוק המרכזיים בהתקדמות העתידית. משאבי המחשוב הם גורם מגביל נוסף, וחשיבותם עשויה לגדול עם הזמן ככל שצווארי בקבוק אחרים יצטמצמו.
במהלך 2026 עלה מספר הניסויים לכל עורך ניסויים פעיל, ובאוגוסט 2026 הגיע לשיא מאז תחילת המעקב בינואר 2025. יש לכך מתאם עם העלייה באימוץ Codex, אם כי גם משאבי המחשוב הזמינים לנו גדלו משמעותית מאז 2025.
הן התרשמויות איכותניות והן נתונים פנימיים מצביעים על שינוי בתמהיל המשימות שחוקרים מעבירים לסוכני תכנות: עם הזמן גוברת העברתן של משימות ברמה גבוהה יותר ובעלות אופק זמן ארוך יותר.
כדי להבין טוב יותר את המגמה, ניתחנו שימוש עדכני במערך המחקר באמצעות טקסונומיה שפורסמה לאחרונה(נפתח בחלון חדש), שפיתחה Epoch AI לסוגי העבודה השונים במחזור המחקר והפיתוח של בינה מלאכותית. הטקסונומיה, בהשראת מערכת O*NET הוותיקה לסיווג סוגי עבודה, מותאמת למחקר ופיתוח של frontier AI ומחלקת את התהליך לשישה שלבים עיקריים:
החלטה: על מה לעבוד, במה להמשיך ולאן להקצות משאבים
תכנון: רעיונות מחקר ומפרטים הנדסיים
בנייה: קוד ומערכי נתונים
הרצה: הרצות אימון והערכה, חומרה והגשת מודלים
ניתוח: ניסויים, מודלים, פריסה ועבודה חיצונית
תקשורת: ממצאים, משוב, סטטוס והחלטות
להלן אנו מסווגים את הטוקנים של סוכני התכנות לפי טקסונומיה זו.
אנו רואים גידול בכל קטגוריות פעילות המחקר בין ינואר לאוגוסט 2026. בינואר, הקטגוריה הדומיננטית הייתה קוד למחקר ולתשתיות. קטגוריה זו התרחבה, אך ניכרות עליות גם בקטגוריות נוספות, במיוחד בעזרה טכנית ובניטור הרצות. תכנון ברמה גבוהה עדיין מהווה חלק מזערי מטוקני הפלט של הסוכנים.
בדיווחים נקודתיים, עמיתים מציינים שסוכני תכנות מצטיינים בפתרון תקלות בתשתית המחקר הפנימית, וכך נותנים מענה לצוואר בקבוק משמעותי בהתקדמות המחקר. כמה צוותים שקיימו בעבר שעות קבלה לסיוע לחוקרים בפתרון תקלות בניסויים דיווחו על ירידה בהשתתפות ב־2026. אחד מהם הפסיק לגמרי לקיים מפגשים, ובמקום זאת מתמקד בשיפורים אחרים במערכת.
כאן אנו מציגים את מספר ההודעות הפותחות שרשור בכל יום באחד הערוצים הפנימיים המרכזיים שבהם חוקרים מבקשים תמיכה טכנית מצוותים אחרים. למיטב ידיעתנו, הירידה בפעילות בערוץ לא קוזזה במעבר של פניות לערוץ תמיכה טכנית אחר המאויש בידי בני אדם. הירידה בתעבורה תואמת את השינוי הרחב הזה.
אפשר גם לבדוק אם סוכני התכנות מצליחים במשימות שהחוקרים מבקשים מהם לבצע. באמצעות מסווג אג'נטי מצאנו שמינואר עד יולי, שיעורי ההצלחה עלו ככלל בכמה רמות קושי — שנאמדו לפי הזמן המשוער שיידרש לאדם להשלים את המשימה — במשימות שעבורן הצלחנו לאמת את התוצאה בפועל. עם זאת, סוכנים עדיין זקוקים להכוונה אנושית ניכרת כדי להצליח, במיוחד ככל שמורכבות המשימה עולה. בששת החודשים האחרונים, יותר ממחצית המשימות המוצלחות שאורכן 4–8 שעות כללו התערבות אחת או יותר.
שיעורי ההצלחה במשימות של חוקרים עלו עם הזמן. הגרף אינו כולל סיווגים שבהם התוצאה לא הייתה ודאית ונקודות עם פחות מ־50 סשנים או פחות מ־50 משתמשים ייחודיים.
שיעורי ההצלחה במשימות וההתערבות מינואר עד יולי, לפי אופק זמן. לא כולל סיווגים שבהם התוצאה לא הייתה ודאית.
ההתקדמות למערכות בעלות יכולות משופרות, בדרך ל־AGI בטוח ומועיל, תלויה גם באמצעי ההגנה הנדרשים לעבודה זו. הערכתנו לגבי אמצעי ההגנה הנדרשים עשויה להשתנות ככל שנלמד יותר על הסיכונים.
כפי שתיארנו, עדכנו לאחרונה את הסטנדרטים שלנו לניטור, להלימה ולאבטחה. כאן אנו מראים כיצד המגבלות האחרונות השפיעו על היבט אחד של פעילות המחקר.
*רוב משאבי המחשוב של Astra המוצגים כאן בין 20 ביולי ל־6 באוגוסט נועדו לבדיקת יישומם של שיפורי בטיחות ואבטחה.
ב־20 ביולי, לאחר שגילינו שסוכנים פרצו לתשתית המחקר שלנו, השבתנו זמנית את שירות הקונטיינרים המשמש לאימון, ולאחר מכן החזרנו אותו לפעולה תחת מגבלות נוספות משמעותיות.
הדבר הוביל לירידה חדה במשאבי המחשוב לאימון בלמידת חיזוק, בזמן שהצוותים התאימו את תהליכי העבודה שלהם לסביבת המחקר המוקשחת. התרשים שלעיל כולל את ההפסקה בת השבועיים בלמידת החיזוק של המודלים החדשים ביותר שלנו המיועדים לפריסה. רוב ההרצות בניסויי למידת החיזוק של מודלים מקבוצת Astra בין 20 ביולי ל־6 באוגוסט, לפי הקצאת GPU, נועדו לבדיקת יישומם של שיפורי בטיחות ואבטחה.
ב־7 באוגוסט, ראיות ראשוניות לכך של־Astra עשויות להיות יכולות סייבר ברמה קריטית לפי ה־Preparedness Framework(נפתח בחלון חדש) שלנו הובילו למגבלות אבטחה נוספות, ייעודיות למודל, שחייבו להריץ את מודל Astra בסביבות מחקר בעלות רמת אבטחה גבוהה יותר. בשבוע שלאחר מכן ירדה הקצאת ה־GPU לקבוצת Astra ב־59.2 אחוזים נוספים, אך ההקצאה לקבוצות מודלים אחרות עלתה ב־17.2 אחוזים. עלייה זו קיזזה כ־85 אחוזים מהירידה בקבוצת Astra, כך שסך ההקצאה לעומסי העבודה של למידת החיזוק שניתחנו נותר כמעט ללא שינוי. דפוס זה תואם העברה של חלק מהאימון והניסויים למודלים שאינם Astra בזמן שהעבודה עם Astra הוגבלה. הוא עולה בקנה אחד גם עם דיווחים נקודתיים של חוקרים שמצאו שימושים אחרים למשאבי מחשוב שלא ניתן עוד לנצל לעומסי עבודה הכפופים למגבלות החדשות.
הנתונים מספקים תובנה מועילה לדיונים המתמשכים על אימון ובטיחות: כשמוכנסים אמצעי בקרה חדשים, משאבי המחשוב נותרים בעלי ערך וגמישים, ובאופן טבעי מופנים לשימושים חלופיים במערך המחקר. בטווח הארוך, הדיונים על קצב ההתקדמות בבינה מלאכותית צריכים לעסוק גם בשאלה כיצד לנצל באופן מיטבי משאבי מחשוב הכפופים לאמצעי בקרה חדשים או מוצעים.
ההתקדמות לקראת RSI בעל הלימה והבנתה חשובות למשימה שלנו. נמשיך לשכלל את שיטותינו, לדווח על ההבנה המתפתחת שלנו ולפעול למען דיון ציבורי מושכל וממשל דמוקרטי משמעותי של מערכות חזית.
מחקר בינה מלאכותית בעזרת סוכנים הוא עדיין תחום חדש, ואנו עדיין לומדים כיצד למדוד אותו. קל יחסית לאסוף מדדים מסוימים, כגון כמות הקוד שצוותי המחקר שלנו מייצרים, אך קשה לפרש אותם משום שהקשר בינם לבין התקדמות המחקר אינו ודאי. מדדים המתמקדים ישירות יותר בהתקדמות המחקר, כגון התדירות שבה סוכנים מצליחים במשימות שהחוקרים נותנים להם, עשויים להיות מועילים יותר, אך פיתוחם ואימותם מורכבים. לקושי מתווספת ההתפתחות המהירה של הכלים והמערכות שעליהם מסתמכים החוקרים. העמקת ההבנה שלנו בהאצת המחקר היא תחום מיקוד מרכזי ברחבי OpenAI.
בכל הניתוחים האלה, אלא אם צוין אחרת:
״חוקר״ הוא מונח רחב לכל חבר במערך המחקר שלנו, כולל עובדים הבונים תשתיות מחקר, מנהלים פרויקטי מחקר או תומכים בפעילות בדרכים אחרות.
מדדי השימוש בסוכני תכנות מכסים את רוב השימוש, אך לא את כולו, בשל ההתפתחות המהירה של הכלים והמערכות שעליהם מסתמכים החוקרים.
