מה המשמעות של תפקיד מהנדס FDE ב-OpenAI
מה אנחנו עושים, איך אנחנו עובדים ואיך אנחנו פותרים את הבעיות הקשות ביותר של ארגונים כדי לחולל שינוי ממשי.
מאת: קולין ג'רוויס, ראש תחום ההנדסה בשטח אצל הלקוח ב-OpenAI
כש-Codex יצא, מישהו בצוות שאל אותי: "מה נעשה כש-Codex יוכל פשוט לפתור בניסיון אחד את תרחישי השימוש שהשקענו את החודשים האחרונים בפיתוחם?"
השאלה הזו נוגעת בלב תפקידם של מהנדסי FDE ב-OpenAI. אנחנו עובדים לצד הלקוחות כדי להבין את הבעיות הקשות ביותר שלהם ולבנות פתרונות שהם יכולים לסמוך עליהם. מה שאנחנו לומדים עוזר לעצב את המוצרים שלנו ומספק לצוות המחקר בעיות מוחשיות לפתרון.
זו התקדמות. אם אנחנו מייתרים את עצמנו מדי כמה חודשים, סימן שצוות מהנדסי FDE שלנו עושה את עבודתו.
הקמתי את הצוות בתחילת 2025 כדי לסגור את מה שאנחנו מכנים "פער ההטמעה": המרחק בין מה שנראה שהמודלים מסוגלים לעשות לבין מה שאנשים יכולים לסמוך עליו בביצוע עבודתם.
יכולות המודלים התקדמו מהר יותר מהמערכות והתהליכים הדרושים כדי להשתמש בהן. לפעמים החלק החסר הוא מוצר. לפעמים מודל מציג ביצועים טובים במבחן השוואתי, אבל אינו מסוגל לבצע את המשימה מול המשתנים והאילוצים של המציאות.
אנחנו מתמקדים בבעיות הקשות ביותר של הלקוחות. כשהמודלים שלנו כבר מסוגלים לבצע את המשימה, אנחנו עובדים עם צוות המוצר ועם הלקוח כדי ליצור פתרון שניתן ליישם שוב. כשהיכולות שלהם אינן מספיקות, אנחנו עובדים עם הלקוחות ועם צוות המחקר כדי להגדיר את הפער ולשפר אותן. המטרה שלנו היא שכל פרויקט יעניק ללקוח הבא נקודת פתיחה טובה יותר. אם נעלה את רמת הבסיס עד שהלקוחות שלנו לא יזדקקו בפעם הבאה למהנדסי FDE כדי לפתור בעיות מהסוג הזה, עשינו את עבודתנו היטב.
האתגר של ג'ון דיר, חברה בת 200 שנה בתחום החקלאות, היה להרחיב את היקף הייעוץ האישי לחקלאים.
דוגמה אחת היא See & Spray, הטכנולוגיה שלה להדברה מדויקת של עשבים שוטים. היא משתמשת במצלמות ובלמידת מכונה כדי לזהות ולרסס עשבים שוטים במקום לרסס שדות שלמים, וכך להפחית את השימוש בכימיקלים בעד 70%.
אבל כדי לממש את היתרונות האלה, החקלאים צריכים לדעת כיצד להגדיר את הטכנולוגיה, לתכנן את עונת הגידול ולהתאים את שיטות העבודה לתנאים המשתנים.
ג'ון דיר הטמיעה את ממשקי ה-API של OpenAI כדי לסייע במתן תמיכה מותאמת אישית בהיקף רחב.
בינה מלאכותית יכולה לענות על שאלות של חקלאים בשפה טבעית, לספק הנחיות הגדרה והמלצות מותאמות אישית, לזהות מתי הציוד אינו מנצל את מלוא הפוטנציאל שלו ולעזור לחקלאים להבין את הערך שהם מפיקים מהטכנולוגיה.
הפוטנציאל חורג הרבה מעבר לשיחה בודדת: לספק הכוונה רלוונטית לאורך כל מסע הלקוח, ולעזור לחקלאים לנצל טוב יותר את הציוד שלהם תוך שיפור היעילות והקיימות.
זהו סוג האתגרים שמהנדסי FDE ב-OpenAI פועלים לפתור: לעזור לארגונים להפוך יכולות של בינה מלאכותית למערכות שמספקות ערך מעשי בסביבות מורכבות בעולם האמיתי.
אבל לעיתים קרובות הבעיות עדיין פתוחות לגמרי, ייתכן שאין אמת מידה מוסכמת, ואין מתווה פעולה מוכן. כולם רוצים לבנות משהו שעוד לא היה קיים. פחות אנשים רוצים לעשות את מה שנדרש כדי להגיע לשם.
החיפוש אחר מהנדסי FDE מוכשרים, לצד העלאה מתמדת של הרף ל"מספיק טוב", דרש ניסוי ויישום בלתי פוסקים.
בתחילת כל מפגש של צוות מהנדסי FDE, אני מציג שקופית עם ערך מרכזי אחד: "מתחילים מהתוצאה, עושים כל מה שנדרש כדי להצליח, ואז מרחיבים את ההיקף".
הדגמה מרשימה יכולה להגיע רחוק לפני שמישהו שואל אם היא עובדת בעולם האמיתי.
התפקיד שלנו הוא לפתור את בעיית הלקוח ברמה שנוכל לעמוד מאחוריה בסביבת ייצור.
באמצע 2025 עבדו אצלנו כ-15 מהנדסי FDE עם לקוח גדול בתחום המוליכים למחצה על יותר מ-10 תרחישי שימוש. השאיפה הייתה להפוך את תהליך האימות שלו לתהליך שמבוסס מיסודו על בינה מלאכותית, בתחומים הבאים:
יצירת בדיקות מוכוונות
ניתוח גורמי שורש וניפוי שגיאות
עוזר לתכנון ארכיטקטורה
בתעשייה הזו, האימות עשוי להוות כ-70% מהמאמץ המושקע בפרויקט. הפוטנציאל היה עצום, והיו נקודות התחלה אפשריות רבות.
חלק ממהנדסי FDE הצטרפו ל-OpenAI רק ימים ספורים קודם לכן, ומעולם לא עבדו בתחום המוליכים למחצה. הם השתלבו בצוות האימות של הלקוח, למדו תכנון שבבים בזמנם הפנוי ובנו יחד עם המהנדסים מבחני הערכה כדי לבדוק אם הבינה המלאכותית יכולה לייצר בדיקות מועילות ולאבחן נכון כשלים בשבבים.
לצד הלמידה הזו, בנינו סביבות harness מותאמות לכל אחד מתרחישי השימוש. בתוך 3–6 החודשים הראשונים, כולם הגיעו לסביבת ייצור ומשתמשים ראשונים החלו לעבוד איתם. התמורה למאמץ התגלתה בנתונים:
חיסכון של כ-48% בזמן באמצעות יצירת בדיקות מוכוונות מבוססת בינה מלאכותית.
שיפור חציוני של 22% בביצועים באמצעות אופטימיזציה של קרנלים.
שבועות של ניפוי שגיאות הצטמצמו לשעות
כשהצגנו את כל התוצאות, מנהל החומרה הראשי שאל: "עבדתם בתכנון שבבים לפני שהגעתם לכאן?"
מהנדסי FDE שלנו לא צריכים להכיר את התעשייה ביום הראשון, אבל באחריותם ללמוד אותה.
ככל שעוזרי תכנות מאיצים את פיתוח התוכנה, ההבנה של עסקי הלקוח נעשית חשובה עוד יותר. אנחנו בונים צוותים שמשלבים אנשי מקצוע בעלי ידע רחב עם מומחים בתחומם.
צריך מספיק ידע כדי להפעיל שיקול דעת מבוסס, וגם מספיק סקרנות כדי להטיל ספק בהנחות לגבי המצב הקיים.
במדעי החיים, למשל, הרקע המדעי של מהנדסי FDE שלנו עוזר להם לזכות באמונם של חוקרים העוסקים בגילוי תרופות בשלב הפרה-קליני, במשימות כמו אימות ותעדוף מטרות טיפוליות, ניתוח ביטוי גנים ושחזור מסלולי סינתזה כימית. המומחיות הזו מאפשרת להם לתרום שיקול דעת מקצועי לגבי הדרכים לשיפור תהליכי העבודה האלה.
הראינו שתהליכי העבודה האלה יכולים לספק ערך, אבל הרחבת כל אחד מהם לצוות נוסף עדיין דרשה יותר מדי עבודת אינטגרציה מותאמת אישית. האתגר הבא היה לשמר את התוצאות האלה, ובמקביל להקל על ההטמעה והתחזוקה של התוכנה.
עד אז, היכולות של Codex כבר התרחבו. אחד ממהנדסי FDE ניסה לבנות מחדש את היישום שלהם סביבו, ואז עבד עם הצוות כדי להעביר את תרחישי השימוש לסביבת harness משותפת שבמרכזה Codex.
יישומים מותאמים אישית הפכו לתוספים ולמיומנויות שנבנו על רכיבי בסיס משותפים של Codex. Codex הפך גם לממשק, כך שיכולנו להוציא משימוש את ממשקי הטרמינל וממשקי שורת הפקודה הנפרדים שכתבנו עבור כל תרחיש שימוש.
הצלחנו להסיר כ-90% מהקוד המותאם אישית מכל פרויקט. הדבר שינה את האופן שבו בנינו, תחזקנו והרחבנו את תהליכי העבודה האלה:
יכולנו ליהנות משיפורים מרכזיים ב-Codex, ולצמצם את כמות קוד החיבור שנדרשה לכל תרחיש שימוש
יכולות מרכזיות נארזו כמיומנויות ותוספים, מה שהקל על השיתוף שלהן בין הצוותים ועל הניהול המרכזי שלהן בידי מרכז המצוינות לבינה מלאכותית. כך, הרחבת הפתרון מצוות אחד לצוות הבא יכלה להסתכם בהחלפה למחברים או לשרתי MCP חדשים, בניית מבחני הערכה חדשים (שגם עבורה הייתה לנו מיומנות ייעודית) ותחילת העבודה.
בדוגמה אחת מאוגוסט 2026, ההטמעה הראשונית ארכה חודשיים. הרחבת הפתרון לצוות שני ארכה יום אחד. ככל שהרחבנו את הפעילות, הצוותים הבאים הצטרפו מהר יותר. המגמה הזו נמשכה: בתרחיש שימוש מאוגוסט 2026, ההטמעה בצוות השני ארכה יום אחד, לאחר שההטמעה הראשונית ארכה חודשיים.
זו דרך אחת לייתר את עצמנו. העבודה שעשינו כדי להגיע לסביבת ייצור הבהירה מה באמת חשוב. ככל שהמוצר שבבסיס הפתרון השתפר, יכולנו להחליף חלק גדול מהמימוש המותאם אישית שלנו ולשמר את הערך שסיפק.
לכן הסדר חשוב. מודלי LLM מאפשרים לנו לבנות מהר. צריך לנצל את המהירות הזו כדי לתת למשתמשים משהו בעל ערך, ללמוד מה מוכיח את עצמו בפועל, ואז להרחיב את מה שעובד.
אותו עיקרון חל על כל פרויקט עם לקוח.
OpenAI Presence, המוצר שלנו עבור סוכני קול וצ'אט ארגוניים, צמח מתוך פריסות אמיתיות של לקוחות. העבודה החלה עם Swarm(נפתח בחלון חדש) והתפתחה דרך ה- ממשק API של סוכנים, וכיום לקוח אחד מטפל ביותר ממחצית מהשיחות שלו באמצעות בינה מלאכותית.
הבאת הפריסות הללו לשלב הייצור לימדה אותנו אילו בעיות דורשות פתרון מותאם אישית ואילו אבני בניין צוותים אחרים יכולים להשתמש בהן. הבאנו את אבני הבניין הללו לתוך Presence, מה שמקל על מפתחים להפוך זרימות עבודה מוסדרות לאוטומטיות מבלי לבנות מחדש את התשתית הבסיסית. כל פריסה עזרה לעצב את המוצר ונתנה ללקוח הבא נקודת התחלה טובה יותר.
עִם Thrive Holdings , מומחי OpenAI וחוקרים עבדו לצד מהנדסים ורואי חשבון כדי לבנות Tax AI (בינה מלאכותית בתחום המסים) עבור משרדי רואי חשבון בכרתים. במהלך הפיילוט, Tax AI עיבדה 7,000 דוחות מס והגדילה את התפוקה בכ-50%.
אחד האתגרים הקשים ביותר היה אוטומציה של דוחות מס על נכסים להשכרה, שדרשה שישה שבועות של עבודה הנדסית ובדיקה מקצועית כדי להגיע לדיוק ולזיכרון נתונים של 90%. העבודה יצרה דפוסים רב פעמיים שהקלו על הרחבת Tax AI לטופסי מס מורכבים אחרים.
הצוותים מיישמים כעת את אותה גישה לניהול חשבונות, ביקורת ותמיכת IT - בניית מערכות שמשתפרות באמצעות משוב מהמומחים ושימוש בעולם האמיתי.
לפעמים מוצר טוב יותר מאפשר לנו לפשט את מה שבנינו, אבל לפעמים המודל עצמו עדיין לא מסוגל לבצע את המשימה.
אם נבנה רק את מה שהמודלים של היום כבר מאפשרים, לא נחשוף את פערי היכולת שצוות המחקר צריך לסגור בהמשך. לכן רבים מהפרויקטים החשובים שלנו מתחילים בדיוק בגבולות האלה, כשהלקוח, מהנדסי FDE וצוות המחקר מחויבים להתגבר עליהם יחד.
כבר פיתחנו פלטפורמה לשירות לקוחות עם לקוח גדול בתחום התקשורת, והוא רצה להרחיב אותה גם לשיחות קוליות.
שיחות קוליות היוו כ-90% מהיקף הפניות לשירות הלקוחות שלו. הטיפול בפניות האלה ללא העברה לנציג היה יקר יותר מבצ'אט, והציב שלל אתגרים טכניים חדשים: התמודדות עם מבטאים, התאמת טון הדיבור והבאת זמני התגובה והדיוק לרמה הנדרשת בסביבת ייצור. הצלחה בכך הייתה יכולה להשפיע משמעותית על העסק שלו.
בשלב הגדרת היקף הפרויקט, המודל שלנו השיג כ-60% במבחני ההערכה המרכזיים ששימשו אותנו כדי לבדוק אם יוכל לבצע את המשימה בסביבת ייצור. הגענו לגבול היכולות שלו. היה צורך לשפר את הקריאה לפונקציות ואת היכולת לפעול לפי הוראות בתרחישים של שירות לקוחות.
הסברנו זאת ללקוח ושילבנו בעבודה את צוות המחקר. צוות מהנדסי FDE עבד עם הלקוח על בניית הפלטפורמה ועל הגדרת המשימות שהמודל צריך לבצע. צוות המחקר עבד על סגירת הפערים ביכולות, וגרסאות עוקבות של המודל אפשרו לנו לבחון את ההתקדמות מול דרישות הלקוח.
במהלך שישה חודשים, הביצועים במבחני ההערכה המרכזיים עלו מכ-60% ל-80% ואז ליותר מ-90%, והגיעו לרמה הנדרשת לסביבת ייצור.
המודל הקולי שנוצר משמש כיום את המערכת שהוטמעה אצל אותו לקוח, מערכות שירות לקוחות מותאמות נוספות ומערכות מנוהלות דרך Presence. בעיה שעלתה בעסק של לקוח אחד עזרה לזהות שיפורים שיוכלו לשרת לקוחות רבים אחרים.
לכל חלק הייתה חשיבות. הלקוח התחייב לעבוד על בעיה שהמודל עדיין לא היה מסוגל לפתור. צוות מהנדסי FDE שמר על קשר הדוק מספיק כדי להגדיר את הבעיה, לבנות את הפלטפורמה ולהוביל את הפרויקט מתחילתו ועד סופו. צוות המחקר שיפר את יכולות המודל שבבסיס המערכת.
זו הדרך השנייה לייתר את עצמנו: לעזור להפוך בעיה שהמודלים של היום אינם מסוגלים לפתור ליכולת שתהיה למודלים עתידיים. התועלת מהעבודה שלנו חורגת מעבר לשעות שאנחנו משקיעים עם כל לקוח בנפרד.
הצטרפתי ל-OpenAI כדי לעזור להפוך את הבינה המלאכותית למועילה בעבודה היומיומית של אנשים. זו עדיין המטרה שמנחה את הצוות. אני מרבה לומר לצוות שברוב המקרים בפיתוח מודלי LLM, תערו של אוקאם תקף — הפתרון הפשוט ביותר הוא הטוב ביותר. בחברה שמזוהה עם מחקר פורץ דרך, ובתעשייה ששמה נפגע מהצהרות מוגזמות, אנחנו רוצים לבנות דברים שעובדים באופן אמין ושאנשים בשטח יכולים לסמוך עליהם.
המטרה היא שכל פרויקט עם לקוח ישפר את מה שיבוא אחריו: מוצר שקל יותר להטמיע, מודל שמסוגל להתמודד עם משימה קשה יותר, או פחות עבודה מותאמת אישית עבור הלקוח הבא.
אם יש לכם בעיה קשה שתרצו לפתור, נשמח לעבוד איתכם. אם תרצו לעזור לפתור את הבעיות האלה, נשמח שתצטרפו אלינו.
אז מה עושים כש-Codex יכול לבצע את העבודה שהשקענו חודשים בבניית פתרון עבורה?
יוצאים לחפש את הבעיה הקשה יותר.
