LegalOn חותכת בחצי את עלויות Codex בלי להאט את הפיתוח

LegalOn Technologies מציעה פתרונות בינה מלאכותית לאנשי מקצוע ברחבי העולם, לתמיכה בעבודה משפטית ובפעילויות עסקיות מרכזיות נוספות. באמצעות שילוב של מומחיות מקצועית ובינה מלאכותית, היא מאפשרת לאנשים להתמקד בסוגיות מורכבות הדורשות שיקול דעת וקבלת החלטות. מטרתה היא ניהול מונע בינה מלאכותית, שמשפר את האיכות והמהירות של קבלת החלטות עסקיות.

גישה זו חורגת מגבולות המוצרים שלה ונועדה להפוך גם את הארגון עצמו לכזה שבינה מלאכותית היא חלק מהותי מפעילותו. החברה שילבה את Codex בתהליך הפיתוח שלה והרחיבה את אימוצו ברחבי הארגון באמצעות שימוש יומיומי.

ככל שהשימוש התבסס, התעורר אתגר חדש: שליטה בעלויות. שימוש בלתי מוגבל במודלים בעלי ביצועים גבוהים עלול היה להגדיל את ההוצאות, ואילו הגבלות גורפות היו עלולות לפגוע בשיפור הפרודוקטיביות שהבינה המלאכותית אפשרה.

כיצד תוכל החברה להפחית עלויות בלי להאט את הפיתוח? LegalOn Technologies התמודדה עם האתגר באמצעות בחירה בין GPT‑6 ‏(Astra, Luna) לבין GPT‑6.1 Sol בהתאם למורכבות המשימה ולשלב הפיתוח, והתאמת התקציבים לשלב הצמיחה של כל פעילות עסקית. החברה הפחיתה את העלויות בחצי תוך שמירה על קצב הפיתוח.

בתחילה העניקה החברה למפתחים גישה בלתי מוגבלת למודל העיקרי שלה, GPT‑5.5 במצב מהיר. הם הרחיבו את השימוש בו לתכנון, למימוש ולעבודה היומיומית, ולמדו תוך כדי התנסות כיצד לחלק בצורה הטובה ביותר את תחומי האחריות בין אנשים לבינה מלאכותית.

עם זאת, המשך השימוש במודלים בעלי ביצועים גבוהים ללא הגבלה היה מוביל בהכרח לחריגה מהתקציב השנתי. מרכז המצוינות של החברה לפיתוח בעזרת בינה מלאכותית (AID CoE) החל לגבש הנחיות לבחירת מודלים. AID CoE בדק מודלים וניטר את ביצועיהם, והמנהלים שיתפו את הממצאים עם הצוותים שלהם. כך התאפשר לכל מהנדס לבחור באופן עצמאי את המודל המתאים ביותר לכל משימה.

בעקבות ההנחיות החדשות, החברה עברה משימוש במודל בעל היכולות הגבוהות ביותר לכל משימה לבחירת המודל המתאים למשימה. הצוותים התחילו במודל קל משקל ועברו למודלים בעלי יכולות גבוהות יותר ככל שמורכבות המשימה עלתה.

כדי לתמוך בניהול ובפיקוח, החברה הוסיפה גם בקרות מערכת דרך הגדרות מנהל המערכת, עם מגבלות שימוש חודשיות למחלקות ולעובדים. AID CoE מנטר את השימוש ומתאים את המגבלות לצרכים העסקיים.

בדיקות פנימיות במסגרת הבקרות האלה סייעו לחדד את הקריטריונים לבחירת מודלים. GPT‑6 Luna, המודל הקל ביותר, מטפל במימוש קוד לפי דרישות ברורות; GPT‑6.1 Sol תומך בתכנון שגרתי, בניתוח נתונים ובהכנת מסמכים; ו-GPT‑6 Astra, המודל בעל היכולות הגבוהות ביותר, מטפל במשימות הדורשות שיקול דעת מעמיק, כולל תכנון ארכיטקטורה. התאמת המודלים למשימות הפכה בהדרגה לנוהג משותף לכל הצוותים.

לצד בחירת המודלים, החברה החלה להגביל את השימוש במצב מהיר כברירת מחדל, ולאפשר אותו רק לפי בקשות פרטניות בעת הצורך. אף שהשינוי עורר חששות לגבי קצב הפיתוח, הצוותים נעזרו בשיטות כמו הרצת משימות במקביל כדי לשמור על הביצועים ולאפשר מעבר חלק.

החברה גם קבעה תקרות תקציב להוצאות על בינה מלאכותית ברמת המחלקה, הקבוצה והעובד. הפעילות העסקית המבוססת של LegalOn נדרשה להתייעל בעלויות בשיעור של עד כ-20%, ואילו פעילויות עסקיות חדשות בשלב ההשקה קיבלו תקציבים נדיבים לעידוד שימוש פעיל בבינה מלאכותית.

יוטה טוקיטאקה, מנהל הנדסה בכיר ב-LegalOn Technologies, מסביר שבפעילויות העסקיות החדשות ניתנה עדיפות לקצב ההתקדמות העסקית על פני התייעלות בעלויות. המטרה הייתה להשתמש בבינה מלאכותית בהיקף נרחב כדי להגדיל את התפוקה ובסופו של דבר להניע צמיחה עסקית.

השילוב של בחירת מודלים, הגבלות על תכונות ותקציבים מותאמים לכל פעילות עסקית הפחית את העלויות היומיות המשוערות בכ-65%. גישה זו שמרה על התקציב הכולל בשליטה, תוך הפניית משאבים לפעילויות העסקיות שהחברה רצתה להצמיח.

ייעול השימוש במודלים והקצאת משאבים אסטרטגית הניבו את התוצאות הבאות:

• מעבר משימוש במודל בעל היכולות הגבוהות ביותר לכל משימה לבחירה ב-GPT‑6 Astra, ב-GPT‑6.1 Sol או ב-GPT‑6 Luna בהתאם למורכבות המשימה ולשלב הפיתוח.

• שמירה על ביצועי הפיתוח לאחר הגבלת השימוש במצב מהיר כברירת מחדל, בעזרת שיטות עבודה צוותיות כמו ביצוע משימות במקביל.

• תקרות תקציב ששילבו התייעלות של כ-20% בפעילויות עסקיות מבוססות עם השקעה פעילה בפעילויות עסקיות חדשות.

• הפחתה של 65% בעלויות היומיות המשוערות לעומת GPT‑5.5, באמצעות בחירה בין מודלים ממשפחות GPT‑6 ו-6.1.

באמצעות ייעול השימוש במודלים, החברה הפחיתה עלויות בלי לפגוע בקצב הפיתוח או באיכותו. הצוותים גם רואים כיצד הבינה המלאכותית מקצרת בהתמדה את הזמן שבין הפיתוח להשקה.

אבל החברה מסתכלת רחוק יותר. האם פיתוח מהיר יותר לבדו הופך את ההשקעה בבינה מלאכותית להצלחה? הקשר בין פיתוח מהיר יותר לבין ערך ללקוח נותר לא ברור. ״כמעט מובן מאליו שבינה מלאכותית יכולה להאיץ פיתוח ועדכון של מערכות״, אומר טוקיטאקה. ״מה שאנחנו באמת רוצים להבין הוא האם הפיתוח המהיר יותר אכן מתורגם לערך עבור הלקוחות.״

שאלה זו הניעה את החברה לפתח מדד משלה, ולהעביר את הדגש בהערכת ההשקעה בבינה מלאכותית מקצב הפיתוח והיקף השימוש לערך ללקוח.

טוקיטאקה מסביר: ״כשמשתמשים בבינה מלאכותית, אפשר לעקוב אחר העלות של משימות בודדות, אבל העלות הכוללת של תוצר שלם — השקת תכונה — נשארת לעיתים קרובות קופסה שחורה. לכן תכננו את המדידה כך שכל השקת תכונה נחשבת ליחידה אחת. באמצעות קישור בין הערך שההשקה מספקת ללקוח לבין העלויות שהושקעו בה בפועל על בינה מלאכותית, אנחנו שואפים להציג תמונה ברורה ומדויקת של ההחזר על ההשקעה.״

החברה בונה כעת את תשתית עיבוד הנתונים לחישוב המדד הזה. כשתושלם, היא תאפשר לראות את ההחזר האמיתי על ההשקעה במונחים של ערך ללקוח. LegalOn Technologies מתקדמת מעבר לניהול עלויות הבינה המלאכותית, לעבר חיבור ישיר בין השקעה בטכנולוגיה לערך עסקי.

היעד הבא הוא להפוך את הידע המעשי של מהנדסים בודדים בבינה מלאכותית ליכולת כלל-ארגונית. כצעד ראשון, החברה מתכננת להקים מאגר ידע לאיסוף ולשיתוף של ניסיון מעשי. המאגר ירכז ידע כמו שילובי המודלים הטובים ביותר לתכנון, למימוש ולסקירה, ויאפשר להפוך במהירות הצלחות אישיות לשיטות עבודה מומלצות בכל החברה.

השינויים האלה, שנובעים מהניסיון המעשי של הצוותים, מעצבים גם את הארגון ואת גיוס העובדים. השיפור בפרודוקטיביות בזכות הבינה המלאכותית מניע את החברה לחשוב מחדש מיסודה על חלוקת העבודה בין אנשים לבינה מלאכותית, וגם על תכנון כוח האדם שלה. היא כבר החלה להדגיש מיומנויות בינה מלאכותית בגיוס עובדים, במקביל להתפתחות אסטרטגיית ההשקעה והמבנה הארגוני שלה.

כדי להפוך את אימוץ הבינה המלאכותית ליתרון תחרותי מתמשך, יש לשפר ללא הרף את האיזון בין ניהול ופיקוח לבין חופש הפעולה של הצוותים. AID CoE וצוות האבטחה עובדים יחד כדי לשפר את הביצועים, העלויות וניהול הסיכונים מתוך מגוון נקודות מבט, ובונים מסגרת גמישה שתומכת בהתנסות ברחבי הארגון.