ה-API של OpenAI

אנחנו משיקים API לגישה למודלים חדשים של בינה מלאכותית שפיתחה OpenAI. בניגוד לרוב מערכות הבינה המלאכותית, שמיועדות לתרחיש שימוש אחד, ה-API מציע כיום ממשק רב-תכליתי של ״טקסט נכנס, טקסט יוצא״, שמאפשר למשתמשים לנסות אותו כמעט בכל משימה בשפה האנגלית. כעת אפשר לבקש גישה כדי לשלב את ה-API במוצר שלכם, לפתח יישום חדש לגמרי או לעזור לנו לחקור את נקודות החוזק והמגבלות של הטכנולוגיה הזו.

לכל פרומפט טקסט שתזינו, ה-API יחזיר השלמת טקסט שתנסה להתאים לדפוס שסיפקתם. אפשר ״לתכנת״ אותו באמצעות כמה דוגמאות בלבד של מה שתרצו שיעשה; מידת ההצלחה שלו תלויה בדרך כלל במורכבות המשימה. ה-API מאפשר גם לשפר את הביצועים במשימות מסוימות באמצעות אימון על מערך נתונים (קטן או גדול) של דוגמאות שתספקו, או באמצעות למידה ממשוב אנושי של משתמשים או מתייגי נתונים.

תכננו את ה-API כך שיהיה פשוט לשימוש לכולם, ובה בעת גמיש מספיק כדי לייעל את עבודתם של צוותי למידת מכונה. למעשה, רבים מהצוותים שלנו כבר משתמשים ב-API כדי להתמקד במחקר של למידת מכונה במקום בבעיות של מערכות מבוזרות. כיום ה-API מריץ מודלים עם משקולות ממשפחת GPT‑3⁠(נפתח בחלון חדש), עם שיפורים רבים במהירות ובתפוקה. תחום למידת המכונה מתקדם במהירות רבה, ואנחנו משדרגים את הטכנולוגיה שלנו ללא הרף כדי שהמשתמשים שלנו יישארו מעודכנים.

קצב ההתקדמות בתחום מוביל לעיתים קרובות לשימושים חדשים ומפתיעים בבינה מלאכותית, חיוביים ושליליים כאחד. נבטל את הגישה ל-API בתרחישי שימוש מזיקים בבירור, כמו הטרדה, ספאם, הקצנה או יצירת מצג שווא של תמיכה ציבורית עממית. אבל אנחנו גם יודעים שלא נוכל לצפות את כל ההשלכות האפשריות של הטכנולוגיה הזו. לכן אנחנו משיקים אותה היום בבטא סגורה, במקום לפתוח אותה לכולם, מפתחים כלים שיעזרו למשתמשים לשלוט טוב יותר בתוכן שה-API שלנו מחזיר, וחוקרים היבטים של טכנולוגיית שפה הנוגעים לבטיחות (כמו ניתוח של הטיות מזיקות, צמצומן והתערבות למניעתן). נשתף את מה שנלמד כדי שהמשתמשים שלנו והקהילה הרחבה יוכלו לבנות מערכות בינה מלאכותית שמיטיבות יותר עם בני אדם.

מעבר להיותו מקור הכנסה שעוזר לנו לכסות עלויות⁠ בדרך להגשמת המשימה שלנו⁠, ה-API דחף אותנו להתמקד עוד יותר בטכנולוגיית בינה מלאכותית רב-תכליתית — לקדם אותה, להפוך אותה לשימושית ולבחון את השפעותיה בעולם האמיתי. אנחנו מקווים שה-API יוריד משמעותית את חסם הכניסה⁠(נפתח בחלון חדש) לפיתוח מוצרים מועילים המבוססים על בינה מלאכותית, וכך יאפשר יצירת כלים ושירותים שקשה לדמיין היום.

רוצים להתנסות ב-API? הצטרפו לחברות כמו Algolia⁠(נפתח בחלון חדש), Quizlet⁠(נפתח בחלון חדש) ו-Reddit⁠(נפתח בחלון חדש), ולחוקרים במוסדות כמו מכון מידלברי⁠(נפתח בחלון חדש), במסגרת הבטא הסגורה שלנו⁠(נפתח בחלון חדש).

בסופו של דבר, הדבר החשוב לנו ביותר⁠ הוא להבטיח שבינה מלאכותית כללית תועיל לכולם. אנחנו רואים בפיתוח מוצרים מסחריים אחת הדרכים להבטיח שיהיה לנו מספיק מימון כדי להצליח.

אנחנו גם מאמינים שהטמעה בטוחה ומוצלחת של מערכות בינה מלאכותית רבות-עוצמה בעולם תהיה אתגר מורכב. במסגרת השקת ה-API, אנחנו עובדים בצמוד לשותפים שלנו כדי לראות אילו אתגרים מתעוררים כשמערכות בינה מלאכותית משמשות בעולם האמיתי. הדבר יעזור לכוון את מאמצינו להבין כיצד תיראה הטמעת מערכות בינה מלאכותית בעתיד, ומה עלינו לעשות כדי להבטיח שהן יהיו בטוחות ומועילות לכולם.

עשינו זאת משלוש סיבות עיקריות. ראשית, מסחור הטכנולוגיה עוזר לנו לממן את עבודתנו השוטפת במחקר בינה מלאכותית, בבטיחות ובמדיניות.

שנית, רבים מהמודלים שעליהם מבוסס ה-API גדולים מאוד, ולכן נדרשת מומחיות רבה כדי לפתח ולהטמיע אותם, והפעלתם יקרה מאוד. כתוצאה מכך, קשה לגופים שאינם חברות גדולות ליהנות מהטכנולוגיה שבבסיסם. אנחנו מקווים שה-API יהפוך מערכות בינה מלאכותית רבות-עוצמה לנגישות יותר לעסקים ולארגונים קטנים יותר.

שלישית, מתכונת הגישה דרך API מאפשרת לנו להגיב בקלות רבה יותר לשימוש לרעה בטכנולוגיה. מכיוון שקשה לחזות אילו שימושים ייעשו במודלים שלנו בהמשך, נראה לנו בטוח יותר מטבע הדברים להציע אותם דרך API ולהרחיב את הגישה עם הזמן, במקום לשחרר מודל בקוד פתוח שלא ניתן לשנות את הגישה אליו אם יתגלו בו שימושים מזיקים.

במקרה של GPT‑2, אחד החששות העיקריים שלנו היה שימוש זדוני במודל (למשל, להפצת דיסאינפורמציה) — שימוש שקשה למנוע אחרי שמודל משוחרר בקוד פתוח. ב-API אנחנו יכולים למנוע שימוש לרעה ביעילות רבה יותר, באמצעות הגבלת הגישה ללקוחות ולתרחישי שימוש שאושרו. כל יישום מוצע חייב לעבור תהליך בדיקה שלנו לפני העלייה לסביבת ייצור. בבדיקות לקראת העלייה לסביבת ייצור, אנחנו בוחנים יישומים בכמה היבטים ושואלים שאלות כמו: האם זהו תרחיש שימוש שנתמך כרגע?, עד כמה אפשרויות השימוש ביישום פתוחות?, מה רמת הסיכון של היישום?, איך אתם מתכננים להתמודד עם שימוש אפשרי לרעה?, ומי הם משתמשי הקצה של היישום שלכם?.

אנחנו מבטלים את הגישה ל-API בתרחישי שימוש שנמצא כי הם גורמים (או נועדו לגרום) נזק גופני, רגשי או נפשי לאנשים. אלה כוללים, בין היתר, הטרדה, הטעיה מכוונת, הקצנה, יצירת מצג שווא של תמיכה ציבורית עממית או ספאם. אנחנו מבטלים גישה גם ליישומים שאין בהם אמצעי הגנה מספקים להגבלת שימוש לרעה מצד משתמשי הקצה. ככל שנצבור ניסיון בהפעלת ה-API בפועל, נמשיך לדייק את קטגוריות השימוש שבהן נוכל לתמוך — גם כדי להרחיב את מגוון היישומים הנתמכים וגם כדי להגדיר קטגוריות מפורטות יותר ליישומים שמעוררים אצלנו חשש לשימוש לרעה.

אחד הגורמים המרכזיים שאנחנו מביאים בחשבון בעת אישור שימושים ב-API הוא עד כמה היישום מאפשר שימוש פתוח ביכולות היצירה הבסיסיות של המערכת, לעומת שימוש מוגבל. יישומי API בעלי אפשרויות שימוש פתוחות (כלומר, כאלה שמאפשרים ליצור בקלות כמויות גדולות של טקסט הניתן להתאמה אישית באמצעות פרומפטים שרירותיים) מועדים במיוחד לשימוש לרעה. אמצעים שיכולים להפוך תרחישי שימוש ביצירת תוכן לבטוחים יותר כוללים תכנון מערכות עם בקרה אנושית כחלק מהתהליך, הגבלות גישה למשתמשי קצה, עיבוד נוסף של הפלט, סינון תוכן, הגבלת אורך הקלט והפלט, ניטור פעיל והגבלת נושאי התוכן.

אנחנו גם ממשיכים לחקור שימושים אפשריים לרעה במודלים הזמינים דרך ה-API, בין היתר בשיתוף חוקרים חיצוניים במסגרת תוכנית הגישה שלנו לאקדמיה⁠(נפתח בחלון חדש). בשלב זה אנחנו מתחילים עם מספר מצומצם מאוד של חוקרים, וכבר יש לנו כמה ממצאים מהשותפים האקדמיים שלנו במכון מידלברי⁠(נפתח בחלון חדש), באוניברסיטת וושינגטון ובמכון אלן לבינה מלאכותית⁠(נפתח בחלון חדש). כבר קיבלנו עשרות אלפי בקשות להצטרף לתוכנית, וכרגע אנחנו נותנים עדיפות לבקשות המתמקדות במחקר של הוגנות וייצוג.

צמצום השפעות שליליות, כמו הטיות מזיקות, הוא אתגר מורכב ובעל חשיבות עצומה לכל התעשייה. כפי שאנחנו מסבירים במאמר על GPT‑3⁠(נפתח בחלון חדש) ובכרטיס המודל⁠(נפתח בחלון חדש), במודלים שלנו הזמינים דרך ה-API אכן קיימות הטיות שיבואו לידי ביטוי בטקסט שנוצר. אלה הצעדים שאנחנו נוקטים כדי להתמודד עם הבעיות האלה:

• פיתחנו הנחיות שימוש שעוזרות למפתחים להבין בעיות בטיחות אפשריות ולהתמודד איתן.

• אנחנו עובדים בצמוד למשתמשים כדי להבין את תרחישי השימוש שלהם ולפתח כלים לזיהוי הטיות מזיקות ולהתערבות שתצמצם אותן.

• אנחנו עורכים מחקר משלנו על ביטויים של הטיות מזיקות ועל סוגיות רחבות יותר של הוגנות וייצוג. המחקר יסייע להנחות את עבודתנו, הן בשיפור התיעוד של מודלים קיימים והן בשיפורים שונים במודלים עתידיים.

• אנחנו מכירים בכך שהטיות באות לידי ביטוי במפגש בין מערכת לבין ההקשר שבו היא מופעלת. יישומים שנבנים באמצעות הטכנולוגיה שלנו הם מערכות חברתיות-טכנולוגיות, ולכן אנחנו עובדים עם המפתחים שלנו כדי לוודא שהם מיישמים תהליכים מתאימים ומערכות המשלבות בקרה אנושית לזיהוי התנהגות מזיקה.

המטרה שלנו היא להמשיך להעמיק את הבנתנו בנזקים האפשריים של ה-API בכל הקשר של שימוש, ולשפר בהתמדה את הכלים והתהליכים שלנו כדי לעזור למזער אותם.

עודכן ב-18 בספטמבר 2020