Sharing & publication policy

כדי לצמצם את הסיכונים האפשריים של תוכן שנוצר באמצעות בינה מלאכותית, קבענו את המדיניות הבאה בנוגע לשיתוף המותר.

פרסום פרומפטים או השלמות משלכם ברשתות החברתיות מותר בדרך כלל, וכך גם שידור חי של השימוש שלכם או הדגמת המוצרים שלנו בפני קבוצות של אנשים. יש לפעול בהתאם להנחיות הבאות:

• יש לבדוק ידנית כל תוכן שנוצר לפני השיתוף או במהלך השידור.

• יש לייחס את התוכן לשמכם או לחברה שלכם.

• יש לציין שהתוכן נוצר באמצעות בינה מלאכותית, באופן ברור כך שאף משתמש סביר לא יוכל לפספס זאת או להבין זאת באופן שגוי.

• אין לשתף תוכן שמפר את מדיניות התוכן⁠⁠ שלנו או שעלול לפגוע באחרים.

• אם מתקבלות בקשות מהקהל לפרומפטים, יש להפעיל שיקול דעת; אין להזין פרומפטים שעלולים להוביל להפרה של מדיניות התוכן⁠⁠ שלנו.

אם ברצונכם לוודא שצוות OpenAI מודע להשלמה מסוימת, ניתן לשלוח לנו דוא״ל או להשתמש בכלי הדיווח ב-Playground.

• חשוב לזכור שהאינטראקציה היא עם המודל הגולמי, כלומר איננו מסננים תגובות מוטות או שליליות. (אפשר גם לקרוא כאן מידע נוסף על הטמעת ה-endpoint החינמי של Moderation⁠⁠(נפתח בחלון חדש) שלנו.)

יוצרות ויוצרים המעוניינים לפרסם תוכן כתוב מקורי משלהם (למשל, ספר או קובץ סיפורים קצרים), שנוצר בחלקו באמצעות OpenAI API, רשאים לעשות זאת בכפוף לתנאים הבאים:

• התוכן שפורסם מיוחס לשמכם או לחברה שלכם.

• תפקיד הבינה המלאכותית בגיבוש התוכן מצוין בבירור, כך שלא ניתן להחמיץ זאת, ובאופן שיהיה קל דיו להבנה לאדם מן השורה.

• נושאי התוכן אינם מפרים את מדיניות התוכן⁠⁠ של OpenAI או את תנאי השימוש⁠⁠, למשל, אינם קשורים לתוכן למבוגרים, לספאם, לתוכן שנאה, לתוכן המסית לאלימות או לשימושים אחרים שעלולים לגרום נזק חברתי.

• נבקש להימנע משיתוף פלטים שעלולים להעליב אחרים.

לדוגמה, יש לפרט בפתח דבר או במבוא (או במקום דומה) את התפקידים היחסיים של כתיבה, עריכה וכו׳. אין להציג תוכן שנוצר באמצעות API כאילו נוצר כולו בידי אדם או כולו בידי בינה מלאכותית, ועל אדם לשאת באחריות הסופית לתוכן שמתפרסם.

להלן נוסח כללי שאפשר להשתמש בו לתיאור תהליך היצירה, בתנאי שהוא מדויק:

אנו מאמינים שחשוב לאפשר לציבור הרחב להעריך את המחקר והמוצרים שלנו, במיוחד כדי להבין נקודות חולשה אפשריות ובעיות בטיחות או הטיה במודלים שלנו ולשפר את המודלים בהיבטים אלה. בהתאם לכך, אנו מקדמים בברכה פרסומים מחקריים הקשורים ל-API של OpenAI.

• במקרים מסוימים, ייתכן שנרצה להבליט את העבודה שלכם, בתוך הארגון ו/או מחוצה לו.

• במקרים אחרים, כגון פרסומים הנוגעים לאבטחה או לשימוש לרעה ב-API, ייתכן שנרצה לנקוט פעולות מתאימות כדי להגן על המשתמשים שלנו.

• אם במהלך המחקר מתגלות בעיות בטיחות או אבטחה ב-API, נבקש לדווח עליהן מיד באמצעות תוכנית הגילוי המתואם של חולשות⁠⁠ שלנו.

יש כמה כיווני מחקר שאנו נרגשים לבחון באמצעות ה-API של OpenAI. אם יש עניין באפשרות לקבל גישה מסובסדת, יש למסור לנו פרטים על אופן השימוש לצורכי המחקר שלכם בטופס הבקשה לתוכנית הגישה לחוקרים⁠⁠.

בפרט, אנו סבורים שההנחיות הבאות חשובות במיוחד, אך ניתן לנסח הנחיה משלכם:

• התאמה: כיצד ניתן להבין לאיזה יעד, אם בכלל, נכון לראות מודל כמי שפועל להשגתו? כיצד אפשר להגביר את מידת ההתאמה של יעד זה להעדפות אנושיות, למשל באמצעות תכנון פרומפטים או כוונון עדין?

• הוגנות וייצוג: כיצד יש לקבוע קריטריונים לביצועים לשם הוגנות וייצוג במודלים לשוניים? כיצד ניתן לשפר מודלים לשוניים כדי לתמוך ביעדים של הוגנות וייצוג ביעילות בהקשרים ספציפיים שבהם הם מיושמים?

• מחקר בינתחומי: כיצד פיתוח בינה מלאכותית יכול להיעזר בתובנות מתחומים אחרים, כגון פילוסופיה, מדעי הקוגניציה וסוציולינגוויסטיקה?

• יכולת פענוח ושקיפות: איך המודלים האלה פועלים מבחינה מכנית? האם אפשר לזהות באילו מושגים הם משתמשים, או לחלץ מהמודל ידע חבוי, להסיק מסקנות על תהליך האימון, או לחזות התנהגות עתידית מפתיעה?

• פוטנציאל לשימוש לרעה: כיצד ניתן לעשות שימוש לרעה במערכות כמו ה-API? אילו גישות של "red teaming" אפשר לפתח כדי לעזור לנו ולמפתחי בינה מלאכותית אחרים לחשוב על יישום אחראי של טכנולוגיות כאלה?

• חקר מודלים: למודלים כמו אלה הזמינים דרך ה-API יש מגוון יכולות שטרם חקרנו. אנו נרגשים ממחקרים בתחומים רבים, ובהם מגבלות של מודלים, מאפיינים לשוניים, reasoning המבוסס על היגיון בריא ושימושים אפשריים לפתרון בעיות רבות אחרות.

• חוסן: למודלים גנרטיביים יש פרופיל יכולות לא אחיד, והם עשויים להציג תחומי יכולת חזקים באופן מפתיע לצד תחומים חלשים באופן מפתיע. עד כמה מודלים גנרטיביים גדולים עמידים בפני שינויים "טבעיים" בפרומפט, כגון ניסוח אותו רעיון בדרכים שונות או עם שגיאות כתיב או בלעדיהן? האם אפשר לחזות באילו תחומים ובאילו משימות מודלים גנרטיביים גדולים צפויים להיות עמידים (או לא עמידים), וכיצד הדבר קשור לנתוני האימון? האם יש טכניקות שאפשר להשתמש בהן כדי לחזות התנהגות במקרים הגרועים ביותר ולצמצם אותה? כיצד ניתן למדוד את החוסן בהקשר של למידת few-shot (למשל, בין וריאציות שונות של פרומפטים)? האם אפשר לאמן מודלים כך שיעמדו בתכונות בטיחות ברמת אמינות גבוהה מאוד, גם לנוכח קלטים עוינים?

חשוב לציין כי בשל ריבוי הבקשות, נדרש לנו זמן לבחון את הבקשות האלה, ולא כל מחקר יקבל עדיפות לקבלת סבסוד. ניצור קשר רק אם הבקשה שלכם תיבחר לקבלת סבסוד.