رابط برنامهنویسی کاربردی OpenAI
ما در حال انتشار یک API برای دسترسی به مدلهای جدید هوش مصنوعی توسعهیافته توسط OpenAI هستیم.
ما یک API برای دسترسی به مدلهای جدید هوش مصنوعی توسعهیافته توسط OpenAI منتشر میکنیم. برخلاف بیشتر سیستمهای هوش مصنوعی که برای یک کاربرد خاص طراحی شدهاند، API کنونی یک رابط عمومی «متن ورودی، متن خروجی» ارائه میدهد که به کاربران اجازه میدهد آن را در تقریباً هر وظیفهای در حوزه زبان انگلیسی به کار گیرند. اکنون میتوانید برای ادغام API در محصول خود، توسعهی یک برنامهی کاملاً جدید، یا همکاری با ما در شناسایی نقاط قوت و محدودیتهای این فناوری، درخواست دسترسی ارسال کنید.
با دریافت هر درخواست متنی، API متنی تکمیلشده برمیگرداند و سعی میکند الگوی ارائهشده را دنبال کند و با آن مطابقت داشته باشد. میتوانی با ارائهی تنها چند نمونه از کاری که انتظار داری انجام دهد، آن را «برنامهریزی» کنی؛ میزان موفقیت آن معمولاً بسته به پیچیدگی وظیفه متفاوت است. این API همچنین به شما امکان میدهد عملکرد را در وظایف خاص بهبود دهید؛ چه از طریق آموزش روی یک مجموعهداده (کوچک یا بزرگ) از نمونههایی که ارائه میکنید، و چه از طریق یادگیری از بازخورد انسانی که توسط کاربران یا برچسبگذاران ارائه میشود.
ما این API را بهگونهای طراحی کردهایم که هم برای همهی کاربران ساده و قابل استفاده باشد، و هم بهقدر کافی انعطافپذیر باشد تا بهرهوری تیمهای یادگیری ماشینی را افزایش دهد. در واقع، بسیاری از تیمهای ما اکنون از این API استفاده میکنند تا بهجای پرداختن به مشکلات سیستمهای توزیعشده، بر تحقیقات یادگیری ماشین تمرکز کنند. امروزه این API مدلهایی از خانوادهی GPT‑3(در یک پنجره جدید باز میشود) را با وزنهای آنها اجرا میکند، در حالی که بهبودهای چشمگیری در سرعت و توان عملیاتی اعمال شده است. یادگیری ماشینی با سرعت زیادی در حال پیشرفت است و ما بهطور مداوم در حال ارتقای فناوری خود هستیم تا کاربرانمان همیشه بهروز بمانند.
سرعت بالای پیشرفت در این حوزه باعث میشود که کاربردهای جدید و شگفتانگیزی از هوش مصنوعی—چه مثبت و چه منفی—بهطور مداوم ظاهر شوند. ما دسترسی به API را در موارد استفادهی آشکارا مضر—مانند آزار و اذیت، ارسال هرزنامه، افراطگرایی یا تبلیغات ساختگی (استروترفینگ)—قطع خواهیم کرد. اما ما همچنین میدانیم که نمیتوان تمامی پیامدهای احتمالی این فناوری را از پیش پیشبینی کرد؛ به همین دلیل، بهجای عرضهی عمومی، امروز آن را در قالب یک نسخهی بتای خصوصی راهاندازی میکنیم. همچنین، در حال توسعهی ابزارهایی هستیم که به کاربران امکان کنترل بهتر بر محتوای ارائهشده توسط API را میدهند، و در حال پژوهش روی جنبههای مرتبط با ایمنی در فناوری زبان هستیم—از جمله تحلیل، کاهش و مداخله در موارد سوگیری مضر. ما آموختههای خود را به اشتراک خواهیم گذاشت تا کاربران ما و جامعهی گستردهتر بتوانند سیستمهای هوش مصنوعیای توسعه دهند که بیشتر در خدمت انسان و منافع انسانی باشند.
علاوه بر اینکه API منبع درآمدی برای کمک به ما در تأمین هزینهها در مسیر تحقق مأموریتمان است، باعث شده تمرکز خود را بر فناوری هوش مصنوعی عمومی تقویت کنیم—از جمله در زمینهی توسعهی این فناوری، کاربردیسازی آن، و بررسی تأثیراتش در دنیای واقعی. امیدواریم این API بتواند موانع(در یک پنجره جدید باز میشود) تولید محصولات مفید مبتنی بر هوش مصنوعی را تا حد زیادی کاهش دهد و در نتیجه منجر به خلق ابزارها و خدماتی شود که امروز تصورشان دشوار است.
مایلی API را بررسی کنی؟ به شرکتهایی مانند Algolia(در یک پنجره جدید باز میشود)، Quizlet(در یک پنجره جدید باز میشود) و Reddit(در یک پنجره جدید باز میشود) و همچنین پژوهشگرانی از مؤسساتی مانند Middlebury Institute(در یک پنجره جدید باز میشود) در نسخهی بتای خصوصی(در یک پنجره جدید باز میشود) ما بپیوند.
در نهایت، آنچه بیش از هر چیز برایمان اهمیت دارد، اطمینان از این است که هوش عمومی مصنوعی به سود همگان باشد. ما توسعهی محصولات تجاری را یکی از راههای تأمین بودجهی کافی برای دستیابی به موفقیت میدانیم.
ما همچنین بر این باوریم که استقرار ایمن سیستمهای قدرتمند هوش مصنوعی در جهان، چالشی دشوار و پیچیده خواهد بود. در فرآیند انتشار این API، ما بهصورت نزدیک با شرکای خود همکاری میکنیم تا چالشهایی را که هنگام استفاده از سیستمهای هوش مصنوعی در دنیای واقعی پدید میآیند، شناسایی کنیم. این کار به ما کمک میکند تا تلاشهایمان را در جهت درک نحوهی استقرار سیستمهای هوش مصنوعی در آینده هدایت کنیم و دریابیم چه اقداماتی لازم است تا اطمینان حاصل شود این سیستمها برای همه ایمن و سودمند خواهند بود.
ما این کار را به سه دلیل اصلی انجام دادیم. نخست، تجاریسازی این فناوری به ما کمک میکند تا هزینههای تحقیقات مستمر در حوزهی هوش مصنوعی، ایمنی و فعالیتهای سیاستگذاریمان را تأمین کنیم.
دوم، بسیاری از مدلهای زیربنایی API بسیار بزرگاند، بهطوری که توسعه و استقرار آنها نیازمند تخصص بالایی است و اجرای آنها نیز بسیار پرهزینه است. این مسئله بهرهمندی از فناوری زیربنایی را برای همه بهجز شرکتهای بزرگ دشوار میسازد. امیدواریم API بتواند سیستمهای قدرتمند هوش مصنوعی را برای کسبوکارها و سازمانهای کوچکتر در دسترستر کند.
سوم، مدل API این امکان را برای ما فراهم میسازد که راحتتر به موارد سوءاستفاده از فناوری پاسخ دهیم. با توجه به دشواری پیشبینی موارد استفادهی آتی از مدلهای ما، بهنظر میرسد انتشار آنها از طریق API و گسترش تدریجی دسترسی، ذاتاً رویکردی ایمنتر باشد؛ در مقایسه با انتشار یک مدل متنباز که در صورت بروز کاربردهای مضر، امکان کنترل یا تنظیم دسترسی وجود نخواهد داشت.
در مورد GPT‑2، یکی از نگرانیهای اصلی ما سوءاستفاده از مدل بود (برای مثال، در انتشار اطلاعات نادرست)؛ نگرانیای که پس از متنباز شدن مدل، پیشگیری از آن بسیار دشوار است. در مورد API، با محدود کردن دسترسی به مشتریان و موارد استفادهی تأییدشده، میتوانیم بهتر از سوءاستفاده جلوگیری کنیم. پیش از آنکه برنامههای پیشنهادی به مرحله اجرا برسند، باید از یک فرآیند اجباری بازبینی تولید عبور کنند. در بررسیهای تولید، ما برنامهها را از جنبههای مختلف ارزیابی میکنیم و پرسشهایی مانند موارد زیر را مطرح میکنیم: آیا این مورد استفاده در حال حاضر پشتیبانی میشود؟، میزان باز بودن برنامه تا چه حد است؟، میزان ریسک برنامه چقدر است؟، چه برنامهای برای مقابله با سوءاستفادههای احتمالی دارید؟ و کاربران نهایی این برنامه چه کسانی هستند؟
ما دسترسی به API را برای موارد استفادهای که مشخص شود موجب آسیب جسمی، عاطفی یا روانی به افراد میشوند (یا با چنین قصدی طراحی شدهاند) قطع میکنیم؛ از جمله، اما نه محدود به، آزار و اذیت، فریب عمدی، افراطگرایی، تبلیغات ساختگی (Astroturfing) یا ارسال هرزنامه. همچنین، دسترسی برنامههایی که فاقد تدابیر محافظتی کافی برای جلوگیری از سوءاستفاده کاربران نهایی باشند نیز مسدود خواهد شد. با افزایش تجربهی عملی ما در بهرهبرداری از API، بهطور مستمر دستهبندیهای موارد استفادهای را که قادر به پشتیبانی از آنها هستیم، بازبینی و اصلاح خواهیم کرد؛ هم بهمنظور گسترش دامنهی برنامههای قابل پشتیبانی، و هم برای تعریف دستهبندیهای دقیقتری در خصوص مواردی که نسبت به سوءاستفاده از آنها نگرانی داریم.
یکی از عوامل کلیدی که در تأیید موارد استفاده از API مدنظر قرار میدهیم، میزان باز بودن یا محدود بودن رفتار برنامه در ارتباط با قابلیتهای تولیدی پایهای سیستم است. برنامههای کاربردی API با ماهیت باز (یعنی آنهایی که امکان تولید آسان و گستردهی متنهای قابل تنظیم را از طریق درخواستهای دلخواه فراهم میکنند)، بهویژه مستعد سوءاستفاده هستند. محدودیتهایی که میتوانند موارد استفادهی مولد را ایمنتر سازند، شامل طراحی سیستمهایی میشود که حضور انسان را در چرخه حفظ میکنند، محدودیت در دسترسی کاربران نهایی، پردازشهای پس از تولید، فیلتر کردن محتوا، محدودیت در طول ورودی و خروجی، نظارت فعال و نیز محدودیتهای موضوعی.
ما همچنین به تحقیقات خود در زمینهی سوءاستفادههای احتمالی از مدلهایی که از طریق API ارائه میشوند ادامه میدهیم؛ از جمله در همکاری با پژوهشگران شخص ثالث از طریق برنامه دسترسی دانشگاهی(در یک پنجره جدید باز میشود). ما در حال حاضر این همکاری را با تعداد بسیار محدودی از پژوهشگران آغاز کردهایم و تاکنون نتایجی از شرکای دانشگاهی خود در مؤسسه میدلبری(در یک پنجره جدید باز میشود)، دانشگاه واشنگتن و مؤسسه آلن برای هوش مصنوعی(در یک پنجره جدید باز میشود) دریافت کردهایم. تاکنون دهها هزار نفر برای این برنامه درخواست دادهاند و در حال حاضر، اولویت ما با درخواستهایی است که بر پژوهش در زمینهی عدالت و نمایندگی تمرکز دارند.
کاهش اثرات منفی، از جمله سوگیریهای مضر، چالشی دشوار و فراگیر در سطح صنعت است که از اهمیت بسیار بالایی برخوردار است. همانطور که در مقاله GPT‑3(در یک پنجره جدید باز میشود) و کارت مدل(در یک پنجره جدید باز میشود) توضیح دادهایم، مدلهای API ما دارای سوگیریهایی هستند که در متون تولیدشده بازتاب مییابند. در ادامه، گامهایی را که برای رفع این مشکلات در حال انجام آنها هستیم، معرفی میکنیم:
- ما دستورالعملهایی برای استفاده تدوین کردهایم که به توسعهدهندگان کمک میکند مسائل ایمنی بالقوه را شناسایی و برطرف کنند.
- ما بهصورت نزدیک با کاربران همکاری میکنیم تا موارد استفاده آنها را بهتر درک کنیم و ابزارهایی برای شناسایی و مداخله، با هدف کاهش سوگیریهای مضر، توسعه دهیم.
- ما در حال انجام تحقیقاتی مستقل درباره نمودهای تعصب مضر و مسائل گستردهتری در زمینه انصاف و نمایندگی هستیم؛ تحقیقاتی که از طریق مستندسازی بهتر مدلهای موجود و همچنین بهبودهای گوناگون در مدلهای آتی، به ارتقای فعالیتهای ما کمک خواهد کرد.
- ما آگاهیم که تعصب، مسئلهای است که در نقطه تلاقی یک سیستم و زمینهای که در آن به کار گرفته میشود، بروز میکند. برنامههایی که با استفاده از فناوری ما ساخته میشوند، سیستمهایی اجتماعی-فنی هستند؛ از این رو، با توسعهدهندگان همکاری میکنیم تا اطمینان حاصل شود که آنها فرآیندهای مناسب و سیستمهای نظارتی مبتنی بر مشارکت انسانی را برای پایش رفتارهای نامطلوب به کار میگیرند.
هدف ما این است که بهطور مداوم درک خود را از آسیبهای احتمالی API در هر زمینهی کاربردی گسترش دهیم و ابزارها و فرآیندهای خود را بهگونهای پیوسته بهبود بخشیم تا به کاهش این آسیبها کمک کنیم.
بهروزرسانیشده در 18 سپتامبر 2020
