ماموریت OpenAI این است که اطمینان حاصل کند AGI به نفع همهٔ بشریت باشد، و برای تحقق این ماموریت باید در سراسر جهان به سراغ مردم برویم و آنها را در جایی که هستند ملاقات کنیم.
AI بهطور فزایندهای بهعنوان زیرساخت حیاتی ملی، همسطح با برق، شناخته میشود. دولتها و نهادها در سراسر جهان میخواهند اطمینان حاصل کنند که شهروندان و اقتصادهایشان بتوانند با دسترسی به توانمندترین سامانههای موجود، از دوران AI بهرهمند شوند.
برای اینکه AI بتواند به آن وعده عمل کند، باید از نظر محلی مرتبط باشد. این به معنای صحبت کردن به زبانهای محلی و با لهجههای محلی، احترام به قوانین محلی و انعکاس هنجارها و ارزشهای فرهنگی است.
با این حال، تنها تعداد کمی از کشورها در موقعیتی هستند که بتوانند مدلهای پیشرو AI را خودشان توسعه دهند. برای اکثر افراد، چالش این نیست که چگونه یک مدل را از ابتدا بسازند، بلکه این است که چگونه بهترین AI موجود را به گونهای تطبیق دهند که برای زمینه خاص آنها کار کند. این چیزی است که ما بهطور مداوم از دولتهای سراسر جهان میشنویم: آنها به AI مستقل نیاز دارند که بتوانند با ما بسازند، نه فقط سیستمهایی که به زبان آنها ترجمه شدهاند.
از طریق ابتکار OpenAI برای کشورها، ما در حال بررسی این بودهایم که بومیسازی در عمل چگونه میتواند کار کند. هدف این است که سامانههای AI بومیسازیشده ایجاد شوند، در حالی که همچنان از یک مدل پیشرو در سطح جهانی بهرهمند شویم.
ما در حال حاضر در چارچوب کار ChatGPT Edu، نسخهای بومیسازیشده از ChatGPT را برای دانشآموزان در استونی به صورت آزمایشی اجرا میکنیم که برنامههای درسی محلی و رویکردهای آموزشی را در بر میگیرد. ما همچنین در حال بررسی تلاشهای آزمایشی بومیسازی با کشورهای دیگر هستیم. به عنوان بخشی از تعهد ما به شفافیت در نحوه پژوهش و بهکارگیری AI، جزئیات بیشتری درباره نحوه کار بومیسازی به اشتراک میگذاریم.
مشخصات مدل ما یک سند عمومی است که مشخص میکند قصد داریم مدلهایمان چگونه رفتار کنند. ما مدلهای خود را برای پیروی از این مشخصات آموزش میدهیم و آن را بهطور مداوم از طریق یک فرایند مشارکتی و سراسری در OpenAI که شامل بازخوردهایی است که تیمهای ما از مردم در سراسر جهان دریافت میکنند، اصلاح میکنیم. این مشخصات به طیف وسیعی از روشهایی که مدلهای ما استفاده میشوند، از جمله ChatGPT، تجربیاتی که توسعهدهندگان بر روی پلتفرم ما میسازند، و سایر زمینهها اشاره دارد. این قواعد، که در هر جایی که مدلهای ما مستقر میشوند اعمال میشوند، مرزهای روشنی را درباره آنچه میتوان و نمیتوان تغییر داد و تعهد ما به شفافیت درباره تغییرات تعریف میکنند.
مشخصات مدل شامل «اصول خط قرمز(در یک پنجره جدید باز میشود)» است که برای همهٔ استقرارها، از جمله آنهایی که تحت برنامه OpenAI for Countries هستند، اعمال میشود. در آنها، تأکید میکنیم که «ایمنی انسان و حقوق بشر برای مأموریت OpenAI در اولویت مطلق است» و مشخص میکنیم که:
- ما اجازه نخواهیم داد مدلهای ما امکان بروز آسیبهای شدید مانند اعمال خشونت، سلاحهای کشتار جمعی، تروریسم، آزار و اذیت یا نظارت جمعی را فراهم کنند.
- ما اجازه نخواهیم داد که مدلهای ما برای حذف هدفمند یا مقیاسپذیر، دستکاری، تضعیف خودمختاری انسان یا کاهش مشارکت در فرآیندهای مدنی استفاده شوند.
- ما متعهد به حفاظت از حریم خصوصی افراد در تعاملاتشان با AI هستیم.
هنگامی که OpenAI تجربهای مستقیم و شخصی برای مصرفکنندگان مانند ChatGPT ارائه میکند، ما نیز متعهد میشویم که از طریق آن:
- افراد باید به اطلاعات قابلاعتماد و حیاتی مرتبط با ایمنی از مدلهای ما بهراحتی دسترسی داشته باشند.
- سفارشیسازی، شخصیسازی و بومیسازی، قواعد الزامآور را در سراسر جزئیات مدل نادیده نخواهند گرفت. این شامل اصل دیدگاه عینی(در یک پنجره جدید باز میشود) است، به این معنا که بومیسازی ممکن است بر زبان یا لحن تأثیر بگذارد، اما نمیتواند ماهیت یا توازن حقایق ارائهشده را تغییر دهد.
- باید مردم شفافیت در مورد قوانین و دلایل مهم پشت رفتار مدلهای ما داشته باشند، بهطور مثال، هر محتوایی که بهدلیل الزامات قانونی حذف شده باشد، بهطور شفاف به کاربر در هر پاسخ مدل اعلام خواهد شد، بهطوری که نوع اطلاعات حذفشده و دلیل حذف آن مشخص شود، بدون اینکه محتوای ویرایششده خود افشا شود. به همین ترتیب، هرگونه اطلاعات اضافهشده نیز بهطور شفاف شناسایی خواهد شد.
در حالی که از طریق OpenAI for Countries به بررسی AI بومیسازیشده و حاکمیتی میپردازیم، متعهدیم که همچنان درباره آنچه میآموزیم بیشتر به اشتراک بگذاریم و رویکرد خود را بهطور شفاف توسعه دهیم.
