دستور کار سیاستگذاری عمومی OpenAI
ماموریت OpenAI این است که اطمینان حاصل کند هوش مصنوعی عمومی (AGI) به نفع همه بشریت باشد. کار ما بر اساس پنج اصل بنیادین پیش میرود که نحوه توسعه هوش مصنوعی و نحوه مشارکت ما در سیاستگذاری عمومی را شکل میدهند:
- دموکراتیکسازی. ما در برابر این احتمال که این فناوری قدرت را در دست عدهای معدود متمرکز کند، مقاومت خواهیم کرد.
- توانمندسازی. ما باور داریم هوش مصنوعی میتواند همه را توانمند کند تا به هدفهایشان برسند، بیشتر بیاموزند، شادتر و رضایتمندتر باشند و رؤیای خود را دنبال کنند و در مجموع این امر به نفع جامعه خواهد بود.
- رفاه همگانی. ما آیندهای میخواهیم که در آن همه بتوانند زندگی بسیار خوبی داشته باشند.
- تابآوری. هوش مصنوعی خطرات تازهای به همراه خواهد آورد و ما برای حل آنها با سایر شرکتها، اکوسیستمها، دولتها و جامعه همکاری خواهیم کرد.
- انطباقپذیری. ما همچنان بر این باوریم که تنها راه رویارویی با چالشهای آیندهای بسیار غیرقابلپیشبینی، آمادگی برای بهروزرسانی مواضعمان همزمان با کسب آگاهی بیشتر است.
ما باور داریم که هوش مصنوعی این ظرفیت را دارد که شیوه کار، یادگیری، خلق کردن و مشارکت مردم در جامعه را دگرگون کند، و اینکه نظامهای دموکراتیک نقشی اساسی در گسترش دسترسی به فرصتها، کاهش ریسکها و تضمین عاملیت واقعی مردم برای شکل دادن به آینده هوش مصنوعی مطلوبشان ایفا خواهند کرد. به همین دلیل متعهدیم فناوریمان را بهصورت رایگان و ایمن در دسترس قرار دهیم.
پایگاه کاربران ما بازتابدهنده همین تعهد است: زنان و مردان به یک اندازه از ابزارهای ما استفاده میکنند، در هر دو گروه سنی زیر و بالای ۳۰ سال، کاربران بیشتری نسبت به هر پلاتفرم هوش مصنوعی دیگری داریم، و تعداد کاربرانی که درآمدشان کمتر از ۱۰۰٬۰۰۰ دلار است از کاربرانی که درآمدشان بیش از ۱۰۰٬۰۰۰ دلار است بیشتر است—که بازتابی از نیروی کار گستردهتر جهانی است.
به همین دلیل است که OpenAI با دولتها و جامعه مدنی در سراسر جهان تعامل میکند: تا به سیاستگذاران کمک کند فناوری ما و تأثیرات آن را درک کنند، نحوه عملکرد دولتها و ارزشآفرینی آنها برای شهروندانشان را بهبود بخشد، توانایی مردم برای مشارکت در نهادهای دموکراتیک و بهرهمندی از آنها را گسترش دهد، و سیاستهایی را شکل دهد که مأموریت ما برای اطمینان از اینکه AGI به نفع تمام بشریت عمل میکند، پیش ببرند.
اولویتهای زیر بازتابدهنده این هستند که چگونه مأموریت ما و اصول ما را به سیاستگذاری عمومی تبدیل میکنیم. ما از سیاستهایی حمایت میکنیم که به دولتها و جامعه کمک میکنند به فرصتها و چالشهای ناشی از هوش مصنوعی پاسخ دهند، ریسکها را کاهش دهند، دسترسی به فرصتها را گسترش دهند و اطمینان حاصل کنند که مردم میتوانند بهطور معنادار در اقتصاد هوش مصنوعی مشارکت کنند و از آن بهرهمند شوند. این اولویتها در کنار هم با هدف کمک به دولتها برای خدمترسانی بهتر به شهروندان خود طراحی شدهاند، در حالی که ماموریت ما برای اطمینان از اینکه AGI به نفع تمام بشریت عمل میکند، پیش میرود. این موارد نمایانگر برخی از حوزههایی هستند که در حال حاضر بیشترین مشارکت فعال را در آنها داریم، اما این فهرست جامع نیست. با تحول هوش مصنوعی، انتظار داریم اولویتهای سیاستگذاری و حوزههای تعامل ما نیز همچنان تکامل یابند.
ما معتقدیم ایمنی هوش مصنوعی پیشرو مسئلهای مربوط به امنیت ملی و ایمنی عمومی است، بهویژه برای پیشرفتهترین مدلهای هوش مصنوعی همهمنظوره، که میتوانند خطراتی مرتبط با سلاحهای سایبری، شیمیایی، زیستی، پرتوی و هستهای (CBRN) ایجاد کنند. در ایالات متحده، ما از تلاشهای ایالتی برای همراستایی پیرامون چارچوبهای مشترکی مانند لایحه SB 53 کالیفرنیا(در یک پنجره جدید باز میشود)، قانون RAISE نیویورک(در یک پنجره جدید باز میشود) و لایحه SB 315 ایلینوی(در یک پنجره جدید باز میشود) حمایت میکنیم؛ چارچوبهایی که بر شفافیت، گزارشدهی عمومی درباره ارزیابیهای ریسک فاجعهبار و رخدادهای ایمنی، حمایت از افشاگران، و پاسخگویی الزامآور برای توسعهدهندگانی که در انجام مسئولیتهای ایمنی و امنیتی خود کوتاهی میکنند، تأکید دارند. این رویکردها در سطح ایالتها میتوانند به ایجاد استانداردهای هماهنگی کمک کنند که چندپارگی را کاهش میدهند و مسیری بهسوی شکلگیری یک چارچوب فدرال نهایی در آینده ایجاد میکنند.
ما همچنین از اقدام کنگره برای ایجاد یک چارچوب جامع فدرال حمایت میکنیم که از اجماع در حال شکلگیری بازتابیافته در قوانین ایالتی ایمنی هوش مصنوعی پیشرو بهره میگیرد؛ مرکز استانداردها و نوآوری هوش مصنوعی (CAISI) را بهعنوان نهاد اصلی دولت فدرال ایالات متحده برای ایمنی هوش مصنوعی پیشرو تقویت میکند؛ و یک برنامه تابآوری گستردهتر را در سراسر دولت بسیج میکند تا به چالشهای امنیت ملی و ایمنی عمومی ناشی از هوش مصنوعی پیشرو رسیدگی شود. این چارچوب باید CAISI را ملزم کند که ارزیابیهایی از توانمندترین مدلهای پیشرو انجام دهد، به CAISI جهت ایجاد یک اکوسیستم ارزیابی مستقل مأموریت دهد، و پایش پیشرفت بهسوی خودبهبودی بازگشتی (RSI) را در اولویت قرار دهد. با استقرار چارچوبی جامع و فدرال، ما از تقدم قوانین فدرال بر قوانین ایالتیای که در پی تنظیم همان ریسکهای ایمنی پیشرو هستند، حمایت میکنیم.
ما همچنین از ایفای نقشی پیشرو از سوی دولت فدرال ایالات متحده در تعیین استانداردهای مشترک بینالمللی حمایت میکنیم و نخستین شرکت آمریکایی بودیم که آییننامه رفتاری قانون هوش مصنوعی اتحادیه اروپا را امضا کردیم. ما همچنین از جمله نخستین شرکتهایی بودیم که با هر دو نهاد CAISI آمریکا و مؤسسه امنیت هوش مصنوعی بریتانیا (UK AISI) توافقنامههای داوطلبانه منعقد کردیم.
با نگاه به آینده، معتقدیم تمرکز سیاستگذاران باید به سمت بررسی ایدههای بلندپروازانهتر(در یک پنجره جدید باز میشود) معطوف شود؛ ایدههایی مانند دستورالعملهای عملیاتی مهار مدلها، گزارشدهی رخدادها، یا نهادهای حکمرانی بینالمللی که هماهنگی پیرامون خطرات هوش مصنوعی پیشرو، اقدامات حفاظتی، و رخدادهای امنیتی را تسهیل میکنند.
بهطور خاص، از سیاستهایی در زمینه امنیت سایبری(در یک پنجره جدید باز میشود) حمایت میکنیم که دسترسی قابلاعتماد به ابزارهای دفاع سایبری مبتنی بر هوش مصنوعی را گسترش میدهند و مشارکتهای قویتری میان دولتها، پژوهشگران و صنعت برای انجام ارزیابیها، تعمیق اشتراکگذاری اطلاعات و ایجاد تدابیر تابآوری بهمنظور تقویت دفاع سایبری شکل میدهند. همچنین از تلاشها برای نوسازی سامانههای قدیمی امنیت سایبری بخش عمومی حمایت میکنیم و با دولت ایالات متحده در سطوح فدرال، ایالتی و محلی و نیز با شرکای بینالمللی همکاری داریم.
ما باور داریم هوش مصنوعی میتواند به نوجوانان و جوانان کمک کند تا بیاموزند، خلق کنند و مهارتها و ذهنیت کارآفرینانهای را که برای شکوفایی در اقتصاد آینده به آن نیاز خواهند داشت، پرورش دهند — به شرط آنکه با تدابیر حفاظتی قوی و حمایتهای متناسب با سن بهکار گرفته شود. نوجوانان باید در خانه، مدرسه و هنگام آماده شدن برای ورود به بازار کار به هوش مصنوعی ایمن و قابلاعتماد(در یک پنجره جدید باز میشود) دسترسی داشته باشند و در برابر آسیبهای احتمالی آن محافظت شوند. ما از مقرراتی قوی، قابل اعمال و مبتنی بر ریسک برای ایمنی نوجوانان، و نیز از چارچوبهایی حمایت میکنیم که تدابیر حفاظتی مستحکم را با شفافیت و ابزارهایی همراه میکنند که اختیار کنترل را به خانوادهها میدهند.
این شامل الزاماتی برای اطمینان از سن با حفظ حریم خصوصی است تا شرکتها بتوانند تشخیص دهند چه زمانی یک کاربر زیر سن قانونی است و حفاظتهای متناسب با سن را اعمال کنند؛ ارزیابیهای منظم ریسک ایمنی جوانان که خطرات قابل پیشبینی را شناسایی میکنند و پیش از وقوع آسیب، موجب اتخاذ تدابیر حفاظتی متناسب میشوند؛ کنترلهای والدین در دسترس که به خانوادهها کمک میکند تجربههای نوجوان خود را هدایت و پشتیبانی کنند؛ و سیاستهای شفاف و عمومی ایمنی جوانان که توضیح میدهند چه حفاظتهایی برقرار است و چگونه در طول زمان تکامل مییابند.
این تدابیر همچنین شامل سازوکارهای حفاظتیای است که برای رسیدگی به خطراتی طراحی شدهاند که نوجوانان ممکن است هنگام تعامل با سامانههای هوش مصنوعی با آنها مواجه شوند؛ از جمله محافظت در برابر محتوای زیانبار یا نامتناسب با سن، پروتکلهای روشن برای واکنش به موقعیتهای جدی مرتبط با ایمنی، و تدابیر حفاظتی در برابر تعاملات دستکاریگرانه یا فریبکارانه. پروتکلهای پاسخگویی به بحران باید شامل پشتیبانی درونخدمتی، ارجاع به منابع مناسب در دنیای واقعی مانند ۹۸۸ در ایالات متحده، و اطلاعرسانی بهموقع به والدین در موارد مقتضی باشد. شرکتها همچنین باید ملزم شوند از اطلاعات شخصی نوجوانان محافظت کنند، از جمله از طریق محدود کردن تبلیغات هدفمند برای افراد زیر سن قانونی و محدود کردن فروش دادههای شخصی.
در نهایت، سازوکارهای قوی پاسخگویی، از جمله ممیزیهای مستقل، برای اطمینان از اینکه این حفاظتها در عمل معنادار باشند، ضروری هستند. ممیزیها باید بر مجموعهای از استانداردهای مشترک استوار باشند که امکان انجام ممیزیهای تعاملپذیر را در حوزههای قضایی مختلف فراهم میکند. چارچوبهای قانونی باید شامل تدابیر نظارتی و اجرایی باشند که به دولتها امکان دهد ارزیابی کنند آیا شرکتها بهطور مؤثر تمهیدات حفاظتی مربوط به ایمنی نوجوانان و جوانان را اجرا میکنند، ریسکهای شناساییشده را کاهش میدهند و به تعهدات مربوط به ایمنی و حریم خصوصی جوانان پایبند هستند یا خیر. ما مفتخریم که از تلاشهای ائتلاف هوش مصنوعی ایمن برای والدین و کودکان(در یک پنجره جدید باز میشود) برای پیشبرد این اصول و ترویج تمهیدات حفاظتی عملی در زمینه هوش مصنوعی حمایت میکنیم؛ تمهیداتی که از نوجوانان و جوانان محافظت میکنند و در عین حال توانایی آنها را برای یادگیری از هوش مصنوعی و بهرهمندی از آن حفظ میکنند.
علاوه بر این، ما از تدابیر حفاظتی حقوقی و فنی قدرتمند برای مقابله با سوءاستفاده و بهرهکشی جنسی از کودکان حمایت میکنیم. این شامل بهروزرسانی قوانین حمایت از کودکان برای رسیدگی به روشهایی است که هوش مصنوعی مولد میتواند برای ایجاد مطالب سوء استفاده جنسی کودکان (CSAM) مصنوعی، تغییر دیجیتالی تصاویر موجود، و گسترش فعالیتهای اغفالگری یا بهرهکشی مورد سوءاستفاده قرار گیرد. سیاستگذاران باید اطمینان حاصل کنند که قوانین مربوط به مطالب سوء استفاده جنسی کودکان (CSAM) بهروشنی شامل محتوای تولیدشده با هوش مصنوعی و مطالب تغییریافته بهصورت دیجیتال میشود، مسئولیت تلاشهای عمدی برای تولید یا درخواست مطالب سوء استفاده جنسی کودکان (CSAM) را روشن میکند، و اختیارات اجرایی قوی را برای دادستانها و نهادهای مجری قانون حفظ میکند. ما همچنین از استانداردهای گزارشدهی و هماهنگی ارائهدهندگان خدمات پشتیبانی میکنیم که کیفیت و قابلیت اقدام گزارشهای CyberTipline را بهبود میبخشند، در عین حال بار تحقیقات را کاهش میدهند و به NCMEC و نهادهای مجری قانون کمک میکنند سریعتر اقدام کنند. در نهایت، شرکتها باید تمهیدات حفاظتی ایمنیمحور در طراحی را—از جمله تشخیص، سازوکارهای امتناع، نظارت انسانی و پایش مداوم—پیادهسازی کنند تا پیش از وقوع آسیب، تلاشهای سوءاستفاده را متوقف کنند.
هوش مصنوعی بهطور فزایندهای شیوه یادگیری، کار کردن و مشارکت مردم در زندگی مدنی را شکل خواهد داد. نهادهای آموزشی نقشی حیاتی در ایجاد سواد هوش مصنوعی(در یک پنجره جدید باز میشود) و آمادهسازی دانشآموزان برای فعالیت در جهانی که هوش مصنوعی در آن فراگیر است، ایفا خواهند کرد. ما از سیاستهایی حمایت میکنیم که به دانشآموزان، معلمان، خانوادهها و جوامع کمک میکنند تا بهصورت ایمن، نقادانه و خلاقانه با هوش مصنوعی تعامل داشته باشند، و در عین حال تضمین میکنند که آموزشگران همچنان در مرکز تصمیمگیریهای کلاسی باقی بمانند و سرعت و چگونگی بهکارگیری هوش مصنوعی در مدارس را تعیین کنند. این شامل سرمایهگذاری در سواد هوش مصنوعی، آموزش پایهای قوی در موضوعاتی مانند تاریخ، آموزش مدنی، ریاضی، علوم، ادبیات، علوم کامپیوتر و آموزش فنی و حرفهای است. این امر همچنین شامل آموزش معلمان و زمان اختصاصیافته و محفوظ برای یادگیری حرفهای، مسیرهای یادگیری همسو با نیازهای نیروی کار، و گسترش دسترسی مدارس، کتابخانهها و نهادهای محلی به ابزارهای هوش مصنوعی، اینترنت پهنباند، دستگاهها و منابع آموزشی میشود. ما همچنین از تلاشها برای تقویت پژوهش درباره چگونگی تأثیر هوش مصنوعی بر نتایج یادگیری، بهزیستی دانشآموزان و عدالت آموزشی، و نیز از تلاشها برای گنجاندن یافتهها در توسعه و استقرار هوش مصنوعی حمایت میکنیم.
ما معتقدیم همه باید بتوانند از فرصتهای جدیدی که هوش مصنوعی ایجاد میکند(در یک پنجره جدید باز میشود) بهرهمند شوند، و به همین دلیل ChatGPT را بهصورت رایگان در دسترس قرار میدهیم. ما از سیاستهایی حمایت میکنیم که دسترسی مقرونبهصرفه به هوش مصنوعی مفید را گسترش میدهند و به کارکنان، کارآفرینان، آموزشگران و کسبوکارهای کوچک کمک میکنند تا از طریق سرمایهگذاری در آموزش نیروی کار و سواد هوش مصنوعی، آن را بهکار گیرند. ما همچنین از ایجاد قطبهای منطقهای هوش مصنوعی که کارفرمایان، تشکلهای کارگری، کالجهای محلی، دانشگاهها، هیئتهای توسعه نیروی کار و کسبوکارهای محلی را به هم متصل میکنند، و نیز از برنامههای پذیرش فناوری برای کسبوکارهای کوچک که دسترسی به ابزارهای هوش مصنوعی، پشتیبانی فنی و آموزش عملی را فراهم میکنند، حمایت میکنیم.
ما همچنین با سازمانهای کارگری همکاری میکنیم(در یک پنجره جدید باز میشود) تا دسترسی به آموزش را گسترش دهیم و به کارگران کمک کنیم مهارتهای عملی هوش مصنوعی را کسب کنند و برای تغییرات اقتصادی ناشی از سیستمهای هوش مصنوعی روزبهروز توانمندتر آماده شوند؛ همچنین بهطور منظم دادههایی را درباره نحوه استفاده کارگران و کارفرمایان از ابزارهای ما منتشر میکنیم و از اقدامات شفافیت نیروی کار پشتیبانی میکنیم؛ اقداماتی که نهتنها به سیاستگذاران و عموم مردم کمک میکنند بهتر درک کنند هوش مصنوعی چگونه کار را دگرگون میکند، بلکه به شناسایی مسیرهایی نیز کمک میکنند که به کارگران امکان میدهد وارد نقشهای جدید و کار انسانمحور شوند. در عین حال، ما متعهدیم با سیاستگذاران همکاری کنیم تا دستورکار بلندپروازانهتری برای نیروی کار و گذار اقتصادی(در یک پنجره جدید باز میشود) تدوین و اجرا کنیم؛ دستورکاری که مزایای قابلانتقال، نوسازی نظام مالیاتی، صندوقهای ثروت عمومی و شبکههای ایمنی انطباقپذیر را در نظر میگیرد.
ما باور داریم که هوش مصنوعی میتواند بیان خلاقانه را گسترش دهد، به هنرمندان و آفرینندگان توانمندی ببخشد، شکلهای تازهای از بیان، تفسیر و دگرگونی خلاقانه را ممکن سازد، و موانع پیش روی آفرینندگان مستقل، استودیوهای کوچک و صداهای تازه را برای مشارکت در اقتصاد خلاق کاهش دهد. در عین حال، افراد باید بتوانند بفهمند محتوای دیجیتال از کجا آمده است و در برابر دیپفیکهای آسیبرسان، مانند جعل هویت فریبکارانه و نسخههای دیجیتال غیرمجاز، محافظت شوند. ما از سیاستهایی حمایت میکنیم که شفافیت را در فضای آنلاین ترویج میدهند، از جمله الزاماتی که ابزارهای هوش مصنوعی را ملزم میکند نشانههای منشأ، مانند نشانههایی که توسط ائتلاف منشأ و اصالت محتوا (C2PA) توسعه یافتهاند، را در محتوای دیداریـشنیداریای که تولید میکنند بگنجانند، و با شرکای خود در سراسر این صنعت همکاری میکنیم تا استانداردهای قابلتعاملِ منشأ و ابزارهای اصالت محتوا را پیش ببریم؛ ابزارهایی که به افراد کمک میکنند بهتر درک کنند محتوای دیجیتال از کجا آمده است. ما از سیاستهایی حمایت میکنیم که در برابر سوءاستفاده زیانبار از صدا و تصویر افراد محافظت میکنند، در عین حال که حفاظتهای مهم برای آزادی بیان، نقیضهپردازی، روزنامهنگاری و سایر استفادههای قانونی را حفظ میکنند.
ما از حمایتهای قوی در برابر سوءاستفاده جنسی مبتنی بر تصویر پشتیبانی میکنیم؛ از جمله تلاشهایی برای جرمانگاری انتشار تصاویر صمیمی ساختگی و بدون رضایت و تقویت راهکارهای جبرانی برای قربانیان. ما همچنین از تدابیر حفاظتی برای سلامت انتخابات در ارتباط با محتوای سیاسی فریبنده تولیدشده با هوش مصنوعی حمایت میکنیم؛ از جمله ممنوعیت توزیع عمدی محتوای تولیدشده با هوش مصنوعی با هدف گمراه کردن رأیدهندگان، و نیز الزامات افشا برای برخی تبلیغات سیاسی و ارتباطات کارزارهای انتخاباتی که با هوش مصنوعی تولید شدهاند. ما با نهادهای معتبر انتخاباتی همکاری میکنیم تا به ارائه اطلاعات دقیق درباره رأیگیری و انتخابات کمک کنیم و از پیشنهاد دادن یا رتبهبندی نابهجای نامزدها توسط سامانههای ما جلوگیری کنیم.
ما باور داریم که اگر زیرساختهای هوش مصنوعی با مشارکت جوامع توسعه یابد، محرکی برای رشد اقتصادی محلی، ایالتی و ملی خواهد بود. مشارکت با جوامع محلی با درک نیازهای محلی آغاز میشود، و به همین دلیل هر سایت Stargate یک طرح جامعه اختصاصی دارد که با مشورت جوامع، از جمله درباره طراحی سایت و منابع انرژی، تدوین شده است. همچنین به همین دلیل است که ما از سیاستهایی حمایت میکنیم که شفافیت در زمینه آب، برق و توافقنامههای دولتی را، همراه با استثناهای مناسب برای حفظ امنیت، حساسیتهای تجاری، اسرار تجاری و اطلاعات اختصاصی الزامی میکنند.
ما متعهد میشویم هزینههای انرژی خود را پرداخت کنیم تا فعالیتهای ما باعث افزایش قیمت برق نشود و همچنین از سیاستهایی حمایت میکنیم که تضمین میکنند مراکز داده سهم منصفانه خود را از هزینههای برق پرداخت کنند، از جمله الزاماتی برای کمیسیونهای خدمات عمومی ایالتی به منظور ایجاد تعرفههای بار حجم بالا که مراکز داده را ملزم به پرداخت هزینههای افزایشی ایجاد شده میکند. ما با شرکتهای خدمات عمومی محلی و نهادهای تنظیمگر همکاری میکنیم تا اطمینان حاصل کنیم که مراکز داده به افزایش قابلیت اطمینان شبکه برق کمک میکنند. ما همچنین از الزامات گزارشدهی پایداری حمایت میکنیم، از جمله آشکارسازیهایی درباره فناوریها و روشهایی که اثرات زیستمحیطی را کاهش میدهند، مانند ژنراتورهای پشتیبان کمانتشار و سامانههای سرمایشی حلقهبسته یا کممصرف از نظر مصرف آب. ما از سیاستهایی حمایت میکنیم که به کارگران محلی کمک میکند به مشاغل ساختمانی با دستمزد مناسب دسترسی پیدا کنند، از جمله مشوقهایی برای بهکارگیری کارآموزان ثبتشده و توافقنامههای نیروی کار پروژهای. ما همچنین از سیاستهایی حمایت میکنیم که چارچوبهای مالیاتی و تشویقی بیطرف از نظر صنعتی و قابل پیشبینی را حفظ کنند، شرکتها را نسبت به عمل به تعهداتشان پاسخگو نگه دارند و موجب شتاببخشی به نوآوری، کارآفرینی و رشد اقتصادی بلندمدت در جوامع پیرامونی شوند.


