پنجره سیاست هوش مصنوعی باز است. باید اقدام کنیم.

به فصل تازه‌ای از قابلیت‌های هوش مصنوعی رسیده‌ایم و این امر فصل تازه‌ای در سیاست گذاری هوش مصنوعی می‌طلبد. هیچ شرکت، صنعت یا دولتی به تنهایی از عهده این چالش برنمی‌آید. باید در این مقطع، اقدام معنا دار را بر دستیابی به سیاستی بی نقص مقدم بدانیم.

کاری که ما انجام می‌دهیم این است:

1. تلاش برای وضع الزامات اجباری ملی برای ایمنی هوش مصنوعی. ما می‌خواهیم با کنگره برای تدوین مقررات ملی اجباری و مبتنی بر قابلیت‌ها برای ایمنی هوش مصنوعی همکاری کنیم.

2. تداوم شتاب در ایالت‌ها. تا زمانی که کنگره اقدامی نکند، به حمایت از قانون گذاری‌های ایالتی که زیست بوم گسترده‌تر ایمنی هوش مصنوعی را تقویت می‌کنند ادامه خواهیم داد. امروز، حمایت خود را از چهار لایحه کالیفرنیا اعلام می‌کنیم: SB ۸۱۳ درباره زیرساخت کلی برای ارزیابی‌های مستقل ایمنی، AB ۱۴۰۵ درباره استانداردهای حسابرسان هوش مصنوعی، SB ۱۱۱۹ درباره حفاظت از جوانان و AB ۱۸۶۴ درباره تدابیر حفاظتی در برابر تهدیدهای زیستی مبتنی بر هوش مصنوعی.

3. پیشبرد استانداردهای صنعت محور. ما با دیگر آزمایشگاه‌های پیشرو همکاری خواهیم کرد تا استانداردهای هوش مصنوعی پیشرو را پیش ببریم و اکنون، با یا بدون حمایت دولت، تلاشی داوطلبانه ایجاد کنیم.

4. تدوین استانداردهای جهانی. ما از رویکردهای بین المللیِ سازگار برای سنجش قابلیت‌ها، مدیریت خطر، حفظ کنترل انسانی و تعیین زمان و چگونگی کند یا متوقف شدن توسعه حمایت خواهیم کرد، حتی اگر به معنای کند شدن پیشرفت قابلیت‌های مدل باشد.

یاکوب پاخوکی، دانشمند ارشد ما، اخیراً نوشت⁠ که رشد سریع هوشمندی ماشینی، از جمله امکان خودبهسازی بازگشتی، مستلزم «احتیاطی فوق‌العاده» است. OpenAI به پیگیری راه‌حل‌های فنی برای همسوسازی و پایش، ساخت سامانه‌های دفاعی و کند کردن توسعه در مواقع ضروری ادامه خواهد داد. اما کار فنی در آزمایشگاه‌های منفرد کافی نخواهد بود. به استانداردهای مشترک نیز نیاز داریم، از جمله درباره زمان کند یا متوقف کردن توسعه.

آنچه در میان است، اهمیتی عظیم دارد. هوش مصنوعی پیشرفته می‌تواند توسعه داروهای جدید⁠ را شتاب دهد، زیر ساخت‌های حیاتی⁠ را تقویت کند، فرصت‌های اقتصادی⁠ را گسترش دهد و به حل مسائل علمی‌ای⁠ کمک کند که نسل‌ها تلاش انسانی برای حل آن‌ها ناکام مانده است. اما قابلیت‌هایی که مدل‌ها را سودمندتر می‌کنند، خطراتی نیز به همراه دارند و به چند آزمایشگاه پیشرو محدود نخواهند ماند. مدل‌های توسعه یافته در سراسر جهان، از جمله الگو باز، بیش ازپیش به پیشرو امروز نزدیک و به طور گسترده در دسترس خواهند شد.

قابلیت‌های Astra، شواهد اولیه شتاب گرفتن پژوهش با هوش مصنوعی و مقاله یاکوب همگی به یک جهت اشاره دارند: هوش مصنوعی به سرعت در حال پیشرفت است و سیاست گذاری باید همگام با آن حرکت کند.

گرگ براکمن «پنجره مدافعان» را توصیف کرده است⁠(در یک پنجره جدید باز می‌شود): دوره‌ای محدود که در آن هوش مصنوعی پیشرو می‌تواند به مدافعان کمک کند سامانه‌های حیاتی را پیش از فراگیر شدن قابلیت‌های تهاجمی قدرتمند تقویت کنند. سیاست گذاران با موقعیتی مشابه روبرو هستند: فرصتی رو به پایان برای ایجاد تدابیر محافظتی پایدار، پیش از آنکه قابلیت‌های هوش مصنوعی از نهادهای مسئول حکمرانی آن‌ها پیشی بگیرند.

با افزایش قابلیت‌ها، اطمینان از ایمنی باید بیش از پیش سرعت پیشرفت هوش مصنوعی را تعیین کند. ایمنی مانع پیشرفت نیست؛ همان چیزی است که امکان می‌دهد پیشرفت فراتر برود و به افراد بیشتری سود برساند.

تدابیر پایش، همسو سازی و امنیت را در سراسر چرخه توسعه مدل تقویت کرده‌ایم؛ از جمله جدا سازی قوی‌تر بارهای کاری پژوهش پیشرو، گسترش پایش رفتار مدل در طول آموزش و ارزیابی‌های متکی بر ابزار و تدوین قواعد روشن‌تر برای زمانی که باید نگرانی‌ها را به سطوح بالاتر ارجاع داد. برای Astra همچنین پایش سراسری مسیرهای کامل، از جمله زنجیره‌های تفکر، و یک مرحله اجباری ارزیابی همسوسازی پیش از استقرار داخلی گسترده‌تر را معرفی کردیم.

این تدابیر حفاظتی باید همچنان از قابلیت‌ها جلوتر بمانند. هرگاه ادامه دادن خطر ایمنی غیر قابل قبولی ایجاد کند، توسعه یا استقرار سامانه‌هایی را که نمی‌توانیم به اندازه کافی ایمن سازی کنیم، کند یا متوقف خواهیم کرد؛ همانطور که پیش‌تر انجام داده‌ایم و چارچوب آمادگی ما⁠(در یک پنجره جدید باز می‌شود) نیز ایجاب می‌کند.

خودبهبودی بازگشتی کاملاً خود مختار—که در آن سامانه‌های هوش مصنوعی به طور مستقل نسل‌های پی در پی و توانمندتر هوش مصنوعی را پیش می‌برند—امروز رخ نمی‌دهد. نباید آن را دنبال کنیم، مگر اینکه و تا زمانی که بتوان آن را به طور ایمن انجام داد.

با این حال، هوش مصنوعی هم اکنون بخش‌هایی از پژوهش‌های لازم برای توسعه و همسو سازی نسل بعدی مدل‌ها را شتاب می‌دهد. تازه ترین پژوهش⁠ ما نشان می‌دهد که عامل‌های هوش مصنوعی می‌توانند کارهایی را انجام دهند که برای پژوهشگران ماهر چند روز زمان می‌برد. این خود بهسازی بازگشتی نیست، اما نشانه‌ای از جهت حرکت است.

این شتاب می‌تواند و باید در خدمت ایمنی نیز قرار گیرد. هدف ما این است که پژوهشگران خودکار هوش مصنوعی را به صورت ایمن بسازیم؛ پژوهشگرانی که زیر نظر انسان، یادگیری عمیق و همسو سازی را پیش ببرند و با بهره گیری از هر نسل هوش مصنوعی، نسل بعدی را ایمن‌تر، همسوتر و کنترل پذیرتر کنند، نه اینکه به طور صرف قابلیت‌های بیشتری داشته باشد.

دولت‌ها باید روش‌هایی مشترک برای سنجش این پیشرفت تدوین کنند، کنترل معنادار انسان را حفظ کنند و آستانه‌های ایمنی مشترکی برای زمان و چگونگی کند یا متوقف کردن توسعه تعیین کنند. اگر نتوانیم بدون کند کردن رشد قابلیت‌ها، به برخی آستانه‌های ایمنی دست یابیم، باید اولویت را به آستانه‌های ایمنی بدهیم. هرچه فناوری قدرتمندتر شود، تدابیر محافظتی پیرامون آن نیز باید قوی‌تر شوند.

چشم انداز توسعه هوش مصنوعیِ شتاب گرفته با هوش مصنوعی، چیزی بیش از تعهدات داوطلبانه می‌طلبد. ایالات متحده به مقررات ملیِ اجباری و مبتنی بر قابلیت‌ها نیاز دارد که همگام با فناوری تکامل یابد.

طرح ما برای حکمرانی دموکراتیک هوش مصنوعی پیشرو⁠ مسیر دستیابی به چارچوبی فدرال و پایدار را ترسیم می‌کند: الزامات مشترک برای آزمون و ارزیابی مستقل، حفاظت‌های سایبری قوی تر، قواعد روشن گزارش دهی رخدادها، آمادگی ملی بیشتر و معیارهای مشترک برای رصد پیشرفت به سوی خود بهبودی بازگشتی.

چند پیشنهاد جدی درباره ایمنی هوش مصنوعی پیشرو اکنون در کنگره در حال شکل گیری است. به مشارکت سازنده ادامه خواهیم داد و انتظار داریم از قانون گذاری‌ای حمایت کنیم که آستانه ایمنی را به طور ملموس بالا می‌برد. وقتی اهمیت تا این اندازه بالا است، ما نباید بگذاریم کمال گرایی مانع کار خوب شود. کنگره باید پیش از پایان نشست خود اقدام کند.

یک چارچوب ملی باید قوی اما به دقت هدف گذاری شده باشد. الزامات ایمنی هوش مصنوعی پیشرو باید برای معدود آزمایشگاه‌های برخوردار از منابع کافی اعمال شوند که توانمندترین سامانه‌ها را توسعه می‌دهند، نه استارت آپ‌ها، توسعه دهندگان کوچک یا پژوهشگرانی که فاصله زیادی با پیشرو دارند. تعهدات باید متناسب با قابلیت‌ها و خطرات باشند.

سیاست ایمنی پیشرو نیز نباید با نامی دیگر به سیاست وزن های باز تبدیل شود. مدل‌های باز می‌توانند بخشی از راه حل باشند، به ویژه در امنیت سایبری و در مواردی که نیازهای حاکمیت، امنیت یا محل نگهداری داده، استقرار محلی را ترجیح می‌دهند. بیشتر آن‌ها نه در سطح پیشرو، بلکه بر سر هزینه، کنترل و تأخیر رقابت می‌کنند. همانگونه که با امضای نامه وزن‌های باز و رهبری آمریکا در هوش مصنوعی⁠(در یک پنجره جدید باز می‌شود) تأکید کردیم، آمریکا هم به مدل‌های باز و هم بسته نیاز دارد. یک چارچوب فدرال باید بدون تضعیف رقابت، تثبیت جایگاه بازیگران فعلی یا سوق دادن نوآوری به خارج از کشور، به قابلیت‌ها و خطرات پیشرو بپردازد.

یک چارچوب عمومی جدی باید تمرکز قدرت را کاهش دهد، نه افزایش دهد. امروزه آزمایشگاه‌های پیشرو عمدتاً خودشان قواعد مدیریت خطرات مرزی را تعیین می‌کنند. استانداردهای پاسخگو در برابر مردم، راستی آزمایی مستقل و شفافیت معنادار جایگزین آن نظام پراکندهٔ حکمرانی خصوصی خواهند شد.

این کار برای رهبری آمریکا ضروری است. ایالات متحده نمی‌تواند عصر هوش مصنوعی را تنها با تکیه بر توانمندی ببرد. پیشتازی فنی، اگر مردم، نهادها و دولت‌ها برای پذیرش این فناوری به اندازه کافی به آن اعتماد نکنند، اهمیت چندانی نخواهد داشت. تدابیر محافظتی قوی، امتیاز دادن در برابر نوآوری نیستند. آن‌ها بخشی از زیرساخت لازم برای پذیرش گسترده و رهبری پایدار آمریکا هستند.

ما به شدت به استانداردهای ملی برای هوش مصنوعی نیاز داریم و هر کسی که در حوزه پیشرو فعالیت می‌کند، فوریت آن را درک می‌کند. تا زمانی که کنگره اقدام کند، ایالت‌ها باید همچنان برای پر کردن این خلأء و ارتقای استانداردها دست به اقدام بزنند.

OpenAI از SB ۵۳ کالیفرنیا، قانون RAISE نیویورک و SB ۳۱۵ ایلینوی، و نیز حسابرسی‌های مستقل در لایحه ایمنی هوش مصنوعی پیشرو در دست بررسی در ماساچوست حمایت کرده است. ایالت‌ها را تشویق می‌کنیم تا بر سر این تدابیر محافظتی مشترک همگرا شوند. با انجام این کار، می‌توانند یک خط مبنای ملی بالفعل ایجاد کنند که کنگره در نهایت بتواند آن را به قانون تبدیل کند—رویکردی که آن را ⁠فدرالیسم معکوس⁠ می‌نامیم. اما هماهنگ سازی به معنای ثابت نگه داشتن الزامات نیست.

امروز رسماً از چهار لایحه دیگر کالیفرنیا حمایت می‌کنیم که از مجلس قانون گذاری گذشته‌اند و به فرماندار نیوسام ارسال می‌شوند. این لایحه‌ها در کنار هم بخش‌های مکمل زیست بوم ایمنی هوش مصنوعی را پوشش می‌دهند.

SB 813⁠(در یک پنجره جدید باز می‌شود) فرآیندی برای تعیین سازمان‌های مستقل و واجد شرایطی ایجاد می‌کند که توان ارزیابی خطرات هوش مصنوعی را دارند. همانطور که در ⁠(در یک پنجره جدید باز می‌شود)طرح ایمنی هوش مصنوعی پیشرو⁠(در یک پنجره جدید باز می‌شود) بیان کرده‌ایم، ترجیح می‌دهیم ارزیابی‌های فنی مستقل در سطح فدرال الزامی باشند؛ جایی که سیاست گذاران بتوانند استانداردهایی یکسان برای صلاحیت ارزیابان، امنیت و دسترسی به اطلاعات بسیار حساس تعیین کنند. با این حال، در نبود اقدام فدرال، کالیفرنیا می‌تواند به تعیین قواعد یک سامانه ملیِ امن و توانمند برای ارزیابی مستقل کمک کند که نتایج ایمنی بهتری به بار می‌آورد.

AB ۱۴۰۵⁠(در یک پنجره جدید باز می‌شود) الزامات ثبت، استقلال، شفافیت و پاسخگویی را برای حسابرسان هوش مصنوعی ایجاد می‌کند.

SB ۱۱۱۹⁠(در یک پنجره جدید باز می‌شود) احراز سن، ارزیابی ریسک، حسابرسی مستقل، کنترل‌های والدین و تدابیر حفاظتی در برابر محتوای زیان بار برای کودکان و نوجوانانی را که از چت بات‌های همراه استفاده می‌کنند، الزامی می‌کند. ما اخیراً از این لایحه حمایت خود را اعلام کردیم⁠ ؛ این لایحه بر اقدامات ایمنی جوانان بنا شده است که OpenAI از طریق محصولات، ⁠اصول سیاستی جهانی⁠ و حمایت از ⁠(در یک پنجره جدید باز می‌شود)قانون هوش مصنوعی ایمن برای والدین و کودکان⁠(در یک پنجره جدید باز می‌شود) پیش برده است و همچنین بر حفاظت‌های تعبیه شده در ChatGPT برای نوجوانان تکیه دارد، از جمله تنظیمات پیش فرض سختگیرانه‌تر در حوزه‌های حساس، ساعات سکوت، ساعات مطالعه و یادآوری استراحت.

AB 1864⁠(در یک پنجره جدید باز می‌شود) ارائه دهندگان خدمات سنتز ژن و سازندگان تجهیزات رومیزی سنتز را ملزم خواهد کرد استانداردهای غربالگری فدرال را رعایت کنند و بدین ترتیب، یک تدبیر فیزیکی مهم در برابر تهدیدهای زیستی مبتنی بر هوش مصنوعی را تقویت خواهد کرد.

ما در گذشته از برخی از این لوایح حمایت نکرده بودیم، اما اکنون پس از بازنگری با توجه به جهش اخیر در قابلیت‌هایی که مشاهده کرده‌ایم، از آن‌ها حمایت می‌کنیم.

این لوایح جایگزین مقررات فدرال نیستند. آن‌ها تلاش‌های جدی هستند که می‌توانند همین حالا از مردم محافظت کنند، نشان دهند تدابیر حفاظتیِ عملی چه شکلی دارند و به ایجاد شتاب برای اقدام فدرال کمک کنند.

قوانین به تنهایی هوش مصنوعی پیشرفته را ایمن نمی‌کنند. ما همچنین به شیوه‌های عملی مشخص در داخل آزمایشگاه‌هایی که توانمند ترین سیستم‌ها را توسعه می‌دهند نیاز داریم. فوری ترین نقطه برای شروع، نظارت است.

این موضوع به ویژه درباره ناهمراستایی اهمیت دارد—یعنی زمانی که مدل، بدون نیاز به آگاهی یا نیت مخرب، هدفی را به شیوه‌هایی دنبال می‌کند که با مقصود انسان یا مرزهای تعیین شده ناسازگارند. با افزایش خود مختاری مدل‌ها، استفاده آن‌ها از ابزارهای قدرتمندتر و فعالیت‌شان در بازه‌های طولانی‌تر، باید توسعه دهندگان ملزم شوند این رفتارهای ناهمراستا را پایش کنند و نشان دهند که تدابیر محافظتی مؤثری برقرار است.

پایش باید با الزامات روشن افشا پیوند داشته باشد. همانطور که در کالیفرنیا از آن حمایت کردیم، شرکت‌ها باید ملزم شوند هنگامی که مدل‌های‌شان در جریان توسعه یا ارزیابی، بدون مجوز کنترل‌های امنیتی یک سازمان دیگر را دور می‌زنند و به‌طور قابل‌توجهی به سامانه‌های حفاظت‌شده یا اطلاعات محرمانه آن سازمان دسترسی می‌یابند، آن‌ها را تغییر می‌دهند یا نابود می‌کنند، اعلان اطلاعیه‌ای کتبی به طرف‌های متأثر ارائه دهند. همچنین از الزامات گزارش‌دهی فدرال برای دیگر رخدادهای جدی هوش مصنوعی حمایت می‌کنیم و در تلاشیم مشخص کنیم کدام رخدادها باید مشمول شوند و این الزامات باید چه مواردی را دربر گیرند.

همانطور که هفته گذشته اعلام کردیم، OpenAI در حال تدوین چارچوبی برای گزارش رخدادهای مهم ناهمسویی و پایش نظام مند فعالیت مدل‌های پیشرو، از جمله کاربردهای داخلی، است. این کار ابتداء با هدایت شرکت آغاز می‌شود، اما امیدواریم به شکل گیری سیاست گذاری فدرال گسترده‌تر و الزامات گزارش‌دهی کمک کند.

ما می‌خواهیم درباره استانداردهای صنعت محور با دیگر آزمایشگاه‌ها همکاری کنیم. هرگونه استاندارد صنعت محور، مکمل تدابیر حفاظتی فدرالِ الزامی و نظارت دموکراتیک خواهد بود—نه جایگزین آن‌ها. اما ما وارد مرحله متفاوتی از قابلیت‌های هوش مصنوعی شده‌ایم و همه گزینه‌ها باید روی میز باشند—از جمله بررسی آنچه می‌توان به عنوان اقدامی فوری، به صورت داوطلبانه و خارج از دولت ایجاد کرد.

هرگونه استانداردی از این دست در نهایت باید فراتر از مرزهای ملی نیز گسترش یابد. مدل‌ها، پژوهش‌ها و تخصص فنی در سراسر جهان جابجا می‌شوند و شکست‌های مرتبط با توانمند ترین سامانه‌ها ممکن است پیامدهایی بسیار فراتر از کشور محل توسعه آن‌ها داشته باشند. ایالات متحده اگر می‌خواهد در سطح بین المللی پیشتاز باشد، باید در داخل کشور استانداردهای معتبری وضع کند—و ما به طور فزآینده‌ای متقاعد شده‌ایم که استانداردهای بین المللی سازگار ضروری خواهند بود.

پنجره سیاست گذاری هوش مصنوعی در حال حاضر باز است. قصد داریم از آن استفاده کنیم.

این یعنی با فوریت، فروتنی و آمادگی برای سازگاری وارد عمل شویم. یعنی از پیشنهادهای جدی که آستانه ایمنی را به طور ملموس بالا می‌برند حمایت کنیم، حتی اگر به طور دقیق همان چیزی نباشند که خودمان طراحی می‌کردیم. و یعنی همگام با تحول فناوری، چارچوب را تقویت کنیم.

هیچ گام نخستینی بی‌نقص نخواهد بود. اما اکنون خطر بزرگ‌تر، تعلل بیش از حد برای برداشتن آن است.