A Primer on the EU AI Act
We’re sharing a preliminary overview of the EU AI Act including upcoming deadlines and requirements, with a particular focus on prohibited and high-risk use cases
بهروزرسانی ۱۱ ژوئیهٔ ۲۰۲۵: پس از انتشار متن نهایی آییننامهٔ اجرایی هوش مصنوعی همهمنظوره، مروری ارائه میکنیم بر رویکردمان برای اجراییشدن مقررات مربوط به مدلهای هوش مصنوعی همهمنظوره در ۲ اوت ۲۰۲۵.
سال گذشته، این راهنمای مقدماتی قانون هوش مصنوعی اتحادیهٔ اروپا را منتشر کردیم تا دیدگاهی اولیه دربارهٔ نحوهٔ آمادگیمان برای اجرای این الزامات حقوقی جدید ارائه دهیم.
از آن زمان، با مشارکت در تدوین آییننامهٔ اجرایی هوش مصنوعی همهمنظوره—چارچوبی برای رعایت قانون هوش مصنوعی اتحادیهٔ اروپا از سوی ارائهدهندگان هوش مصنوعی—فعالانه در اجرای این قانون نقش داشتهایم. پس از ماهها تلاش مشترک با کارشناسان، جامعهٔ مدنی و صنعت، آییننامهٔ نهایی منتشر شده است. امروز تصمیم خود را برای امضای این آییننامه و استفاده از آن برای اثبات رعایت تعهدات مرتبطمان ذیل قانون هوش مصنوعی اتحادیهٔ اروپا اعلام میکنیم.
با امضای این آییننامه، گامی عملی در برنامهٔ جامعتر خود برای رعایت قانون هوش مصنوعی اتحادیهٔ اروپا برمیداریم. این اقدام نشاندهندهٔ تعهد ما به حفظ تداوم، قابلیت اطمینان و اعتماد همزمان با اجراییشدن مقررات است؛ در عین حال، همکاری با کسبوکارها و شهروندان اروپایی را ادامه میدهیم و مدلهای هوش مصنوعی توانمندتر، ایمنتر و امنتری در اختیارشان میگذاریم تا از مزایای انقلاب هوش مصنوعی بهرهمند شوند.
امضای این آییننامه بسیاری از تدابیر پیشتاز صنعت در زمینهٔ ایمنی و شفافیت را که طی چند سال گذشته پایهگذاری کردهایم، تقویت میکند. ما از نخستین شرکتهایی بودیم که پروتکلی جامع برای ایمنی و امنیت منتشر کردیم: چارچوب آمادگی (۲۰۲۳) که رویکرد ما را برای استقرار ایمن مدلهای هوش مصنوعی پیشرو تشریح میکند.
در راستای تعهدمان به بازبینی و بهبود مستمر چارچوبهای پاسخگویی و حاکمیت داخلی، در آوریل ۲۰۲۵ چارچوب آمادگی بهروزشدهای را منتشر کردیم.
همزمان با ادامهٔ توسعه و استقرار فناوریهای توانمندتر، طیف گستردهای از خطرات نوظهور و دغدغههای ایمنی در دنیای واقعی را فعالانه پایش و مهار میکنیم تا مدلهایمان قابلاعتماد و امن بمانند. همچنین این فرایندها را پیوسته اصلاح و بهبود میدهیم.
- مدتهاست همراه با انتشارهای عمدهٔ خود، کارتهای سیستم و مستندات فنی مفصلی منتشر میکنیم که تواناییها و محدودیتهای مدلهایمان، خطرات آزمایششده و حوزههایی را که هنوز در حال شناخت آنها هستیم توضیح میدهند.
- مرکز ایمنی، دسترسی عمومی به نتایج ارزیابی ایمنی مدلهای ما را فراهم میکند.
- شبکهٔ تیم قرمز ما از کارشناسان بیرونی برای آزمون مدلهایمان تحت فشار کمک میگیرد
- جزئیات مدل نشان میدهد که چگونه رفتار مدل را برای بازتاب ارزشهای انسانی و هنجارهای دموکراتیک شکل میدهیم.
مجموع این اقدامات نقشی اساسی در تعیین استانداردهای امنیت و ایمنی صنعت و تدوین آییننامهای اجرایی و مبتنی بر بهترین رویههای صنعت داشته است. ساخت هوش مصنوعی ایمن و مسئولانه هرگز پایان نمییابد. رویکرد ایمنی خود را بهصورت مرحلهای بهبود خواهیم داد تا فناوریمان در هر نقطه از جهان، مسئولانه و به سود همگان استفاده شود.
با اجرای قانون هوش مصنوعی در ماهها و سالهای آینده، از نزدیک با دفتر هوش مصنوعی اتحادیهٔ اروپا، مراجع مرتبط و مشتریانمان همکاری خواهیم کرد تا همگی بتوانیم مزایای هوش مصنوعی را برای جامعه و اقتصاد اروپا محقق کنیم.
بهروزرسانی: در ۲۵ سپتامبر ۲۰۲۴، سه تعهد اصلی پیمان هوش مصنوعی اتحادیهٔ اروپا را پذیرفتیم.
- اتخاذ راهبرد حاکمیت هوش مصنوعی برای ترویج بهکارگیری آن در سازمان و حرکت بهسوی رعایت قانون هوش مصنوعی در آینده؛
- تا حد امکان، شناسایی و ترسیم سامانههای هوش مصنوعی ارائهشده یا مستقر در حوزههایی که طبق قانون هوش مصنوعی پرخطر محسوب میشوند؛
- ارتقای آگاهی و سواد هوش مصنوعی کارکنان و دیگر افرادی که از جانب آنها با سامانههای هوش مصنوعی سروکار دارند، با توجه به دانش فنی، تجربه، تحصیلات و آموزش آنان، زمینهٔ کاربرد سامانهها و افراد یا گروههایی که استفاده از این سامانهها بر آنها اثر میگذارد.
به باور ما، تمرکز اصلی پیمان هوش مصنوعی بر سواد، پذیرش و حاکمیت هوش مصنوعی، اولویتهای درستی را برای توزیع گستردهٔ مزایای آن هدف قرار میدهد. این اولویتها همچنین با مأموریت ما برای ارائهٔ فناوریهای ایمن و پیشرفته به سود همگان همسو هستند.
قانون هوش مصنوعی اتحادیهٔ اروپا(در یک پنجره جدید باز میشود) چارچوب مقرراتی مهمی است که برای مدیریت توسعه، استقرار و استفاده از هوش مصنوعی در سراسر اروپا طراحی شده است. این قانون برای ترویج پذیرش هوش مصنوعی قابلاعتماد در اروپا و همزمان حفاظت از سلامت، ایمنی و حقوق بنیادین، تمرکز چشمگیری بر ایمنی دارد. این قانون الزامات جدیدی را بر اساس خطرات سامانههای هوش مصنوعی وضع میکند و بهطور ویژه بر موارد استفادهٔ پرخطر و غیرقابلقبول و نیز تعهدات خاص مدلها و سامانههای هوش مصنوعی همهمنظوره (GPAI) تمرکز دارد.
اگرچه فرایند قانونگذاری تکمیل شده و قانون در اوت ۲۰۲۴ لازمالاجرا میشود، برای تعیین دامنهٔ آن—بهویژه در مورد مدلهای GPAI مانند مدلهای OpenAI—به رهنمودها و مقررات اجرایی بیشتری نیاز خواهد بود.
ما در OpenAI به رعایت این قانون متعهدیم؛ نهفقط بهدلیل الزام حقوقی، بلکه چون هدف آن با مأموریت ما برای توسعه و استقرار هوش مصنوعی ایمن به سود همهٔ بشریت همسو است. افتخار میکنیم مدلهایی عرضه میکنیم که هم از نظر توانمندی و هم ایمنی، پیشتاز صنعت هستند. ما به رویکردی متوازن و علمی باور داریم که در آن تدابیر ایمنی از همان ابتدا در فرایند توسعه ادغام میشوند. تیمهای ما طیف گستردهای از فعالیتهای فنی را برای مقابله با چالشهای ایمنی هوش مصنوعی انجام میدهند؛ از جمله ارزیابی مدلها پیش از استقرار طبق چارچوب آمادگی، تیم قرمز داخلی و خارجی، پایش سوءاستفاده پس از استقرار، برنامههای پاداش کشف باگ و کمکهزینهٔ امنیت سایبری و مشارکت در تدوین استانداردهای اصالت.
همزمان با اجرای قانون جدید در ماههای آینده، از نزدیک با دفتر هوش مصنوعی اتحادیهٔ اروپا و دیگر مراجع مرتبط همکاری خواهیم کرد و امیدواریم تخصصی که به دست آوردهایم، به تحقق اهداف قانون در زمینهٔ استقرار هوش مصنوعی ایمن و سودمند کمک کند.
در این مطلب، مروری بر برخی موضوعات کلیدی قانون هوش مصنوعی ارائه میکنیم و تمرکز ویژهای بر موارد استفادهٔ ممنوع و پرخطر داریم.
قانون هوش مصنوعی در ۱ اوت ۲۰۲۴، یعنی ۲۰ روز پس از انتشار در روزنامهٔ رسمی اتحادیهٔ اروپا، لازمالاجرا میشود. اگرچه بیشتر مقررات این قانون تا ۲۴ ماه پس از لازمالاجراشدن اجرایی نمیشوند، چند مهلت مهم را باید در نظر داشت:
- ممنوعیت رویههای غیرمجاز، ۶ ماه پس از لازمالاجراشدن اجرایی میشود (فوریهٔ ۲۰۲۵)
- آییننامههای اجرایی که بسیاری از جزئیات لازم برای رعایت قانون را پوشش میدهند، باید ظرف ۹ ماه پس از لازمالاجراشدن نهایی شوند (مهٔ ۲۰۲۵)
- بیشتر تعهدات مربوط به هوش مصنوعی همهمنظوره، ۱۲ ماه پس از لازمالاجراشدن اجرایی میشوند (اوت ۲۰۲۵).
- تعهدات بیشتر سامانههای هوش مصنوعی پرخطر، ۲۴ ماه پس از لازمالاجراشدن اعمال میشوند (اوت ۲۰۲۶).
سامانههای GPAI موجود که دستخوش تغییر اساسی نشدهاند و برخی سامانههای هوش مصنوعیِ تشکیلدهندهٔ سامانههای فناوری اطلاعات بزرگمقیاسِ مشخصشده در پیوست X قانون، مهلت اجرایی طولانیترِ ۳۶ماهه خواهند داشت (اوت ۲۰۲۷).
قانون هوش مصنوعی عمدتاً بر «سامانههای هوش مصنوعی» اعمال میشود که در آن چنین تعریف شدهاند: «سامانهای مبتنی بر ماشین که برای کار با سطوح متفاوتی از خودمختاری طراحی شده، ممکن است پس از استقرار سازگاری نشان دهد و برای اهداف صریح یا ضمنی، از ورودی دریافتی استنباط کند چگونه خروجیهایی مانند پیشبینی، محتوا، توصیه یا تصمیم تولید کند که بتوانند بر محیطهای فیزیکی یا مجازی اثر بگذارند.» این تعریف تا حد زیادی با تعریف «سامانههای هوش مصنوعی» سازمان همکاری و توسعهٔ اقتصادی در سال ۲۰۲۳ و تعریف بهکاررفته در فرمان اجرایی ۱۴۱۱۰ دولت بایدن دربارهٔ توسعه و استفادهٔ ایمن، امن و قابلاعتماد از هوش مصنوعی مطابقت دارد.
نکتهٔ مهم اینکه قانون هوش مصنوعی میان ارائهدهندگان و بهکارگیرندگان سامانههای هوش مصنوعی تمایز قائل میشود. ارائهدهندگان، نهادهایی مانند OpenAI هستند که یک سامانهٔ هوش مصنوعی یا مدل هوش مصنوعی همهمنظوره را توسعه میدهند. این عنوان همچنین شامل نهادهایی میشود که یک سامانهٔ هوش مصنوعی یا مدل هوش مصنوعی همهمنظوره برایشان توسعه داده شده و آن را با نام یا علامت تجاری خود، چه رایگان و چه در ازای پرداخت، به بازار عرضه یا راهاندازی میکنند.
بهکارگیرندگان، مشتریان یا شرکایی هستند که این سامانهها یا مدلها را در برنامههای خود استفاده میکنند؛ برای مثال، GPT‑4o را در کاربردی مشخص ادغام میکنند. اگرچه بیشتر تعهدات قانون هوش مصنوعی متوجه ارائهدهندگان است نه بهکارگیرندگان، باید توجه داشت بهکارگیری که یک مدل هوش مصنوعی را در سامانهٔ خود ادغام میکند، ممکن است طبق قانون به ارائهدهنده تبدیل شود؛ برای مثال، با درج علامت تجاری خود بر سامانه یا ایجاد تغییراتی که ارائهدهنده در نظر نداشته است.
سازمانهای خارج از اتحادیهٔ اروپا نیز تحت شرایط گوناگون و گاه بسیار گسترده، ملزم به رعایت قانون هوش مصنوعی خواهند بود. برای مثال، قانون در موارد زیر اعمال میشود:
- یک ارائهدهنده، سامانهٔ هوش مصنوعی یا مدل GPAI را در بازار اتحادیهٔ اروپا عرضه کند، صرفنظر از اینکه شرکت در اتحادیهٔ اروپا یا کشور دیگری تأسیس شده باشد؛
- محل تأسیس یا استقرار بهکارگیرندگان یک سامانهٔ هوش مصنوعی در اتحادیهٔ اروپا باشد؛
- ارائهدهندگان و بهکارگیرندگان سامانههای هوش مصنوعی در کشوری ثالث تأسیس یا مستقر باشند، اما خروجی سامانه در اتحادیهٔ اروپا استفاده شود.
دامنهٔ فراسرزمینی گستردهٔ قانون هوش مصنوعی بدین معناست که شرکتهای غیراروپایی برای خدمترسانی به مشتریان اتحادیهٔ اروپا باید این قانون را رعایت کنند، چه در اتحادیه مستقر باشند چه نباشند.
قانون هوش مصنوعی بر چارچوبی مبتنی بر خطر استوار است و برای سامانههای هوش مصنوعی پرخطر و دارای خطر غیرقابلقبول، الزامات مشخصی تعیین میکند. این قانون شرکتها را ملزم میکند سطح خطر سامانههای هوش مصنوعی خود را برای تعیین تعهدات مقرراتی مربوطه طبقهبندی کنند و دستهها یا سطوح مختلفی از سامانهها را با تعهدات متفاوت تعریف میکند.
برخی رویههای هوش مصنوعی که خطر آنها برای حقوق افراد غیرقابلقبول تشخیص داده شده، کاملاً ممنوع هستند. این رویهها عبارتاند از:
- بهکارگیری روشهای زیرآستانهای، فریبکارانه یا دستکاریکننده برای منحرفکردن رفتار و مختلکردن تصمیمگیری آگاهانه که آسیب جدی ایجاد کند.
- بهرهبرداری از آسیبپذیریهای مرتبط با سن، معلولیت یا شرایط اجتماعیاقتصادی برای منحرفکردن رفتار بهگونهای که آسیب جدی ایجاد کند.
- سامانههای طبقهبندی زیستسنجی که ویژگیهای حساسی مانند نژاد، دیدگاههای سیاسی، عضویت در اتحادیهٔ صنفی، باورهای دینی یا فلسفی، زندگی جنسی یا گرایش جنسی را استنباط میکنند (با استثناهای محدود برای برچسبگذاری یا پالایش مجموعهدادههای قانونی و استفادهٔ نیروهای مجری قانون)
- سامانههای امتیازدهی اجتماعی، مانند سامانههایی که افراد یا گروهها را بر اساس رفتار اجتماعی یا ویژگیهای شخصی ارزیابی یا طبقهبندی میکنند و به آنها آسیب میرسانند.
- ارزیابی خطر ارتکاب جرم از سوی یک فرد، صرفاً بر اساس پروفایلسازی یا ویژگیهای شخصیتی او (با استثناهای محدود)
- ایجاد پایگاههای دادهٔ تشخیص چهره از طریق جمعآوری بیهدف تصاویر چهره از اینترنت یا تصاویر دوربینهای مداربسته
- استنباط احساسات در محیطهای کاری یا مؤسسات آموزشی
- شناسایی زیستسنجی از راه دور و بیدرنگ در اماکن عمومی برای اجرای قانون (با استثناهای مشخص).
این قانون تعهدات سختگیرانهای بر سامانههایی تحمیل میکند که به تشخیص آن، تهدیدی جدی برای سلامت، ایمنی یا حقوق بنیادین افراد دارند و در دستهٔ هوش مصنوعی پرخطر (HRAI) قرار میگیرند. این موارد عبارتاند از: الف) سامانههایی که جزء ایمنی محصولی مشمول دیگر قوانین اتحادیهٔ اروپا هستند؛ و ب) کاربردهای مشخص، مانند سامانههای تعیین دسترسی یا پذیرش در مؤسسات آموزشی، استخدام یا گزینش کارکنان یا نظارت بر عملکرد آنان، تعیین صلاحیت دریافت کمکهای عمومی و اعتبار مالی، و ارزیابی صلاحیت و قیمتگذاری بیمهٔ درمانی.
سامانههای HRAI باید الزامات مقرراتی سختگیرانهای را رعایت کنند؛ از جمله ایجاد سامانهٔ مدیریت خطر برای ارزیابی مستمر خطرات و راهبردهای کاهش آنها در سراسر چرخهٔ عمر سامانه، تدابیر جامع حاکمیت داده برای آزمون و ارزیابی خطر سوگیری، تهیهٔ مستندات فنی مفصل پیش از عرضهٔ سامانه به بازار و پایش مداوم.
سایر سامانههای هوش مصنوعی که خطر غیرقابلقبول یا بالایی ندارند، تنها مشمول الزامات محدودی مانند تعهدات شفافیت میشوند. برای مثال، قانون تصریح میکند که افراد هنگام تعامل با یک سامانهٔ هوش مصنوعی مانند چتبات باید از این موضوع آگاه شوند و تصاویر، محتوای صوتی یا ویدئویی دستکاریشده با هوش مصنوعی نیز باید بهروشنی برچسبگذاری شوند. احتمالاً بیشتر سامانههای هوش مصنوعی موجود در بازار در این دسته قرار میگیرند.
الزامات ویژهای برای ارائهدهندگان مدلها و سامانههای هوش مصنوعی همهمنظوره مانند OpenAI اعمال میشود که باید:
- مستندات فنی مفصلی برای مدل تهیه کنند و در صورت درخواست، آن را در اختیار دفتر هوش مصنوعی قرار دهند
- برای بهکارگیرندگانی که با استفاده از مدل GPAI سامانههای هوش مصنوعی خود را توسعه میدهند، مستندات تهیه کنند
- سیاستهایی برای رعایت قانون حق نشر اتحادیهٔ اروپا اجرا کنند
- خلاصهای از محتوای استفادهشده برای آموزش مدل GPAI ارائه دهند
علاوه بر این، ارائهدهندگان مدلهای GPAI با توانمندیهای اثرگذار که دارای «خطرات سیستمی» تشخیص داده میشوند (برای مثال، مدلهایی که با توان محاسباتی زیادی—با تعریف فنی 10^25 FLOPs—آموزش دیدهاند)، ملزم خواهند بود:
- برای شناسایی و کاهش خطرات سیستمی، مدل را ارزیابی کنند و خطرات موجود را بهطور مستمر بسنجند و کاهش دهند
- مدلهایی را که معیارهای این دسته را دارند به کمیسیون اتحادیهٔ اروپا اطلاع دهند
- رخدادهای جدی را پایش و گزارش کنند
- تدابیر مناسب امنیت سایبری را برای مدل و زیرساخت فیزیکی آن اجرا کنند
ارائهدهندگان مدلهای GPAI میتوانند برای اثبات رعایت الزامات قانون هوش مصنوعی به یک آییننامهٔ اجرایی استناد کنند. این آییننامهها احتمالاً مبنای جزئیات مشخص اجرای این تعهدات را فراهم میکنند و مشتاقیم طی ۹ ماه آینده، همزمان با تدوین آنها، با دفتر هوش مصنوعی اتحادیهٔ اروپا همکاری کنیم.
OpenAI به رعایت قانون هوش مصنوعی اتحادیهٔ اروپا متعهد است و همزمان با اجرای قانون، از نزدیک با دفتر جدید هوش مصنوعی اتحادیهٔ اروپا همکاری خواهد کرد. در ماههای آینده، ضمن ارتقای امنیت و ایمنی مدلهایی که در بازار اروپا و فراتر از آن ارائه میکنیم، تهیهٔ مستندات فنی و سایر راهنماها برای ارائهدهندگان پاییندستی و بهکارگیرندگان مدلهای GPAI خود را ادامه خواهیم داد.
اگر سازمان شما در پی تعیین نحوهٔ رعایت قانون هوش مصنوعی است، ابتدا باید سامانههای هوش مصنوعی مشمول را طبقهبندی کند. مشخص کنید از چه مدلهای GPAI و دیگر سامانههای هوش مصنوعی استفاده میکنید، طبقهبندی آنها چیست و هر مورد استفاده چه تعهداتی ایجاد میکند. همچنین باید مشخص کنید که در قبال هر سامانهٔ هوش مصنوعی مشمول، ارائهدهنده هستید یا بهکارگیرنده. این مسائل ممکن است پیچیده باشند؛ بنابراین اگر پرسشی دارید، با مشاور حقوقی مشورت کنید.