حمایت از تلاش اروپا برای تضمین اکو سیستم قابل‌اعتماد AI

افراد از AI برای ایجاد و ویرایش محتوا به شیوه‌های تازه استفاده می‌کنند. با توانمندتر و فراگیرتر شدن این ابزارها، افراد باید درباره محتوایی که آنلاین می‌بینند زمینه و اطلاعات داشته باشند.

امروز، پس از انتشار آیین‌نامه عملی کمیسیون اروپا درباره شفافیت محتوای تولید شده با AI، OpenAI حمایت خود را از این آیین‌نامه و هدف آن اعلام می‌کند. این آیین‌نامه گامی مهم در اجرای قانون AI اتحادیه اروپا و ساخت اکو سیستم دیجیتال شفاف‌تر شده است.

این حمایت بر سال‌ها پژوهش داخلی، توسعه محصول و همکاری با اکوسیستم گسترده‌تر برای تقویت منشأ محتوای تولید شده با AI بنا شده است. OpenAI از سال ۲۰۲۴، زمانی که افزودن فراداده C2PA را به ابزار تولید تصویر DALL-E 3 آغاز کردیم، در حال توسعه و پذیرش استانداردهای منشأ بوده است. از آن زمان، ما با روش‌های بهتر نشانه‌گذاری و تشخیص، پژوهش‌های تازه و انتشار نخستین ابزار عمومی راستی‌آزمایی خود به تقویت منشأ ادامه داده‌ایم. با تکیه بر سال‌ها تخصص، همراه با صدها ذی‌نفع دیگر در تدوین این آیین‌نامه مشارکت کردیم تا به تضمین اکو سیستم AI قابل‌اعتماد کمک کنیم.  

این کار بر رویکرد گسترده‌تر ما به حکمرانی AI در اروپا بنا می‌شود. در سال ۲۰۲۵، OpenAI نخستین شرکت آمریکایی بود که آیین‌نامه عملی AI همه‌منظوره اتحادیه اروپا را امضاء کرد؛ بازتابی از باور ما که قواعد روشن و قابل‌اجراء می‌توانند به توسعه مسئولانه AI کمک کنند و هم‌زمان به شرکت‌ها اطمینان لازم برای ادامه ساخت بدهند. ما با همین روحیه از این آیین‌نامه جدید حمایت می‌کنیم. پیشبرد شفافیت محتوای تولید شده با AI تلاشی در سراسر اکو سیستم است و به مشارکت بازیگران در سراسر زنجیره ارزش نیاز دارد. قانون AI اتحادیه اروپا و این آیین‌نامه این موضوع را به رسمیت می‌شناسند، و ما متعهدیم با رعایت الزامات قابل‌اعمال بر محصولات مرتبط خود نقشمان را ایفاء کنیم.  

همان‌طور که ابزارهای AI بخشی از شیوه ساختن، تصور کردن و به‌اشتراک‌گذاری افراد می‌شوند، مهم است که مردم بتوانند بفهمند محتوا از کجا آمده و آن را با اطمینان تفسیر کنند. سیگنال‌های منشأ می‌توانند با ارائه زمینه درباره منبع محتوا، چگونگی ایجاد یا ویرایش آن، و اینکه آیا همان چیزی است که ادعا می‌کند، کمک کنند. منشأ همچنین می‌تواند با آسان‌تر کردن تشخیص کارزارهای اطلاعات نادرست و پشتیبانی از سلامت انتخابات به حفاظت از اکو سیستم دیجیتال کمک کند.  

روش‌های مؤثر، قابل‌اعتماد و نیرومند منشأ باید به‌صورت جمعی ساخته شوند و در سراسر اکو سیستم کار کنند. به همین دلیل با ائتلاف‌هایی مانند C2PA کار می‌کنیم که سازمان‌های خبری، سازندگان دستگاه، پلتفرم‌های آنلاین و ارائه‌دهندگان AI را برای پیشبرد استانداردهای تعامل‌پذیر گرد هم می‌آورد. فراداده C2PA بنیانی مهم برای منشأ است. این به محتوا کمک می‌کند اطلاعاتی درباره اینکه از کجا آمده، چگونه ایجاد یا ویرایش شده و چه کسی آن اطلاعات را امضاء کرده همراه خود داشته باشد. اما فراداده خطا ناپذیر نیست. ممکن است حذف شود، در فرآیند بارگذاری و دانلود از بین برود، یا با تبدیل‌هایی مانند تغییر قالب فایل، تغییر اندازه یا اسکرین‌شات آسیب ببیند. برای مقاوم‌تر کردن منشأ، ما رویکردی چند لایه در پیش می‌گیریم که سیگنال‌های متعدد و محافظت‌های محصولی را در سراسر ابزارهای ما دربر می‌گیرد. 

در سال‌های اخیر، با رویکرد خود به منشأ محتوا، مدلی چند لایه و مبتنی بر اکو سیستم برای ایجاد اعتماد آنلاین ساخته‌ایم. کار کنونی ما شامل موارد زیر است:

• اعتبارنامه‌های محتوای C2PA⁠(در یک پنجره جدید باز می‌شود) برای تصاویر: ما افزودن فرا داده C2PA را به تصاویر ایجاد و ویرایش‌شده با DALL·E 3 در ChatGPT و API OpenAI آغاز کردیم و به گسترش سیگنال‌های منشأ در تصاویر تولید شده با OpenAI ادامه داده‌ایم.
• سیگنال‌های متعدد برای تصاویر تولید شده با OpenAI: تصاویر تولیدشده با ChatGPT، Codex و API OpenAI هم شامل فراداده C2PA و هم واترمارک‌های SynthID هستند. فرا داده می‌تواند اطلاعات غنی‌تری حمل کند، در حالی که واتر مارک‌گذاری می‌تواند به حفظ یک سیگنال در زمینه‌های مختلف کمک کند.
• تجربه عمومی راستی‌آزمایی: openai.com/verify به افراد امکان می‌دهد بررسی کنند آیا تصاویر پشتیبانی‌شده دارای سیگنال‌های منشأ مرتبط با تصاویر تولید شده با OpenAI هستند یا نه.
• مشارکت در استانداردهای باز. در سال ۲۰۲۴، OpenAI به کمیته راهبری C2PA پیوست؛ تلاشی میان‌صنعتی با حضور شرکت‌های نرم‌افزاری، تولید کنندگان دوربین، سازمان‌های رسانه‌ای و پلتفرم‌های آنلاین.
• محافظت‌های محصول: منشأ مکمل سیاست‌ها، طبقه‌بندها، کانال‌های گزارش‌دهی و فرآیندهای اجرایی است که استفاده‌های فریبکارانه از محتوای تولیدشده با AI، از جمله سوء استفاده از شباهت چهره و فریب مرتبط با انتخابات، را کاهش می‌دهند.

اگرچه منشأ مفید است، هنوز حوزه‌ای نوپا به شمار می‌رود. با حرکت محتوا در فضای آنلاین، سیگنال‌ها ممکن است از بین بروند: فراداده می‌تواند حذف شود، واترمارک‌ها می‌توانند تضعیف شوند و برچسب‌ها فقط جایی کمک می‌کنند که افراد با محتوا روبه‌رو شوند. پیشبرد قابلیت اعتماد، استحکام و تعامل‌پذیری تکنیک‌های منشأ همچنان به کار و همکاری قابل‌توجه در سراسر اکو سیستم نیاز دارد.

این آیین‌نامه عملی مسیر درست را تعیین می‌کند: سطح بالایی از جاه‌طلبی برای پیشبرد تکنیک‌های منشأ. هنگام اجراء، باید بر روش‌هایی استوار بماند که در عمل کار می‌کنند و آن‌قدر انعطاف‌پذیر باشد که محدودیت‌های تکنیک‌های کنونی را بازتاب دهد.

OpenAI به تقویت شفافیت محتوا در سراسر محصولات خود، مشارکت در توسعه استانداردهای تعامل‌پذیر و بهبود ابزارهای راستی‌آزمایی ادامه خواهد داد. مشتاقیم با دفتر AI، کشورهای عضو و جامعه گسترده‌تر AI همکاری کنیم تا اکوسیستم AI ایمن‌تر و شفاف‌تری بسازیم.