رویکرد ما به مقررات اتحادیه اروپا درباره منشأ متن
گسترش شفافیت در چارچوب محدودیت‌های فناوری امروز.
اطلاعات منشأ محتوا به افراد کمک می‌کند بفهمند محتوا از کجا آمده، چگونه تولید یا ویرایش شده و آیا حاوی نشانه‌هایی مرتبط با مدل‌های ماست یا نه. پیش‌تر ابزارهایی را برای شناسایی تصاویر و صداهای تولیدشده با مدل‌های خود در دسترس عموم قرار داده‌ایم. امروز رویکرد خود به واترمارک‌گذاری متن در پاسخ به قانون هوش مصنوعی اتحادیه اروپا و جایگاه آن در فعالیت‌های گسترده‌ترمان را شرح می‌دهیم.
قانون هوش مصنوعی اتحادیه اروپا ارائه‌دهندگان هوش مصنوعی مولد را ملزم می‌کند که متن تولیدشده را به‌صورتی قابل‌خواندن برای ماشین، قابل‌شناسایی کنند. فناوری‌های واترمارک‌گذاری و تشخیص واترمارک متن هنوز در مراحل اولیه‌اند و محدودیت‌های چشمگیری دارند؛ دیدگاه‌ها درباره مزایا و کاربردهای مسئولانه آن‌ها نیز همچنان در حال شکل‌گیری است. رویکرد مرحله‌ای ما هم الزامات قانون هوش مصنوعی اتحادیه اروپا و هم محدودیت‌های این فناوری را در نظر می‌گیرد و بر شفاف‌سازی این موضوع تأکید دارد که واترمارک متن چه اطلاعاتی را می‌تواند و چه اطلاعاتی را نمی‌تواند در اختیار افراد بگذارد:
از امروز، مشتریان API در سراسر جهان می‌توانند واترمارک‌گذاری متن را برای برخی مدل‌ها به انتخاب خود فعال کنند. واترمارک‌گذاری متن در API همچنان به‌طور پیش‌فرض غیرفعال خواهد بود.
طی هفته‌های آینده، به خروجی‌های متنی واجد شرایط ChatGPT و Codex در اتحادیه اروپا واترمارک نامرئی اضافه خواهیم کرد.
پذیرش درخواست‌های دسترسی به ابزار تشخیص واترمارک متن خود را آغاز می‌کنیم. در ابتدا، دسترسی به پژوهشگران و سازمان‌های تخصصی تأییدشده‌ای محدود خواهد بود که می‌توانند به ما در ارزیابی و بهبود این فناوری کمک کنند.
موارد بالا فقط به منشأ متن مربوط می‌شود؛ ابزارهای راستی‌آزمایی صدا و تصویر ما، از جمله ابزار تحت وب openai.com/verify و Content Provenance API(در یک پنجره جدید باز می‌شود)، همچنان به‌صورت عمومی در دسترس سازمان‌هایی خواهند بود که می‌خواهند بدانند آیا یک تصویر یا فایل صوتی با یکی از سامانه‌های ما تولید شده است یا نه.
فناوری واترمارک‌گذاری متن ما، textGrain، به الگوی انتخاب واژه‌های مدل یک سیگنال آماری نامرئی اضافه می‌کند. ابزار تشخیص ما به دنبال این سیگنال می‌گردد تا بررسی کند آیا یک قطعه متن حاوی واترمارک OpenAI است یا نه. جزئیات بیشتر درباره نحوه کار textGrain در گزارش فنی(در یک پنجره جدید باز می‌شود) ما آمده است؛ این گزارش در هفته‌های آینده با جزئیات تکمیلی به‌روز خواهد شد. همچنین قصد داریم این فناوری را به‌صورت متن‌باز عرضه کنیم تا دیگران بتوانند بر پایه آن توسعه دهند.
در ارزیابی‌های ما، عملکرد textGrain با سایر روش‌های آزمایش‌شده، از جمله SynthID برای متن، برابر یا بهتر بود. بااین‌حال، عملکرد قوی در شرایط ایدئال تضمینی برای تشخیص قابل‌اعتماد در استفاده روزمره نیست.
ابزارهای تشخیص ممکن است دو نوع خطا داشته باشند: وجود واترمارک را در متنی گزارش کنند که واترمارک ندارد—مثبت کاذب—یا واترمارکی را که وجود دارد تشخیص ندهند—منفی کاذب. ارزیابی‌های زیر برخی از این چالش‌ها را نشان می‌دهند:
تشخیص واترمارک در متن‌های کوتاه‌تر یا متن‌هایی با محدودیت بیشتر در انتخاب واژه دشوارتر است. با نرخ هدفِ مثبت کاذب ۱٪، ابزار ما برای محتوایی مانند روان‌شناسی، واترمارک را در حدود ۸۰٪ از قطعه‌متن‌های ۲۰۰ توکنی تشخیص داد؛ این رقم برای قطعه‌متن‌های ۴۰۰ توکنی حدود ۹۵٪ بود. نرخ تشخیص برای محتوایی مانند ریاضیات، که در آن آزادی کمتری در انتخاب واژه وجود دارد، به‌مراتب پایین‌تر بود.
ویرایش می‌تواند واترمارک را تضعیف کند. در ارزیابی قطعه‌متن‌های ۴۰۰ توکنی، جایگزینی ۱۰٪ از واژه‌ها با مترادف‌هایشان، نرخ تشخیص را از حدود ۹۲٪ به ۶۶٪ کاهش داد. جایگزینی ۲۵٪ از واژه‌ها این نرخ را به ۱۷٪ رساند.
این محدودیت‌ها در تصمیم ما برای ارائهٔ دسترسی اولیه به ابزار تشخیص فقط به پژوهشگران تأییدشده و سازمان‌های تخصصی نقش دارند؛ گروه‌هایی که می‌توانند به ما در ارزیابی قابلیت اعتماد و کاربردهای مسئولانه کمک کنند.
این نمودار نتایج مربوط به پاسخ‌های دارای واترمارک به پرسش‌های ریاضیات و روان‌شناسی از مجموعه‌داده ELI5(در یک پنجره جدید باز می‌شود) را با نرخ هدفِ مثبت کاذب ۱٪ نشان می‌دهد. با افزایش طول متن، تشخیص بهتر می‌شود؛ اما در مجموع، نرخ تشخیص برای محتوایی مانند ریاضیات که در آن آزادی کمتری در انتخاب واژه وجود دارد، به‌مراتب پایین‌تر است.
ویرایش می‌تواند سیگنال واترمارک را به‌شدت تضعیف کند. این نمودار نشان می‌دهد جایگزینی ۱۰٪ یا ۲۵٪ از واژه‌های یک قطعه متن چه تأثیری بر تشخیص دارد. نتایج بر پایه پاسخ‌های انگلیسی دارای واترمارک به پرسش‌های ELI5(در یک پنجره جدید باز می‌شود) به دست آمده‌اند.
در معیارهایی که برای ارزیابی Astra، جدیدترین مدل پیشرو خود، به کار می‌بریم، تفاوت معناداری میان عملکرد با واترمارک‌گذاری و بدون آن مشاهده نمی‌کنیم.
معیار ارزیابی | متن بدون واترمارک (Astra، Max) | متن دارای واترمارک (Astra، Max) |
|---|---|---|
شاخص هوش Artificial Analysis | ۴۹٫۵۷ امتیاز | ۴۹٫۷۶ امتیاز |
AutomationBench | ۳۴٫۰۹٪ | ۳۴٫۸۶٪ |
DeepSWE v1.1 | ۷۲٫۸۰٪ | ۷۱٫۶۸٪ |
Terminal-Bench 4.0 | ۵۳٫۹۰٪ | ۵۶٫۰۶٪ |
Terminal-Bench Science 0.1 | ۵۶٫۹۰٪ | ۶۰٫۰۰٪ |
BrowseComp | ۸۷٫۹۲٪ | ۸۷٫۳۵٪ |
HealthBench Professional | ۶۴٫۲۷٪ | ۶۴٫۶۰٪ |
GPQA Diamond | ۹۴٫۴۴٪ | ۹۳٫۹۴٪ |
واترمارک‌های متن نشانه‌ای محدود از نقش سامانه‌های ما در یک قطعه متن ارائه می‌کنند. مهم است بدانیم از نتیجه تشخیص چه برداشت‌هایی می‌توان و چه برداشت‌هایی نمی‌توان داشت.
واترمارک میزان مشارکت انسان را نمی‌سنجد. واترمارک می‌تواند نشان دهد که یک سامانه OpenAI بخشی از متن را تولید یا پردازش کرده است، اما نشان نمی‌دهد چه میزان قضاوت، ویرایش یا خلاقیت انسانی در آن به کار رفته است.
واترمارک مالکیت یا مسئولیت را اثبات نمی‌کند. واترمارک مشخص نمی‌کند متن متعلق به چه کسی است، آیا استفاده از آن قانونی بوده، آیا اعلام استفاده از هوش مصنوعی الزامی بوده یا چه کسی مسئول آن است.
واترمارک هویت کاربر را مشخص نمی‌کند. واترمارک هیچ شخص، سازمان، حساب، پرامپت یا گفت‌وگویی را به متن مرتبط نمی‌کند.
واترمارک درستی محتوا را تأیید نمی‌کند. واترمارک به شما نمی‌گوید که متن درست، گمراه‌کننده یا زیان‌بار است، یا در بافت مناسبی ارائه شده است.
تشخیص ندادن واترمارک ثابت نمی‌کند که نویسنده متن انسان بوده است. متن تولیدشده با ابزارهای OpenAI ممکن است آن‌قدر کوتاه باشد، یا چنان ویرایش یا ترجمه شده باشد که تشخیص با اطمینان انجام نشود. همچنین ممکن است متن با مدلی تولید شده باشد که از واترمارک پشتیبانی نمی‌کند، مربوط به پیش از آغاز واترمارک‌گذاری باشد یا با ابزارهای شرکت دیگری تولید شده باشد.
عرضه تدریجی واترمارک‌گذاری متن در اتحادیه اروپا. طی هفته‌های آینده، واترمارک‌گذاری متن را برای کاربران واجد شرایط ChatGPT و Codex در همه طرح‌ها، فقط در اتحادیه اروپا، فعال خواهیم کرد. هنگام عرضه، واترمارک‌گذاری متن را در سراسر جهان به‌طور پیش‌فرض فعال نمی‌کنیم. این رویکرد منطقه‌ای به ما فرصت می‌دهد از استفاده در شرایط واقعی و بازخوردها بیاموزیم.
فراهم کردن امکان فعال‌سازی اختیاری واترمارک‌گذاری برای مشتریان API. از امروز، مشتریان API در سراسر جهان می‌توانند برای برخی مدل‌ها، به انتخاب خود خروجی متنی دارای واترمارک دریافت کنند. به‌این‌ترتیب، مشتریان می‌توانند تصمیم بگیرند چگونه از واترمارک‌گذاری متناسب با تعهدات خود در زمینه شفافیت و تجربه‌ای که به کاربران ارائه می‌دهند استفاده کنند. همچنین با شرکای ابری خود همکاری می‌کنیم تا در هفته‌های آینده، واترمارک‌گذاری برای خروجی مدل‌های OpenAI که از طریق خدمات آن‌ها در دسترس‌اند، فراهم شود.
ارائه دسترسی به ابزار تشخیص به پژوهشگران و سازمان‌های تخصصی. پژوهشگران تأییدشده و سازمان‌های تخصصی می‌توانند از امروز درخواست دهند. مطابق آیین‌نامه عملی(در یک پنجره جدید باز می‌شود)، در ابتدا دسترسی به‌صورت موردی اعطا خواهد شد تا به ارزیابی و بهبود منشأ متن کمک کند. این ابزار گزارش می‌دهد که آیا واترمارک OpenAI را تشخیص می‌دهد یا نه، بدون آنکه هویت کاربر را مشخص کند یا پرامپت‌ها یا گفتگوهای او را فاش کند. با توجه به خطر تشخیص ندادن واترمارک‌ها و نتایج مثبت کاذب، هنگام عرضه این ابزار را در دسترس عموم قرار نمی‌دهیم.
انتظار داریم با پیشرفت فناوری و تحول استانداردها و شواهد، در هر بخش از این رویکرد بازنگری کنیم.
هیچ روش شناسایی منشأ به‌تنهایی کافی نیست؛ به همین دلیل رویکردی چندلایه داریم که استانداردهای باز، واترمارک‌گذاری پایدار و ابزارهای راستی‌آزمایی را ترکیب می‌کند.
به خروجی‌های تصویری پشتیبانی‌شده گواهی اصالت محتوا اضافه می‌کنیم، با استاندارد C2PA سازگاریم(در یک پنجره جدید باز می‌شود)، واترمارک‌های نامرئی SynthID(در یک پنجره جدید باز می‌شود) را در تصاویر و صداهای پشتیبانی‌شده درج می‌کنیم و امکان راستی‌آزمایی تصویر و صدا را از طریق openai.com/verify و Content Provenance API(در یک پنجره جدید باز می‌شود) فراهم می‌کنیم. این روش‌ها مکمل یکدیگرند: گواهی اصالت محتوا می‌تواند منشأ و سابقه فایل را ثبت کند، درحالی‌که واترمارک‌های نامرئی می‌توانند پس از حذف فراداده، نشانه‌ای از منشأ را حفظ کنند.
همان‌طور که در شرح اقدامات حفاظتی خود برای انتخابات توضیح دادیم، اطلاعات منشأ می‌تواند به افراد و پلتفرم‌ها در ارزیابی محتوای تولیدشده با هوش مصنوعی که احتمال دارد گمراه‌کننده باشد، از جمله دیپ‌فیک‌ها، کمک کند. این نشانه‌ها را در کنار سیاست‌ها، تشخیص سوءاستفاده، گزارش‌دهی، تحقیقات و اقدامات اجرایی به کار می‌گیریم و با پژوهشگران، نهادهای تدوین استاندارد، پلتفرم‌ها و جامعه مدنی همکاری می‌کنیم تا اطلاعات منشأ در سراسر زیست‌بوم گسترده‌تر کاربرد داشته باشد.
گسترش شناسایی منشأ به متن مستلزم توجه به این واقعیت است که متن را می‌توان به‌آسانی بازنویسی، ترجمه یا ویرایش کرد. همان‌طور که در ژوئن مطرح کردیم، رویکرد ما باید محدودیت‌های عملی فناوری کنونی را در نظر بگیرد. به بهبود تشخیص، مطالعه میزان پایداری واترمارک‌ها در برابر ویرایش و ترجمه، و بررسی راه‌هایی برای تمایز معنادارتر میان کمک گرفتن از هوش مصنوعی و نگارش متن به‌دست آن ادامه خواهیم داد. رویکرد خود را با تحول شواهد، استانداردها و الزامات قانونی تطبیق خواهیم داد و زمانی دسترسی به ابزار تشخیص را گسترش می‌دهیم که باور داشته باشیم نتایج آن را می‌توان مسئولانه تفسیر کرد.
برای اطلاعات بیشتر، به مقاله مرکز راهنمایی(در یک پنجره جدید باز می‌شود) ما مراجعه کنید.
