اطلاعات انتخاباتی و محافظتها در ۲۰۲۶
در آستانه برگزاری انتخابات در کشورهای مختلف جهان، به مردم کمک میکنیم به اطلاعات دسترسی پیدا کنند، از مدافعان امنیت سایبری پشتیبانی میکنیم و شفافیت در حوزهی هوش مصنوعی را افزایش میدهیم.
سال ۲۰۲۶ دومین سال بزرگ انتخاباتی جهان از زمان فراگیر شدن AI مولد است، و ما همچنان بر پایهای که در ۲۰۲۴ بنا کردیم کار میکنیم تا به حفاظت از انتخابات در کشورها و سرزمینهای سراسر جهان کمک کنیم.
تمرکز ما ساخت و استقرار مسئولانه محصولات پیشگام به شیوههایی است که:
اطلاعات قابلاعتماد درباره رأیگیری و نتایج را در دسترس قرار دهند
از مدافعان زیر ساخت سایبری پشتیبانی کنند
شفافیت پیرامون محتوای تولید شده با AI را افزایش دهند
با سوء استفاده عاملان بد مقابله کنند
سوگیری در مدلهای ما را پایش کنند تا پاسخهای ChatGPT از نظر سیاسی بیطرف بماند
افراد همین حالا از ChatGPT برای پرسیدن پرسشهای عملی به زبانهای دلخواه خود درباره رویدادهای مدنی استفاده میکنند: چگونه ثبتنام کنند، کجا رأی دهند، چه مهلتهایی وجود دارد، درباره یک رویداد خبری در حال تحول چه میگذرد، یا نتایج رسمی انتخابات را کجا پیدا کنند.
با تکیه بر تلاشهایمان در ۲۰۲۴، با شرکاء کار میکنیم تا افراد را به منابع قابلاعتماد اطلاعات درباره رأیگیری هدایت کنیم. از پاییز امسال در ایالات متحده و برزیل، OpenAI با رسیدن نتایج در شب انتخابات، شمارش زنده آرا را از The Associated Press(در یک پنجره جدید باز میشود) ارائه خواهد کرد. در آمریکا، همچنین با Democracy Works(در یک پنجره جدید باز میشود) همکاری میکنیم تا وقتی افراد درباره این موضوعات میپرسند، اطلاعات قابلاعتماد درباره فرایندهای رأیگیری و ثبتنام، از جمله محلهای رأیگیری و دیگر امور اجرایی انتخابات، نمایش داده شود. در سطح جهانی، به بهبود شیوهای ادامه میدهیم که جستوجوی وب اطلاعات مفید را همراه با پیوندهای منبع نمایش میدهد.
از سال ۲۰۲۴، ما همچنان کیفیت اطلاعاتی را که افراد هنگام پرسش از ChatGPT درباره موضوعات انتخاباتی و اخبار فوری دریافت میکنند بهبود دادهایم. ChatGPT میتواند وب را جستوجو کند تا پاسخهای قویتری با پیوندهای منبع ارائه دهد تا افراد بتوانند عمیقتر بررسی کنند.
این مقطع برای مدافعان امنیت سایبری در صنایع مختلف اهمیت ویژهای دارد و ما معتقدیم هوش مصنوعی نقشی حیاتی در تقویت امنیت و تابآوری زیرساختهای دیجیتال، از جمله سامانههای پشتیبان انتخابات، ایفا میکند. OpenAI متعهد است تابآوری را در تمامی لایههای زیرساخت تقویت کند، از جمله از راههایی که به برگزاری امن و مطمئن انتخابات کمک میکنند.
ما اخیراً Daybreak را اعلام کردیم؛ تلاش ما برای تغییر شیوه ساخت و دفاع از نرمافزار. Daybreak شامل چندین برنامه برای ایمنتر و تابآورتر کردن نرمافزار است، از جمله Codex Security که آسیبپذیریها را در کد توسعهدهندگان بهطور خودکار شناسایی، اعتبارسنجی و به رفع آنها کمک میکند. برای دفاع پیشرفتهتر، برنامه Trusted Access for Cyber (TAC) ما به افراد تأیید شده دسترسی به مدلهای مرزی برای دفاع سایبری میدهد. ما Codex Security و همچنین دسترسی TAC را به تولید کنندگان ثبتشده سامانههای رأیگیری(در یک پنجره جدید باز میشود) در آمریکا ارائه کردهایم، و با انجمن ملی وزیران ایالتی (NASS) و انجمن ملی مدیران انتخابات ایالتی (NASED) در تعامل هستیم تا مطمئن شویم مقامات انتخاباتی ایالتها از تازهترین توانمندیهای سایبری و ابزارهای ما برای مدافعان آگاه میشوند.
افراد بهطور فزآیندهای از ابزارهای AI برای ایجاد محتوایی استفاده میکنند که سپس در شبکههای اجتماعی، برنامههای پیامرسان و وب به اشتراک میگذارند. برای کمک به مقابله با «دیپفیکهای» گمراهکننده، ما در رویکردی چند لایه به منشأ سرمایهگذاری میکنیم که به افراد امکان میدهد بررسی کنند آیا محتوایی که میبینند با AI ایجاد یا دستکاری شده است یا نه.
هفته گذشته، ما همکاری برای آوردن SynthID واترمارکهای دیجیتال به تصاویر تولید شده از طریق ChatGPT، Codex یا API OpenAI را اعلام کردیم. این بر تعهد جاری ما به استفاده از استاندارد C2PA (ائتلاف منشأ و اصالت محتوا) بنا میشود؛ استانداردی که از فراداده و امضاهای رمز نگاریشده استفاده میکند تا اطلاعات مربوط به یک تصویر بهصورت امن همراه خود محتوا جابجا شود. این دو رویکرد مکمل یکدیگرند: SynthID یک لایه واترمارک نامرئی را تعبیه میکند که میتواند در برابر اسکرینشاتها و دیگر تبدیلها دوام بیاورد، در حالی که فرا داده میتواند اطلاعات بیشتری از یک واترمارک بهتنهایی ارائه دهد.
ما همچنین در حال پیشنمایش ابزار عمومی راستیآزمایی هستیم که به افراد امکان میدهد بررسی کنند آیا تصویری که بیرون از پلتفرم با آن روبهرو میشوند با ابزارهای OpenAI تولید شده است یا نه. این سایت میتواند تشخیص دهد آیا واترمارک SynthID با منشأ OpenAI وجود دارد یا نه، و همچنین هنگام یافتن فراداده C2PA آن را نمایش دهد.
ابزارهای منشأ راهحلی کامل برای فریب مرتبط با انتخابات نیستند، اما بخش مهمی از چارچوب گستردهتر سلامت انتخاباتاند. و از آنجا که بیشتر افراد با محتوای AI در شبکههای اجتماعی و پلتفرمهای پیامرسان روبهرو میشوند، خوشحالیم با شرکتهای شبکه اجتماعی همکاری کنیم، در حالی که آنها گامهایی را برای حفاظت از انتخابات بررسی میکنند؛ از جمله استفاده از نشانگرهای منشأ بهعنوان سیگنالی مرتبط در تصمیمگیری درباره اینکه چه محتوای مدنی را در فید افراد توصیه و توزیع کنند.
همچنین از حمایت از قوانینی که شفافیت را پیش میبرند هیجانزدهایم:
قانون حفاظت از انتخابات در برابر AI فریبکارانه (S. 1213)(در یک پنجره جدید باز میشود) ممنوعیتهای تازهای را برای توزیع آگاهانه محتوای تولید شده با AI که به طور مادی فریبنده است و در فعالیت انتخاباتی فدرال درباره نامزدهای فدرال استفاده میشود، اضافه میکند.
قانون آمادهسازی مدیران انتخابات برای AI (S. 2346)(در یک پنجره جدید باز میشود) کمیسیون کمک به انتخابات را ملزم میکند گزارشی با دستور العملهای داوطلبانه برای دفاتر انتخاباتی درباره استفاده از فناوریهای AI و خطرات آنها در اداره انتخابات صادر کند. این دستورالعملها با توجه به افزایش توانمندیهای سایبری مدلهای مرزی اهمیت ویژهای دارند.
OpenAI به انجام سهم خود برای مقابله با دخالت در انتخابات ادامه خواهد داد. ما سیاستهای استفاده را اجراء میکنیم که کاربران را از بهکارگیری ابزارهای ما برای دخالت در انتخابات، کاهش مشارکت رأیدهندگان یا فریب درباره منشأ محتوای تولید شده با AI منع میکند.
سامانههای تشخیص و اجرای ما از سال ۲۰۲۴ همچنان بهبود یافتهاند. ما سیاستها را با وجود محافظتهای حریم خصوصی و فرآیندهای بازبینی روشن پایش و اجراء میکنیم. و زمانی اقدام میکنیم که کسی تلاش کند از ابزارهای ما برای دخالت در فرآیند انتخابات، دلسرد کردن مشارکت یا گمراه کردن مردم درباره منشأ محتوای تولید شده با AI استفاده کند، از جمله بهعنوان بخشی از فعالیت فریبکارانه هماهنگ. وقتی سوء استفاده را شناسایی میکنیم، اقدام اجرایی انجام میدهیم، از جمله محدود یا قطع کردن دسترسی به خدماتمان.
تیمهای اطلاعات و تحقیقات، ایمنی، امنیت و یکپارچگی ما برای تشخیص الگوهای سوء استفاده و بررسی تلاشها برای استفاده از ابزارهای ما در سوء استفاده فریبکارانه یا مرتبط با انتخابات، از جمله عملیات نفوذ پنهانی، کار میکنند. از فوریه ۲۰۲۴، ما بهطور منظم گزارشهایی را با یافتههای خود منتشر کردهایم و به این کار ادامه خواهیم داد.
در حالی که عموم مردم، سیاستگذاران، کارزارها و شرکتها برای تدوین هنجارهای استفاده از AI در سیاست تلاش میکنند، ما همچنان استفاده از محصولاتمان را برای ایجاد یا توزیع پیامرسانی کارزاری در مقیاس بزرگ به نفع یا علیه یک نامزد، حزب سیاسی یا طرح رأیگیری ممنوع میکنیم. با این حال معتقدیم کارزارهای سیاسی باید بتوانند از ابزارهای ما برای کار مسئولانه و تحت هدایت انسان استفاده کنند؛ مانند تهیه پیشنویس گزارشهای داخلی، برنامهریزی، نگارش روزمره، کار ترجمه، انطباق و وظایف اداری. این موارد استفاده طبق سیاستهای استفاده ما مجاز هستند.
ابزارهای AI فرصتهای واقعی برای افراد فراهم میکنند تا دیگران را به شیوههای تازه درگیر کنند؛ شیوههایی که با گسترش دسترسی در میان زبانها، سطوح آموزشی و پیشینهها، جوامع مدنی را گسترش و تعمیق میدهد. ما باور داریم مهم است که افراد بتوانند از سامانههای AI برای یادگیری، کاوش و بحث درباره مسائل سیاسی استفاده کنند، و ضمن پرهیز از سوءاستفاده عاملان بد، به فراهم کردن این امکان ادامه خواهیم داد.
در راستای قواعد ما برای جلوگیری از استفاده گسترده از خدمات در حمایت از کارزارهای انتخاباتی، در این دوره انتخاباتی اجازه انتشار تبلیغات سیاسی در پلتفرم خود را نخواهیم داد. میتوانید در این مطلب دربارهی رویکرد ما به تبلیغات در ChatGPT بیشتر بخوانید.
میدانیم افراد فقط برای امور اجرایی انتخابات به ChatGPT مراجعه نمیکنند. آنها از ChatGPT برای کاوش ایدهها، آزمودن استدلالها و بهدست آوردن درک بیشتر از مسائلی که برایشان مهم است استفاده میکنند. به همین دلیل متعهدیم با سوء گیری سیاسی در شیوه پاسخگویی ChatGPT به پرسشها مقابله کنیم.
اصل «جستوجوی حقیقت با یکدیگر»(در یک پنجره جدید باز میشود) در «جزئیات مدل» ما، بیانگر تعهد ما به این است که ChatGPT بهطور پیشفرض عینی و بیطرف بماند و اختیار در دست کاربر باشد؛ از جمله زمانی که کاربران درباره موضوعات سیاسی گفتوگو میکنند. ChatGPT ابزاری است که به افراد امکان میدهد ایدههای مهم و پیچیده را بررسی کنند و دیدگاه خود را درباره مسائل مختلف شکل دهند. از همین رو، مدل بهگونهای طراحی شده است که از رفتارهایی که میتوانند تفکر کاربران را بازیچه قرار دهد یا با پنهان کردن واقعیتها یا دیدگاههای مرتبط، او را به سمتی خاص سوق دهند، پرهیز کند. پاییز گذشته، ارزیابی جدیدی برای سنجش سوگیری سیاسی معرفی کردیم که از آن برای بررسی توانایی مدلهایمان در حفظ عینیت استفاده میکنیم. این تلاش مهم، OpenAI را به یکی از پیشگامان ارزیابی سوگیری سیاسی تبدیل کرده است؛ ارزیابیهایی که نحوه پاسخ مدلها به موضوعات سیاسی را میسنجند.
ما همچنان از شرکای خود میآموزیم، تمهیدات حفاظتیمان را بهروزرسانی میکنیم و رویکرد خود را با شرایط جدید تطبیق میدهیم. هدف ما این است که به مردم کمک کنیم آزادانه در انتخابات مشارکت کنند و خودشان تصمیم بگیرند؛ با تکیه بر اطلاعات قابلاعتماد، شفافیت و سازوکارهای حفاظتی مؤثر.همچنان در پی آن هستیم که راههای حمایت از کاربران، جامعه مدنی و رأیدهندگان را، در جریان مشارکت آنها در انتخابات امسال و سالهای آینده، بیش از پیش گسترش و تقویت کنیم.
