OpenAI API

ہم OpenAI کے تیار کردہ نئے AI ماڈلز تک رسائی کے لیے ایک API جاری کر رہے ہیں۔ زیادہ تر AI سسٹمز کے برعکس جو کسی ایک استعمال کے معاملے کے لیے ڈیزائن کیے گئے ہیں، API آج ایک عمومی مقصد کا "ٹیکسٹ ان، ٹیکسٹ آؤٹ" انٹرفیس فراہم کرتا ہے، جس سے صارفین اسے انگریزی زبان کے تقریباً کسی بھی ٹاسک پر آزما سکتے ہیں۔ اب آپ API کو اپنی پروڈکٹ میں ضم کرنے، ایک مکمل طور پر نئی ایپلیکیشن تیار کرنے، یا اس ٹیکنالوجی کی طاقتوں اور حدود کو دریافت کرنے میں ہماری مدد کرنے کے لیے رسائی کی درخواست کر سکتے ہیں۔

کسی بھی متن کی پرامپٹ کو دیکھتے ہوئے، API آپ کے دیئے گئے پیٹرن سے مماثل ہونے کی کوشش کرتے ہوئے، متن کی تکمیل واپس کر دے گا۔ آپ اسے صرف چند مثالیں دکھا کر اسے 'پروگرام' کر سکتے ہیں کہ آپ اسے کیا کرنا چاہتے ہیں؛ اس کی کامیابی عام طور پر اس بات پر منحصر ہوتی ہے کہ ٹاسک کتنا پیچیدہ ہے۔ API آپ کو آپ کی فراہم کردہ مثالوں کے ڈیٹاسیٹ (چھوٹے یا بڑے) پر تربیت دے کر، یا صارفین یا لیبلرز کی فراہم کردہ انسانی فیڈ بیک سے سیکھ کر مخصوص ٹاسک پر کارکردگی کو بہتر بنانے کی بھی اجازت دیتا ہے۔

ہم نے API کو کسی کے بھی استعمال کے لیے سادہ بنایا ہے لیکن مشین لرننگ ٹیموں کو مزید نتیجہ خیز بنانے کے لیے کافی لچکدار بھی بنایا ہے۔ درحقیقت، ہماری بہت سی ٹیمیں اب API کا استعمال کر رہی ہیں تاکہ وہ تقسیم شدہ نظام کے مسائل کے بجائے مشین لرننگ تحقیق پر توجہ مرکوز کر سکیں۔ آج API بہت ساری رفتار اور تھرو پٹ بہتری کے ساتھ GPT‑3⁠(نئی ونڈو میں کھلتا ہے) فیملی سے وزن کے ساتھ ماڈل چلاتا ہے۔ مشین لرننگ بہت تیزی سے آگے بڑھ رہی ہےش اور ہم اپنی ٹیکنالوجی کو مستقل طور پر اپ گریڈ کر رہے ہیں تاکہ ہمارے صارفین اپ ٹو ڈیٹ رہیں۔

فیلڈ کی ترقی کی رفتار کا مطلب یہ ہے کہ AI کی اکثر حیران کن نئی ایپلیکیشنز ہوتی ہیں، مثبت اور منفی دونوں۔ ہم واضح طور پر نقصان دہ استعمال کے معاملات، جیسے کہ ہراساں کرنا، اسپام بھیجنا، بنیاد پرستی، یا آسٹروٹرفنگ کے لیے API تک رسائی کو ختم کر دیں گے۔ لیکن ہم یہ بھی جانتے ہیں کہ ہم اس ٹیکنالوجی کے تمام ممکنہ نتائج کی پیش گوئی نہیں کر سکتے، اس لیے ہم آج عام دستیابی کے بجائے ایک نجی بیٹا میں لانچ کر رہے ہیں، صارفین کو ہمارے API کے مواد کو بہتر طریقے سے کنٹرول کرنے میں مدد کرنے کے لیے ٹولز تیار کر رہے ہیں، اور زبان کی ٹیکنالوجی کے حفاظتی متعلقہ پہلوؤں پر تحقیق کر رہے ہیں (جیسا کہ تجزیہ کرنا، تخفیف کرنا، اور نقصان دہ تعصب پر مداخلت)۔ ہم جو کچھ سیکھتے ہیں اس کا اشتراک کریں گے تاکہ ہمارے صارفین اور وسیع تر کمیونٹی مزید انسان دوست AI سسٹم بنا سکیں۔

آمدنی کا ذریعہ ہونے کے علاوہ جو ہمیں اخراجات پورا کرنے⁠ میں مدد کرتا ہے ہمارے مشن⁠ کے تعاقب میں، API نے ہمیں عام مقصد کی AI ٹیکنالوجی پر اپنی توجہ کو تیز کرنے پر مجبور کیا ہے—ٹیکنالوجی کو آگے بڑھانا، اسے قابل استعمال بنانا، اور حقیقی دنیا میں اس کے اثرات پر غور کرنا۔ ہمیں امید ہے کہ API فائدہ مند AI سے چلنے والی مصنوعات تیار کرنے کی راہ میں رکاوٹ⁠(نئی ونڈو میں کھلتا ہے) کو بہت حد تک کم کر دے گا، جس کے نتیجے میں ایسے ٹولز اور خدمات حاصل ہوں گی جن کا آج تصور کرنا مشکل ہے۔

API کو دریافت کرنے میں دلچسپی ہے؟ ہمارے پرائیویٹ بیٹا⁠(نئی ونڈو میں کھلتا ہے) میں  Algolia⁠(نئی ونڈو میں کھلتا ہے)، Quizlet⁠(نئی ونڈو میں کھلتا ہے)، اور Reddit⁠(نئی ونڈو میں کھلتا ہے)، جیسی کمپنیوں اور مڈلبری انسٹی ٹیوٹ⁠(نئی ونڈو میں کھلتا ہے) جیسے اداروں کے محققین میں شامل ہو جائیں۔

بالآخر، جس چیز کی ہمیں سب سے زیادہ فکر ہے⁠ وہ یہ یقینی بنانا ہے کہ مصنوعی عمومی ذہانت سب کو فائدہ پہنچایا جائے۔ ہم تجارتی مصنوعات کی ترقی کو ان طریقوں میں سے ایک کے طور پر دیکھتے ہیں جو یہ یقینی بناتے ہیں کہ ہمارے پاس کامیابی کے لیے خاطر خواہ فنڈنگ ہو۔

ہم یہ بھی یقین رکھتے ہیں کہ دنیا میں طاقتور AI سسٹمز کو محفوظ طریقے سے تعینات کرنا درست طریقے سے انجام دینا مشکل ہو گا۔ API کو جاری کرتے وقت، ہم اپنے شراکت داروں کے ساتھ قریبی تعاون کر رہے ہیں تاکہ یہ جان سکیں کہ جب AI سسٹمز کو حقیقی دنیا میں استعمال کیا جاتا ہے تو کون سے چیلنجز سامنے آتے ہیں۔ یہ ہماری کوششوں کی رہنمائی کرے گا کہ مستقبل کے AI سسٹمز کی تعیناتی کیسے ہوگی، اور ہمیں یہ یقینی بنانے کے لیے کیا کرنا چاہیے کہ وہ سب کے لیے محفوظ اور فائدہ مند ہوں۔

ہمارے ایسا کرنے کی تین اہم وجوہات ہیں۔ سب سے پہلے، ٹیکنالوجی کو تجارتی بنانا ہماری جاری AI تحقیق، حفاظت، اور پالیسی کی کوششوں کے لیے ادائیگی میں ہماری مدد کرتا ہے۔

دوسرا، API کے تحت بہت سے ماڈلز بہت بڑے ہیں، جنہیں تیار اور تعینات کرنے کے لیے کافی مہارت درکار ہوتی ہے اور انہیں چلانا بہت مہنگا ہوتا ہے۔ یہ بڑی کمپنیوں کے علاوہ کسی کے لیے بھی بنیادی ٹیکنالوجی سے فائدہ اٹھانا مشکل بنا دیتا ہے۔ ہمیں امید ہے کہ API طاقتور AI سسٹمز کو چھوٹے کاروباروں اور تنظیموں کے لیے زیادہ قابل رسائی بنائے گا۔

تیسرا، API ماڈل ہمیں ٹیکنالوجی کے غلط استعمال پر زیادہ آسانی سے جواب دینے کی اجازت دیتا ہے۔ چونکہ ہمارے ماڈلز کے ڈاؤن اسٹریم استعمال کے کیسز کی پیش گوئی کرنا مشکل ہے، اس لیے انہیں API کے ذریعے جاری کرنا اور وقت کے ساتھ رسائی کو وسیع کرنا فطری طور پر زیادہ محفوظ محسوس ہوتا ہے، اس کے بجائے کہ اوپن سورس ماڈل جاری کیا جائے جہاں نقصان دہ ایپلیکیشنز کی صورت میں رسائی کو ایڈجسٹ نہیں کیا  جا سکتا۔

GPT‑2 کے ساتھ، ہمارے اہم خدشات میں سے ایک ماڈل کا بدنیتی پر مبنی استعمال تھا (مثال کے طور پر، غلط معلومات کے لیے)، جسے روکنا مشکل ہوتا ہے حب ایک بار ماڈل اوپن سورس ہو جاتا ہے۔ API کے لیے، ہم منظورکریں صارفین اور استعمال کے کیسز تک رسائی کو محدود کر کے غلط استعمال کو بہتر طریقے سے روکنے کے قابل ہیں۔ مجوزہ ایپلیکیشنز کے لائیو ہونے سے پہلے ہمارے پاس پروڈکشن کا جائزہ لینے کا ایک لازمی عمل کار موجود ہے۔ پروڈکشن کے جائزوں میں، ہم چند محوروں پر ایپلیکیشنز کا جائزہ لیتے ہیں، اس طرح کے سوالات پوچھتے ہیں: کیا یہ فی الحال تعاون یافتہ استعمال کا معاملہ ہے؟، ایپلیکیشن کتنی اوپن اینڈڈ ہے؟، ایپلیکیشن کتنی خطرناک ہے؟، آپ ممکنہ غلط استعمال سے نمٹنے کا پلان کیسے بناتے ہیں؟، اور آپ کی ایپلیکیشن کے حتمی صارفین  کون ہیں؟۔

ہم ان استعمال کے معاملات کے لیے API رسائی ختم کر دیتے ہیں جو لوگوں کو جسمانی، جذباتی، یا نفسیاتی نقصان پہنچانے کے لیے پائے جاتے ہیں یا ان کا ارادہ رکھتے ہیں، جیسے کہ ہراساں کرنا، جان بوجھ کر دھوکہ دہی، بنیاد پرستی، آسٹروٹرفنگ، یا اسپام، اور وہ ایپلیکیشنز جن میں حتمی صارفین کے غلط استعمال کو محدود کرنے کے لیے ناکافی حفاظتی اقدامات ہیں۔ جیسے جیسے ہم عملی طور پر API کو چلانے کا زیادہ تجربہ حاصل کرتے ہیں، ہم ان استعمال کی اقسام کو مستقل طور پر بہتر بنائیں گے جن کی ہم سپورٹ کرنے کے قابل ہیں، تاکہ ہم ان ایپلیکیشنز کی حد میں وسعت لا سکیں جن کو ہم سپورٹ کر سکتے ہیں، اور ان لوگوں کے لیے زیادہ تفصیلی زمرے بنائیں جن کے بارے میں ہمیں غلط استعمال کے خدشات  ہیں۔

API کے استعمال کی منظوری میں ایک اہم عنصر جس پر ہم غور کرتے ہیں، وہ یہ ہے کہ کوئی ایپلیکیشن سسٹم کی بنیادی تخلیقی صلاحیتوں کے حوالے سے کھلے عام یا محدود رویے کی کس حد تک نمائش کرتی ہے۔ API کی اوپن اینڈڈ ایپلیکیشنز (یعنی وہ جو پرامپٹ کے ذریعے بڑی مقدار میں حسب ضرورت متن کی رکاوٹ کے بغیر تخلیق کو فعال کرتی ہیں) خاص طور پر غلط استعمال کا شکار ہوتی ہیں۔ جنریٹو استعمال کے کیسز کو محفوظ بنانے کے لیے رکاوٹوں میں وہ سسٹم ڈیزائن شامل ہیں جو انسان کو عمل میں شامل رکھتا ہے، آخری صارف کی رسائی کی پابندیاں، آؤٹ پٹ کی پوسٹ پروسیسنگ، مواد کی فلٹریشن، ان پٹ/آؤٹ پٹ کی لمبائی کی حدود، فعال نگرانی، اور موضوعاتی حدود۔

ہم API کے ذریعے فراہم کردہ ماڈلز کے ممکنہ غلط استعمال پر تحقیق جاری رکھے ہوئے ہیں، بشمول ہمارے اکیڈمک ایکسیس پروگرام⁠(نئی ونڈو میں کھلتا ہے) کے تحت تیسری پارٹی کے محققین کے ساتھ۔ ہم اس وقت بہت محدود تعداد میں محققین کے ساتھ شروعات کر رہے ہیں اور ہمارے تعلیمی شراکت داروں مڈلبیوری انسٹیٹیوٹ⁠(نئی ونڈو میں کھلتا ہے)، یونیورسٹی آف واشنگٹن، اور ایلن انسٹی ٹیوٹ برائے AI⁠(نئی ونڈو میں کھلتا ہے) سے کچھ نتائج پہلے ہی موجود ہیں۔ ہمارے پاس اس پروگرام کے لیے دسیوں ہزار ایپلیکیشن دہندگان پہلے ہی موجود ہیں اور ہم فی الحال انصاف اور نمائندگی کی تحقیق پر مرکوز ایپلیکیشنز کو ترجیح دے رہے ہیں۔

نقصان دہ تعصب جیسے منفی اثرات کو کم کرنا ایک مشکل، صنعت بھر کا مسئلہ ہے جو انتہائی اہمیت کا حامل ہے۔ جیسا کہ ہم GPT‑3 پیپر⁠(نئی ونڈو میں کھلتا ہے) اور ماڈل کارڈ⁠(نئی ونڈو میں کھلتا ہے) میں مباحثہ کرتے ہیں، ہمارے API ماڈلز ایسے تعصبات کی نمائش کرتے ہیں جس کی پیدا کردہ متن میں عکاسی ہو گی۔ ان مسائل کو حل کرنے کے لیے ہم جو اقدامات کر رہے ہیں وہ درج ذیل ہیں:

• ہم نے استعمال کے رہنما اصول تیار کیے ہیں جو ڈویلپرز کو ممکنہ حفاظتی مسائل کو سمجھنے اور حل کرنے میں مدد  دیتے ہیں۔
• ہم صارفین کے ساتھ ان کے استعمال کے معاملات کو سمجھنے اور نقصان دہ تعصب کو کم کرنے کے لیے وسائل تیار کرنے اور مداخلت کرنے کے لیے ان کے ساتھ مل کر کام کر رہے ہیں۔
• ہم نقصان دہ تعصب کے مظاہر اور انصاف پسندی اور نمائندگی میں وسیع تر مسائل کے بارے میں اپنی تحقیق کر رہے ہیں، جو موجودہ ماڈلز کی بہتر دستاویزات کے ساتھ ساتھ مستقبل کے ماڈلز میں مختلف اصلاحات کی مدد سے ہمارے کام کو بہتر بنانے میں مدد کرے گی۔
• ہم تسلیم کرتے ہیں کہ تعصب ایک ایسا مسئلہ ہے جو کسی نظام اور تعینات سیاق و سباق کے چوراہے پر ظاہر ہوتا ہے؛ ہماری ٹیکنالوجی کے ساتھ تیار کردہ ایپلیکیشنز سماجی تکنیکی نظام ہیں، اس لیے ہم اپنے ڈویلپرز کے ساتھ مل کر کام کرتے ہیں تاکہ یہ یقینی بنایا جا سکے کہ وہ منفی رویوں کی نگرانی کے لیے مناسب عمل اور انسانی شمولیت کے نظام مقرر کر رہے ہیں۔

ہمارا مقصد یہ ہے کہ استعمال کے ہر سیاق و سباق میں API کے ممکنہ نقصانات کے بارے میں اپنی فہم کو بڑھانا جاری رکھیں، اور ان میں کمی لانے میں مدد کے لیے اپنے ٹولز اور عمل کو مسلسل بہتر بناتے رہیں۔

18 ستمبر 2020 کو اپ ڈیٹ کیا