പ്രധാന ഉള്ളടക്കത്തിലേക്ക് നീങ്ങുക
OpenAI

2020 ജൂൺ 11

Product

OpenAI API

OpenAI വികസിപ്പിച്ച പുതിയ AI മോഡലുകൾ ആക്‌സസ് ചെയ്യുന്നതിനായി ഒരു API ഞങ്ങൾ പുറത്തിറക്കുന്നു.

OpenAI API
ലോഡിംഗ്…

OpenAI വികസിപ്പിച്ച പുതിയ AI മോഡലുകൾ ആക്‌സസ് ചെയ്യുന്നതിനുള്ള ഒരു API ഞങ്ങൾ പുറത്തിറക്കുന്നു. മിക്ക AI സിസ്റ്റങ്ങൾ ഒരു പ്രത്യേക ഉപയോഗത്തിനായി രൂപകൽപ്പന ചെയ്തിരിക്കുന്നതിനാൽ വ്യത്യസ്തമായി, API ഇന്ന് ഒരു പൊതുവായ “ടെക്സ്റ്റ് ഇൻ, ടെക്സ്റ്റ് ഔട്ട്” ഇന്റർഫേസ് നൽകുന്നു, ഇത് ഉപയോക്താക്കൾക്ക് ഏതെങ്കിലും ഇംഗ്ലീഷ് ഭാഷാ ടാസ്കുകളിൽ പരീക്ഷിക്കാൻ അനുവദിക്കുന്നു. നിങ്ങളുടെ ഉൽപ്പന്നത്തിൽ API സംയോജിപ്പിക്കുന്നതിനോ, പൂർണ്ണമായും പുതിയൊരു ആപ്ലിക്കേഷൻ വികസിപ്പിക്കുന്നതിനോ, അല്ലെങ്കിൽ ഈ സാങ്കേതികവിദ്യയുടെ ശക്തിയും പരിധികളും കണ്ടെത്താൻ ഞങ്ങളെ സഹായിക്കുന്നതിനോ ഇപ്പോൾ താങ്കൾക്ക് ആക്‌സസ് അഭ്യർത്ഥിക്കാം.

ലോഡിംഗ്...

ഏതെങ്കിലും ടെക്സ്റ്റ് പ്രോംപ്റ്റ് നൽകിയാൽ, നിങ്ങൾ നൽകിയ പാറ്റേണുമായി പൊരുത്തപ്പെടാൻ ശ്രമിച്ച് API ഒരു ടെക്സ്റ്റ് പൂർത്തീകരണം നൽകും. നിങ്ങൾക്ക് അത് എന്തുചെയ്യാൻ ആഗ്രഹിക്കുന്നുവെന്ന് കാണിക്കുന്ന ഏതാനും ഉദാഹരണങ്ങൾ ഉപയോഗിച്ച് നിങ്ങൾക്ക് അത് "പ്രോഗ്രാം" ചെയ്യാൻ കഴിയും; അതിന്റെ വിജയം സാധാരണയായി ടാസ്കിന്റെ സങ്കീർണ്ണതയെ ആശ്രയിച്ചിരിക്കുന്നു. നിങ്ങൾ നൽകുന്ന ഉദാഹരണങ്ങളുടെ ഒരു ഡാറ്റാസെറ്റിൽ (ചെറുതോ വലുതോ) പരിശീലനം നൽകുന്നതിലൂടെയോ അല്ലെങ്കിൽ ഉപയോക്താക്കൾ അല്ലെങ്കിൽ ലേബലർമാർ നൽകുന്ന മനുഷ്യ ഫീഡ്ബാക്കിൽ നിന്ന് പഠിക്കുന്നതിലൂടെയോ നിർദ്ദിഷ്ട ടാസ്കുകളിലെ പ്രകടനം മെച്ചപ്പെടുത്താൻ API നിങ്ങളെ അനുവദിക്കുന്നു.

ആർക്കും ഉപയോഗിക്കാൻ കഴിയുന്ന തരത്തിൽ ലളിതവും, എന്നാൽ മെഷീൻ ലേണിംഗ് ടീം-കൾ കൂടുതൽ ഉൽപ്പാദനക്ഷമമാക്കാൻ തക്കവിധം വഴക്കമുള്ളതുമായ രീതിയിൽ ഞങ്ങൾ API രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു. വാസ്തവത്തിൽ, ഞങ്ങളുടെ പല ടീമുകളും ഇപ്പോൾ API ഉപയോഗിക്കുന്നു, അതുവഴി അവർക്ക് വിതരണം ചെയ്ത സിസ്റ്റം പ്രശ്നങ്ങളേക്കാൾ മെഷീൻ ലേണിംഗ് ഗവേഷണത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കാൻ കഴിയും. ഇന്ന് API GPT‑3(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) കുടുംബത്തിലെ ഭാരമുള്ള മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നു, വേഗതയിലും കാര്യക്ഷമതയിലും നിരവധി മെച്ചപ്പെടുത്തലുകൾ ഉണ്ട്. മെഷീൻ ലേണിംഗ് വളരെ വേഗത്തിൽ പുരോഗമിക്കുന്നു, അതിനാൽ ഞങ്ങളുടെ ഉപയോക്താക്കൾ കാലികമായി തുടരാൻ ഞങ്ങൾ നിരന്തരം ഞങ്ങളുടെ സാങ്കേതികവിദ്യ അപ്‌ഗ്രേഡ് ചെയ്യുന്നു.

ലോഡിംഗ്...

ഈ മേഖലയുടെ പുരോഗതിയുടെ വേഗത കാരണം, പോസിറ്റീവും നെഗറ്റീവുമായ AI ന്റെ പുതിയ ആപ്ലിക്കേഷനുകൾ പതിവായി ആശ്ചര്യപ്പെടുത്തുന്നു. ഉപദ്രവം, സ്പാം, റാഡിക്കലൈസേഷൻ അല്ലെങ്കിൽ ആസ്ട്രോടർഫിംഗ് പോലുള്ള വ്യക്തമായ ഹാനികരമായ ഉപയോഗ കേസുകൾക്കായി API ആക്‌സസ് ഞങ്ങൾ അവസാനിപ്പിക്കും. എന്നാൽ ഈ സാങ്കേതികവിദ്യയുടെ എല്ലാ സാധ്യതയുള്ള അനന്തരഫലങ്ങളും മുൻകൂട്ടി കാണാൻ കഴിയില്ലെന്ന് ഞങ്ങൾക്കറിയാം, അതിനാൽ ഇന്ന് പൊതുവായ ലഭ്യതയ്ക്ക് പകരം ഒരു സ്വകാര്യ ബീറ്റയിൽ ഞങ്ങൾ സമാരംഭിക്കുന്നു, ഉപയോക്താക്കൾക്ക് ഞങ്ങളുടെ API നൽകുന്ന ഉള്ളടക്കം കൂടുതൽ നിയന്ത്രിക്കാൻ സഹായിക്കുന്ന ഉപകരണങ്ങൾ നിർമ്മിക്കുന്നു, ദോഷകരമായ പക്ഷപാതം പോലുള്ള സുരക്ഷാ-പ്രസക്തമായ ഭാഷാ സാങ്കേതികവിദ്യയുടെ വശങ്ങൾ (വിശകലനം, ലഘൂകരണം, ഇടപെടൽ എന്നിവ) ഗവേഷണം ചെയ്യുന്നു. ഞങ്ങൾ പഠിക്കുന്ന കാര്യങ്ങൾ ഞങ്ങളുടെ ഉപയോക്താക്കൾക്കും വിശാലമായ സമൂഹത്തിനും കൂടുതൽ മനുഷ്യ-സൗഹൃദ AI സംവിധാനങ്ങൾ നിർമ്മിക്കാൻ കഴിയുന്ന തരത്തിൽ പങ്കുവെക്കും.

ലോഡിംഗ്...

ഞങ്ങളുടെ ദൗത്യം നിറവേറ്റുന്നതിനുള്ള ചെലവുകൾ വഹിക്കാൻ സഹായിക്കുന്ന ഒരു വരുമാന സ്രോതസ്സ് എന്നതിലുപരി, API പൊതു-ഉദ്ദേശ്യ AI സാങ്കേതികവിദ്യയിൽ ഞങ്ങളുടെ ശ്രദ്ധ കൂടുതൽ മുറുകെപ്പിടിക്കാൻ ഞങ്ങളെ പ്രേരിപ്പിച്ചു - സാങ്കേതികവിദ്യയെ മുന്നോട്ട് കൊണ്ടുപോകുക, അത് ഉപയോഗയോഗ്യമാക്കുക,യഥാർത്ഥ ലോകത്തിൽ അതിന്റെ സ്വാധീനങ്ങൾ പരിഗണിക്കുക. API പ്രയോജനകരമായ AI-അധിഷ്ഠിത ഉൽപ്പന്നങ്ങൾ നിർമ്മിക്കുന്നതിനുള്ള തടസ്സം(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) വളരെയധികം കുറയ്ക്കുമെന്ന് ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു, ഇത് ഇന്ന് സങ്കൽപ്പിക്കാൻ പോലും പ്രയാസമുള്ള ഉപകരണങ്ങളും സേവനങ്ങളും സൃഷ്ടിക്കുന്നതിന് കാരണമാകും.

API കണ്ടെത്തുന്നതിൽ താൽപ്പര്യമുണ്ടോ? Algolia(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), Quizlet(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), Reddit(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പോലുള്ള കമ്പനികളുമായും Middlebury Institute(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പോലുള്ള സ്ഥാപനങ്ങളിലെ ഗവേഷകരുമായും ഞങ്ങളുടെ സ്വകാര്യ ബീറ്റയിൽ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ചേരുക.

ലോഡിംഗ്...

പതിവായി ചോദിക്കുന്ന ചോദ്യങ്ങൾ

എന്തുകൊണ്ടാണ് OpenAI ഒരു വാണിജ്യ ഉൽപ്പന്നം പുറത്തിറക്കാൻ തീരുമാനിച്ചതെന്ന് നിങ്ങൾക്ക് അറിയാമോ?

ആത്യന്തികമായി, ഞങ്ങൾ ഏറ്റവും കൂടുതൽ ശ്രദ്ധിക്കുന്നത് ആർട്ടിഫിഷ്യൽ ജനറൽ ഇന്റലിജൻസ് എല്ലാവർക്കും പ്രയോജനകരമാണെന്ന് ഉറപ്പാക്കുക എന്നതാണ്. നമുക്ക് വിജയിക്കാൻ ആവശ്യമായ ഫണ്ട് ഉറപ്പാക്കാൻ വാണിജ്യ ഉൽപ്പന്നങ്ങൾ വികസിപ്പിക്കുന്നത് ഒരു മാർഗമായി കാണുന്നു.

ലോകത്ത് ശക്തമായ AI സംവിധാനങ്ങൾ സുരക്ഷിതമായി വിന്യസിക്കുന്നത് ശരിയാക്കാൻ ബുദ്ധിമുട്ടായിരിക്കുമെന്നും ഞങ്ങൾ വിശ്വസിക്കുന്നു. API പുറത്തിറക്കുമ്പോൾ, യഥാർത്ഥ ലോകത്ത് AI സിസ്റ്റങ്ങൾ ഉപയോഗിക്കുമ്പോൾ എന്തെല്ലാം വെല്ലുവിളികൾ ഉയരുന്നുവെന്ന് കാണാൻ ഞങ്ങൾ ഞങ്ങളുടെ പങ്കാളികളുമായി അടുത്ത് പ്രവർത്തിക്കുന്നു. ഭാവിയിലെ AI സിസ്റ്റങ്ങളുടെ വിന്യാസം എങ്ങനെ Go ചെയ്യും എന്നും അവ എല്ലാവർക്കും സുരക്ഷിതവും പ്രയോജനകരവുമാണെന്ന് ഉറപ്പാക്കാൻ നമ്മൾ എന്തുചെയ്യണമെന്നും മനസ്സിലാക്കുന്നതിനുള്ള ഞങ്ങളുടെ ശ്രമങ്ങളെ ഇത് സഹായിക്കും.

OpenAI മോഡലുകൾ ഓപ്പൺ സോഴ്സ് ചെയ്യുന്നതിനുപകരം API പുറത്തിറക്കാൻ എന്തുകൊണ്ട് തിരഞ്ഞെടുത്തു?

ഞങ്ങൾ ഇത് ചെയ്തതിന് മൂന്ന് പ്രധാന ചിന്തകളുണ്ട്. ആദ്യം, സാങ്കേതികവിദ്യ വാണിജ്യവൽക്കരിക്കുന്നത് നടന്നുകൊണ്ടിരിക്കുന്ന AI ഗവേഷണം, സുരക്ഷ, നയ ശ്രമങ്ങൾ എന്നിവയ്ക്ക് പണം നൽകാൻ സഹായിക്കുന്നു.

രണ്ടാമതായി, API-ന് അടിസ്ഥാനമായിരിക്കുന്ന പല മോഡലുകളും വളരെ വലുതാണ്, അവ വികസിപ്പിക്കാനും വിന്യസിക്കാനും ധാരാളം വൈദഗ്ദ്ധ്യം ആവശ്യമാണ്, കൂടാതെ അവ പ്രവർത്തിപ്പിക്കാൻ വളരെ ചെലവേറിയതുമാണ്. ഇത് വലിയ കമ്പനികൾ ഒഴികെയുള്ള ആർക്കും അടിസ്ഥാന സാങ്കേതികവിദ്യയിൽ നിന്ന് പ്രയോജനം നേടാൻ ബുദ്ധിമുട്ടുണ്ടാക്കുന്നു. ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നത് API ചെറുകിട ബിസിനസുകൾക്കും സ്ഥാപനങ്ങൾക്കും ശക്തമായ AI സിസ്റ്റങ്ങൾ കൂടുതൽ ആക്‌സസ് ചെയ്യാൻ സഹായിക്കും.

മൂന്നാമതായി, സാങ്കേതികവിദ്യയുടെ ദുരുപയോഗത്തിനെതിരെ കൂടുതൽ എളുപ്പത്തിൽ പ്രതികരിക്കാൻ API മോഡൽ ഞങ്ങളെ അനുവദിക്കുന്നു. ഞങ്ങളുടെ മോഡലുകളുടെ ഡൗൺസ്ട്രീം ഉപയോഗ കേസുകൾ പ്രവചിക്കാൻ പ്രയാസമുള്ളതിനാൽ, ദോഷകരമായ ആപ്ലിക്കേഷനുകൾ ഉണ്ടെങ്കിൽ ആക്സസ് ക്രമീകരിക്കാൻ കഴിയാത്ത ഒരു ഓപ്പൺ സോഴ്സ് മോഡൽ പുറത്തിറക്കുന്നതിനുപകരം, API വഴി അവ പുറത്തിറക്കുകയും കാലക്രമേണ ആക്സസ് വിപുലീകരിക്കുകയും ചെയ്യുന്നത് സ്വാഭാവികമായി സുരക്ഷിതമാണെന്ന് തോന്നുന്നു.

GPT-2 നെക്കുറിച്ച് നിങ്ങൾ മുമ്പ് പറഞ്ഞ കാര്യങ്ങൾ കണക്കിലെടുക്കുമ്പോൾ, API-യുടെ ദുരുപയോഗത്തെക്കുറിച്ച് OpenAI പ്രത്യേകമായി എന്തുചെയ്യും?

GPT‑2 ഉപയോഗിച്ച്, ഞങ്ങളുടെ പ്രധാന ആശങ്കകളിലൊന്ന് മോഡലിന്റെ ദുഷ്പ്രയോജനമായിരുന്നു (ഉദാഹരണത്തിന്, തെറ്റായ വിവരങ്ങൾക്കായി), ഒരു മോഡൽ ഓപ്പൺ സോഴ്സ് ചെയ്തുകഴിഞ്ഞാൽ അത് തടയാൻ പ്രയാസമാണ്. API-നു വേണ്ടി, അംഗീകരിച്ച ഉപഭോക്താക്കളുടെയും ഉപയോഗ കേസുകളുടെയും ആക്‌സസ് പരിമിതപ്പെടുത്തുന്നതിലൂടെ ദുരുപയോഗം നന്നായി തടയാൻ ഞങ്ങൾക്ക് കഴിയും. നിർദ്ദേശിക്കപ്പെട്ട ആപ്ലിക്കേഷനുകൾ പ്രവർത്തനക്ഷമമാകുന്നതിന് മുമ്പ് ഞങ്ങൾക്ക് നിർബന്ധമായ പ്രൊഡക്ഷൻ അവലോകന പ്രക്രിയയുണ്ട്. പ്രൊഡക്ഷൻ അവലോകനങ്ങളിൽ, ഞങ്ങൾ ആപ്ലിക്കേഷനുകളെ ചില അക്ഷങ്ങളിലുടനീളം വിലയിരുത്തുന്നു, ഇനിപ്പറയുന്ന ചോദ്യങ്ങൾ ചോദിക്കുന്നു: ഇത് നിലവിൽ പിന്തുണയ്ക്കുന്ന ഒരു ഉപയോഗ കേസാണോ?, ആപ്ലിക്കേഷൻ എത്രത്തോളം തുറന്നതാണ്?, ആപ്ലിക്കേഷൻ എത്രത്തോളം അപകടകരമാണ്?, സാധ്യതയുള്ള ദുരുപയോഗം എങ്ങനെ പരിഹരിക്കാൻ നിങ്ങൾ പദ്ധതിയിടുന്നു?, നിങ്ങളുടെ ആപ്ലിക്കേഷന്റെ അന്തിമ ഉപയോക്താക്കൾ ആരാണ്?.

ആളുകൾക്ക് ശാരീരിക, മാനസിക, അല്ലെങ്കിൽ വികാരപരമായ ദോഷം വരുത്തുന്ന (അല്ലെങ്കിൽ ഉദ്ദേശിച്ചിട്ടുള്ള) ഉപയോഗ കേസുകൾ, ഉപദ്രവം, മനഃപൂർവമായ വഞ്ചന, റാഡിക്കലൈസേഷൻ, ആസ്ട്രോടർഫിംഗ്, സ്പാം എന്നിവ ഉൾപ്പെടെ, എന്നാൽ ഇവയിലൊന്നിൽ മാത്രം പരിമിതമായ, കൂടാതെ അന്തിമ ഉപയോക്താക്കളുടെ ദുരുപയോഗം നിയന്ത്രിക്കാൻ മതിയായ സുരക്ഷാ സംവിധാനങ്ങളില്ലാത്ത ആപ്ലിക്കേഷനുകൾക്കായി API ആക്‌സസ് അവസാനിപ്പിക്കുന്നു. പ്രായോഗികമായി API പ്രവർത്തിപ്പിക്കുന്നതിൽ കൂടുതൽ അനുഭവം നേടുമ്പോൾ, ഞങ്ങൾ പിന്തുണ നൽകുന്ന ഉപയോഗ വിഭാഗങ്ങളെ തുടർച്ചയായി പരിഷ്കരിക്കും, ഞങ്ങൾക്ക് പിന്തുണ നൽകാൻ കഴിയുന്ന ആപ്ലിക്കേഷനുകളുടെ ശ്രേണി വിപുലീകരിക്കുന്നതിനും ദുരുപയോഗത്തെക്കുറിച്ച് ആശങ്കയുള്ളവയ്ക്കായി കൂടുതൽ സൂക്ഷ്മമായ വിഭാഗങ്ങൾ സൃഷ്ടിക്കുന്നതിനും.

API ഉപയോഗങ്ങൾ അംഗീകരിക്കുന്നതിൽ ഞങ്ങൾ പരിഗണിക്കുന്ന ഒരു പ്രധാന ഘടകം, സിസ്റ്റത്തിന്റെ അടിസ്ഥാന ജനറേറ്റീവ് കഴിവുകളുമായി ബന്ധപ്പെട്ട് ഒരു ആപ്ലിക്കേഷൻ എത്രത്തോളം തുറന്ന സ്വഭാവവും നിയന്ത്രിത സ്വഭാവവും പ്രദർശിപ്പിക്കുന്നു എന്നതാണ്. API-യുടെ ഓപ്പൺ-എന്റഡ് ആപ്ലിക്കേഷനുകൾ (അഥവാ, അനിയന്ത്രിതമായ പ്രോംപ്റ്റുകൾ വഴി പ്രവർത്തന സജ്ജമാക്കുന്ന വിധത്തിൽ ഘർഷണമില്ലാത്ത വലിയ അളവിൽ ഇഷ്ടാനുസൃതമാക്കാവുന്ന ടെക്സ്റ്റുകൾ സൃഷ്ടിക്കുന്നവ) പ്രത്യേകിച്ച് ദുരുപയോഗത്തിന് സാധ്യതയുള്ളവയാണ്. ജനറേറ്റീവ് ഉപയോഗ കേസുകൾ കൂടുതൽ സുരക്ഷിതമാക്കാൻ കഴിയുന്ന നിയന്ത്രണങ്ങളിൽ ഒരു മനുഷ്യനെ ലൂപ്പിൽ നിലനിർത്തുന്ന സിസ്റ്റം ഡിസൈൻ, അന്തിമ ഉപയോക്തൃ ആക്സസ് നിയന്ത്രണങ്ങൾ, ഔട്ട്പുട്ടുകളുടെ പോസ്റ്റ്-പ്രോസസ്സിംഗ്, ഉള്ളടക്ക ഫിൽട്രേഷൻ, ഇൻപുട്ട്/ഔട്ട്പുട്ട് ദൈർഘ്യപരിമിതികൾ, സജീവ നിരീക്ഷണം, വിഷയപരമായ പരിമിതികൾ എന്നിവ ഉൾപ്പെടുന്നു.

API വഴി ലഭ്യമായ മോഡലുകളുടെ ദുരുപയോഗ സാധ്യതകളെക്കുറിച്ച് ഞങ്ങൾ ഗവേഷണം തുടരുന്നു, അതിൽ മൂന്നാം കക്ഷി ഗവേഷകരും ഞങ്ങളുടെ അക്കാദമിക് ആക്‌സസ് പ്രോഗ്രാം(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) വഴി പങ്കാളികളാണ്. ഇപ്പോൾ വളരെ പരിമിതമായ എണ്ണം ഗവേഷകരുമായിട്ടാണ് ഞങ്ങൾ ആരംഭിക്കുന്നത്, മിഡിൽബറി ഇൻസ്റ്റിറ്റ്യൂട്ട്(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), വാഷിംഗ്ടൺ സർവകലാശാല, അല്ലെൻ ഇൻസ്റ്റിറ്റ്യൂട്ട് ഫോർ എഐ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) എന്നിവിടങ്ങളിലെ ഞങ്ങളുടെ അക്കാദമിക് പങ്കാളികളിൽ നിന്ന് ഇതിനകം ചില ഫലങ്ങൾ ലഭിച്ചിട്ടുണ്ട്. ഈ പ്രോഗ്രാമിനായി ഞങ്ങൾക്ക് ഇതിനകം പതിനായിരക്കണക്കിന് ആപ്ലിക്കേഷനുകൾ ഉണ്ട്, നിലവിൽ നീതി, പ്രാതിനിധ്യ ഗവേഷണത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന ആപ്ലിക്കേഷനുകൾക്ക് മുൻഗണന നൽകുന്നു.

API വഴി നൽകുന്ന മോഡലുകളുടെ ദോഷകരമായ പക്ഷപാതവും മറ്റ് പ്രതികൂല ഫലങ്ങളും OpenAI എങ്ങനെ കുറയ്ക്കും?

ദോഷകരമായ പക്ഷപാതം പോലുള്ള നെഗറ്റീവ് ഇഫക്റ്റുകൾ ലഘൂകരിക്കുന്നത് വ്യവസായം മുഴുവൻ നേരിടുന്ന ബുദ്ധിമുട്ടുള്ളതും അത്യന്തം പ്രാധാന്യമുള്ളതുമായ ഒരു പ്രശ്നമാണ്. GPT‑3 പേപ്പറിൽ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) മോഡൽ കാർഡിൽ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഞങ്ങൾ ചർച്ച ചെയ്യുന്ന പോലെ, ഞങ്ങളുടെ API മോഡലുകൾ സൃഷ്ടിച്ച വാചകത്തിൽ പ്രതിഫലിക്കുന്ന പക്ഷപാതങ്ങൾ കാണിക്കുന്നു. ഈ പ്രശ്നങ്ങൾ പരിഹരിക്കുന്നതിന് ഞങ്ങൾ സ്വീകരിക്കുന്ന നടപടികൾ ഇവയാണ്:

  • ഡെവലപ്പർമാർക്ക് സാധ്യതയുള്ള സുരക്ഷാ പ്രശ്നങ്ങൾ മനസ്സിലാക്കാനും പരിഹരിക്കാനും സഹായിക്കുന്ന ഉപയോഗ മാർഗ്ഗനിർദ്ദേശങ്ങൾ ഞങ്ങൾ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്.
  • ഉപയോക്താക്കളുടെ ഉപയോഗ കേസുകൾ മനസ്സിലാക്കുന്നതിനും ദോഷകരമായ പക്ഷപാതം കണ്ടെത്തി ലഘൂകരിക്കുന്നതിനും ഉപകരണങ്ങൾ വികസിപ്പിക്കുന്നതിനായി ഞങ്ങൾ അവരുമായി അടുത്ത് പ്രവർത്തിക്കുന്നു.
  • ദോഷകരമായ പക്ഷപാതത്തിന്റെ പ്രകടനങ്ങളും ന്യായവും പ്രതിനിധാനവും സംബന്ധിച്ച വിശാലമായ പ്രശ്നങ്ങളെയും കുറിച്ച് ഞങ്ങൾ സ്വന്തം ഗവേഷണം നടത്തുന്നു, ഇത് നിലവിലുള്ള മോഡലുകളുടെ മെച്ചപ്പെട്ട ഡോക്യുമെന്റേഷനും ഭാവി മോഡലുകളിലേക്കുള്ള വിവിധ മെച്ചപ്പെടുത്തലുകളും വഴി ഞങ്ങളുടെ പ്രവർത്തനത്തെ അറിയിക്കാൻ സഹായിക്കും.
  • ഒരു സിസ്റ്റത്തിന്റെയും വിന്യസിച്ചിരിക്കുന്ന സന്ദർഭത്തിന്റെയും സംഗമത്തിൽ മാനിഫെസ്റ്റ് ചെയ്യുന്ന ഒരു പ്രശ്നമാണ് പക്ഷപാതം എന്ന് ഞങ്ങൾ തിരിച്ചറിയുന്നു; ഞങ്ങളുടെ സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് നിർമ്മിച്ച ആപ്ലിക്കേഷനുകൾ സാമൂഹിക സാങ്കേതിക സംവിധാനങ്ങളാണ്, അതിനാൽ പ്രതികൂല പെരുമാറ്റങ്ങൾ നിരീക്ഷിക്കുന്നതിന് ഉചിതമായ പ്രക്രിയകളും മനുഷ്യ-ഇൻ-ലൂപ്പ് സിസ്റ്റങ്ങളും നടപ്പിലാക്കുന്നതിന് ഞങ്ങൾ ഞങ്ങളുടെ ഡെവലപ്പർമാരുമായി പ്രവർത്തിക്കുന്നു.

ഓരോ ഉപയോഗ സന്ദർഭത്തിലും API യുടെ സാധ്യതയുള്ള ദോഷങ്ങളെക്കുറിച്ചുള്ള ഞങ്ങളുടെ ധാരണ വികസിപ്പിക്കുകയും അവ കുറയ്ക്കുന്നതിനായി ഞങ്ങളുടെ ഉപകരണങ്ങളും പ്രക്രിയകളും തുടർച്ചയായി മെച്ചപ്പെടുത്തുകയും ചെയ്യുക എന്നതാണ് ഞങ്ങളുടെ ലക്ഷ്യം.

2020 സെപ്റ്റംബർ 18-ന് അപ്‌ഡേറ്റ് ചെയ്തു

രചയിതാക്കൾ

Greg Brockman, Mira Murati, Peter Welinder, OpenAI