ഇന്ന്, OpenAI ഉൽപ്പന്നങ്ങളിലുടനീളം AI ദുരുപയോഗവും സുരക്ഷാ അപകടസാധ്യതകളും തിരിച്ചറിയുന്നതിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന ഒരു പൊതു സേഫ്റ്റി ബഗ് ബൗണ്ടി(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രോഗ്രാം ആരംഭിക്കുന്നു. AI സാങ്കേതികവിദ്യ അതിവേഗം വികസിച്ചുകൊണ്ടിരിക്കുമ്പോൾ, ദുരുപയോഗം ചെയ്യപ്പെടാൻ സാധ്യതയുള്ള വഴികളും അതുപോലെ വർധിക്കുന്നു. തെറ്റായ ഉപയോഗം അല്ലെങ്കിൽ ദുരുപയോഗം മൂലം യഥാര്ഥമായ ഹാനി സംഭവിക്കാവുന്ന സാഹചര്യങ്ങളിൽ നിന്ന് ഞങ്ങളുടെ സിസ്റ്റങ്ങൾ സുരക്ഷിതവും സംരക്ഷിതവുമായി തുടരുന്നുവെന്ന് ഉറപ്പാക്കുക എന്നതാണ് ഞങ്ങളുടെ ലക്ഷ്യം.
സുരക്ഷാ ദൗർബല്യത്തിനുള്ള മാനദണ്ഡങ്ങൾ പാലിക്കാത്തവയായാലും, ഗണ്യമായ ദുരുപയോഗത്തിനും സുരക്ഷാ അപകടസാധ്യതള്ക്കും കാരണമാകുന്ന പ്രശ്നങ്ങൾ സ്വീകരിച്ചുകൊണ്ട് ഈ പുതിയ പ്രോഗ്രാം OpenAI-യുടെ സെക്യൂരിറ്റി ബഗ് ബൗണ്ടി(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) -യ്ക്ക് പൂരകമായി പ്രവര്ത്തിക്കും. ഈ പ്രോഗ്രാമിലൂടെ, പരമ്പരാഗത സുരക്ഷാ ദൗർബല്യങ്ങളുടെ പരിധിക്കു പുറത്തായിരുന്നാലും യഥാർത്ഥ അപകടസാധ്യതകൾ സൃഷ്ടിക്കുന്ന പ്രശ്നങ്ങൾ തിരിച്ചറിയാനും പരിഹരിക്കാനും ഞങ്ങളെ സഹായിക്കുന്നതിനായി, സുരക്ഷാ ഗവേഷകരുമായി പങ്കാളിത്തം തുടരാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു. സമർപ്പണങ്ങൾ OpenAI-യുടെ സേഫ്ടി, സുരക്ഷാ ബഗ് ബൗണ്ടി ടീമുകൾ പ്രാഥമികമായി തരംതിരിച്ച് വിലയിരുത്തും. പരിധിയും ഉടമസ്ഥതയും അനുസരിച്ച് അവ രണ്ട് പ്രോഗ്രാമുകൾക്കിടയിൽ തിരിച്ചുവിടപ്പെടാം.
പുതിയ സുരക്ഷാ ബഗ് ബൗണ്ടി(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രോഗ്രാം താഴെപ്പറയുന്ന AI-നിർദ്ദിഷ്ട സുരക്ഷാ സാഹചര്യങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു:
MCP ഉൾപ്പെടെയുള്ള ഏജൻ്റിക് അപകടസാധ്യതകൾ
- മൂന്നാം കക്ഷി പ്രോംപ്റ്റ് ഇൻജക്ഷനും ഡാറ്റ എക്സ്ഫിൽട്രേഷനും: ആക്രമണകാരിയുടെ ടെക്സ്റ്റ് ഒരു ഇരയുടെ ഏജന്റിന്റെ (ബ്രൗസർ, ChatGPT ഏജന്റ്, സമാനമായ ഏജന്റിക് ഉൽപ്പന്നങ്ങൾ എന്നിവ ഉൾപ്പെടെ) നിയന്ത്രണം വിശ്വസനീയമായി കൈക്കലാക്കി, അതിനെ ഹാനികരമായ പ്രവർത്തനം നടത്താനോ ഉപയോക്താവിന്റെ ഗൂഢവിവരങ്ങൾ ചോർത്താനോ ശ്രമിച്ചുകൊണ്ട് വഞ്ചിക്കുന്ന സാഹചര്യം. ഈ പെരുമാറ്റം കുറഞ്ഞത് 50% സമയങ്ങളിൽ പുനരുത്പാദിപ്പിക്കാനാകണം.
- ഒരു ഏജന്റിക് OpenAI ഉൽപ്പന്നം OpenAI-യുടെ വെബ്സൈറ്റിൽ അനുവദിക്കാത്ത ഒരു നടപടി വ്യാപകമായ തോതിൽ നടത്തുന്നു.
- ഒരു ഏജന്റിക് OpenAI ഉൽപ്പന്നം മുകളിൽ സൂചിപ്പിക്കാത്ത ഹാനികരമായ നടപടികൾ നടത്തുന്നു. ഇവിടെ സാധുവായ റിപ്പോർട്ടുകൾ വിശ്വസനീയവും ഗണ്യവുമായ ഹാനി സൂചിപ്പിക്കണം.
- MCP അപകടസാധ്യതയ്ക്കായുള്ള ഏത് ടെസ്റ്റിംഗും മൂന്നാം കക്ഷികളുടെ സേവന നിബന്ധനകൾ പാലിച്ചായിരിക്കണം.
OpenAI പ്രോപ്രൈറ്ററി വിവരങ്ങൾ
- റീസണിംഗ് ആയി ബന്ധപ്പെട്ട സ്വകാര്യ വിവരങ്ങൾ തിരികെ നൽകുന്ന മോഡൽ ജനറേഷനുകൾ.
- OpenAI-യുടെ മറ്റ് സ്വകാര്യ വിവരങ്ങൾ വെളിപ്പെടുത്തുന്ന ദുർബലതകൾ.
അക്കൗണ്ട്, പ്ലാറ്റ്ഫോം എന്നിവയുടെ സമഗ്രത
- ഓട്ടോമേഷൻ-വിരുദ്ധ നിയന്ത്രണങ്ങൾ മറികടക്കൽ, അക്കൗണ്ട് വിശ്വാസ സിഗ്നലുകളിൽ കൃത്രിമമായി മാറ്റം വരുത്തൽ, അക്കൗണ്ട് നിയന്ത്രണങ്ങൾ/സസ്പെൻഷനുകൾ/നിരോധനങ്ങൾ ഒഴിവാക്കൽ, കൂടാതെ സമാനമായ പ്രശ്നങ്ങൾ എന്നിവ പോലുള്ള അക്കൗണ്ട് സമഗ്രതയിലെയും പ്ലാറ്റ്ഫോം സമഗ്രത സിഗ്നലുകളിലെയും ദുർബലതകൾ.
- ഉപയോക്താക്കൾക്ക് അനുവദിച്ചിരിക്കുന്ന അനുമതികൾക്കപ്പുറം ഫീച്ചറുകൾ, ഡാറ്റ, അല്ലെങ്കിൽ പ്രവർത്തനങ്ങൾ ആക്സസ് ചെയ്യാൻ അനുവദിക്കുന്ന പ്രശ്നങ്ങൾ സുരക്ഷാ ബഗ് ബൗണ്ടി(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)-ലേക്ക് റിപ്പോർട്ട് ചെയ്യണം.
ജെയിൽബ്രേക്കുകൾ ഈ പ്രോഗ്രാമിന്റെ പരിധിയിൽ ഉൾപ്പെടുന്നില്ലെങ്കിലും, ChatGPT Agent ലെയും GPT‑5 ലെയും Biorisk ഉള്ളടക്ക പ്രശ്നങ്ങൾ പോലുള്ള ചില ഹാനിയുടെ തരങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ച് ഞങ്ങൾ കാലാകാലങ്ങളിൽ സ്വകാര്യ ബഗ് ബൗണ്ടി ക്യാമ്പെയ്നുകൾ നടത്തുന്നു. ഈ പ്രോഗ്രാമുകൾ ലഭ്യമാകുമ്പോൾ അപേക്ഷിക്കാൻ താൽപ്പര്യമുള്ള ഗവേഷകരെ ഞങ്ങൾ ക്ഷണിക്കുന്നു.
മുകളിൽ പട്ടികപ്പെടുത്തിയ വിഭാഗങ്ങൾക്ക് പുറമെ, ഉപയോക്താക്കൾക്ക് നേരിട്ട് ഹാനി സംഭവിക്കാൻ വഴിയൊരുക്കുന്ന പോരായ്മകളും, നടപ്പിലാക്കാവുന്നതും വ്യക്തമായി നിർവചിക്കപ്പെട്ടതുമായ പരിഹാര നടപടികളും ഗവേഷകർ തിരിച്ചറിയുന്നുവെങ്കിൽ, അവ ഓരോ കേസും പ്രത്യേകം പരിഗണിച്ച് റിവാർഡുകൾക്കായി പരിഗണനയുടെ പരിധിയിൽ വരാം. സുരക്ഷയിലോ ദുരുപയോഗത്തിലോ തെളിയിക്കാവുന്ന സ്വാധീനം ഇല്ലാത്ത പൊതുവായ ഉള്ളടക്ക-നയ മറികടക്കലുകൾ ഈ പ്രോഗ്രാമിന്റെ പരിധിയിൽപ്പെടുന്നില്ല. ഉദാഹരണത്തിന്, മോഡൽ അസഭ്യമായ ഭാഷ ഉപയോഗിക്കുന്നതിലേക്കോ സേര്ച്ച് എഞ്ചിനുകൾ വഴി എളുപ്പത്തിൽ കണ്ടെത്താനാകുന്ന വിവരങ്ങൾ തിരിച്ചുനൽകുന്നതിലേക്കോ നയിക്കുന്ന “ജെയിൽബ്രേക്ക്”കൾ ഈ പ്രോഗ്രാമിന്റെ പരിധിക്ക് പുറത്താണ്.
പങ്കെടുക്കാൻ താൽപര്യമുള്ള ഗവേഷകർക്ക് ഞങ്ങളുടെ സേഫ്റ്റി ബഗ് ബൗണ്ടി(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രോഗ്രാം വഴി അപേക്ഷിക്കാം. സുരക്ഷിതമായ AI ആവാസവ്യവസ്ഥ സൃഷ്ടിക്കുന്നതിനുള്ള ശ്രമത്തിൽ ഗവേഷകരും, എത്തിക്കൽ ഹാക്കർമാരും, സുരക്ഷയും സുരക്ഷിതത്വവും സംബന്ധിച്ച സമൂഹവും ഒപ്പം പ്രവർത്തിക്കാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.
