കൗമാരസുരക്ഷയ്ക് AI അനുഭവസൃഷ്ടിക്കായ് ഡെവലപ്പർമാരെ സഹായിക്കുന്നു

ഇന്ന്, കൗമാരക്കാർക്കായി പ്രായത്തിന് അനുയോജ്യമായ സുരക്ഷാ മുൻകരുതലുകൾ സൃഷ്ടിക്കാൻ ഡെവലപ്പർമാരെ സഹായിക്കുന്നതിനായി ഞങ്ങൾ പ്രോംപ്റ്റ്-അധിഷ്ഠിത സുരക്ഷാ നയങ്ങൾ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പുറത്തിറക്കുന്നു. ഞങ്ങളുടെ ഓപ്പൺ-വെയ്റ്റ് സുരക്ഷാ മോഡലായ gpt-oss-safeguard⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) നൊപ്പം പ്രവർത്തിക്കുന്നതിനായി രൂപകൽപ്പന ചെയ്ത ഈ നയങ്ങൾ, യഥാർത്ഥ ലോക സംവിധാനങ്ങൾക്കായി സുരക്ഷാ ആവശ്യകതകളെ ഉപയോഗിക്കാവുന്ന ക്ലാസിഫയറുകളാക്കി മാറ്റുന്നത് ഡെവലപ്പർമാര്‍ക്ക് എളുപ്പമാക്കുന്നു.

ശക്തമായ AI-യിലേക്കുള്ള ആക്‌സസ് ജനാധിപത്യവൽക്കരിക്കാനും വ്യാപകമായ നവീകരണത്തെ പിന്തുണയ്ക്കാനും ഞങ്ങൾ ഓപ്പൺ വെയിറ്റ് മോഡലുകൾ പുറത്തിറക്കി. അതേസമയം, സുരക്ഷയും നവീകരണവും കൈകോർത്ത് പോകുന്നവയാണെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. ഡെവലപ്പർമാർക്ക് കഴിവുള്ള മോഡലുകളിലേക്കുള്ള ആക്‌സസിനൊപ്പം, അവ സുരക്ഷിതമായും ഉത്തരവാദിത്തത്തോടെയും വിന്യസിക്കാൻ ആവശ്യമായ ഉപകരണങ്ങളിലേക്കും നയങ്ങളിലേക്കും ആക്‌സസ് ഉണ്ടായിരിക്കണം എന്നും ഞങ്ങൾ കരുതുന്നു. യുവ ഉപയോക്താക്കളെ സംരക്ഷിക്കുന്നതിനുള്ള ഡെവലപ്പർമാരുടെ സുരക്ഷാ ശ്രമങ്ങളെ പിന്തുണയ്ക്കാൻ, Common Sense Media⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) യും everyone.ai⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)യും ഉൾപ്പെടെയുള്ള വിശ്വസ്ത ബാഹ്യ സംഘടനകളുടെ അഭിപ്രായങ്ങൾ ഉൾപ്പെടുത്തി ഞങ്ങൾ ഈ നയങ്ങൾ വികസിപ്പിച്ചു.

കൗമാരക്കാർക്കും മുതിർന്നവർക്കും വ്യത്യസ്തമായ ആവശ്യകതകൾ ഉണ്ടെന്നും, കൗമാരക്കാർക്ക് അധിക സംരക്ഷണം ആവശ്യമാണ് എന്നും ഞങ്ങൾ തിരിച്ചറിയുന്നു. ഈ നയങ്ങൾ ഡെവലപ്പർമാർക്ക് ആ വ്യത്യാസങ്ങൾ കണക്കിലെടുക്കാനും ചെറുപ്പക്കാരായ ഉപയോക്താക്കൾക്ക് ശാക്തീകരിക്കുന്നതും അനുയോജ്യവുമായ അനുഭവങ്ങൾ സൃഷ്ടിക്കാനും സഹായിക്കുന്നതിനായി രൂപകൽപ്പന ചെയ്തതാണ്.

യുവജനങ്ങൾക്ക് അവസരങ്ങൾ വിപുലീകരിക്കുകയും അവരെ സുരക്ഷിതരാക്കുകയും ചെയ്യുന്ന AI വികസിപ്പിക്കുന്നതിൽ ഞങ്ങൾ വളരെക്കാലമായി പ്രതിബദ്ധരാണ്. ഈ പ്രവർത്തനത്തിന്റെ ഭാഗമായി, OpenAI-യുടെ മോഡലുകളുടെ പെരുമാറ്റം നിർവചിക്കുന്ന മാർഗ്ഗനിർദ്ദേശങ്ങളായ ഞങ്ങളുടെ മോഡൽ സ്പെക്⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)ഞങ്ങൾ അപ്ഡേറ്റ് ചെയ്ത് Under-18 (U18) തത്വങ്ങൾ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഉൾപ്പെടുത്തി. കൂടാതെ, പ്രായം കുറഞ്ഞ ഉപയോക്താക്കളെ കൂടുതൽ മികച്ച രീതിയിൽ സംരക്ഷിക്കുന്നതിനായി പേരന്റൽ കണ്ട്രോളുകൾ⁠, age prediction⁠ എന്നിവ പോലുള്ള ഉൽപ്പന്ന-തല സുരക്ഷാ സംവിധാനങ്ങളും അവതരിപ്പിച്ചു. ഞങ്ങളുടെ Teen Safety Blueprint⁠ വഴി വ്യവസായമേഖല മുഴുവൻ ഉൾക്കൊള്ളുന്ന സംരക്ഷണങ്ങൾക്കായി ഞങ്ങൾ ആഹ്വാനം ചെയ്തിട്ടുണ്ട്.

ഇന്നത്തെ റിലീസ് ആ അടിത്തറയെ അടിസ്ഥാനമാക്കിയാണ് മുന്നോട്ട് പോകുന്നത്. കൗമാരക്കാർക്കായി സുരക്ഷാ മുൻകരുതലുകൾ നടപ്പിലാക്കുന്നതിൽ ഡെവലപ്പർമാരെ പിന്തുണയ്ക്കുന്നതിനും ഓപ്പൺ-വെയ്റ്റ് ഇക്കോസിസ്റ്റത്തിലുടനീളം ആക്സസ് ജനാധിപത്യവൽക്കരിക്കാൻ സഹായിക്കുന്നതിനായി ഈ സുരക്ഷാ നയങ്ങൾ ലഭ്യമാക്കുന്നു.

gpt-oss-safeguard പോലുള്ള സുരക്ഷാ ക്ലാസിഫയറുകൾക്ക് ദോഷകരമായ ഉള്ളടക്കം കണ്ടെത്താൻ കഴിയുമെങ്കിലും, ആ ഉള്ളടക്കം എന്താണെന്ന് വ്യക്തമായി നിർവചിക്കുന്നതിനെ അവ ആശ്രയിച്ചിരിക്കുന്നു. പ്രായോഗികമായി, ഡെവലപ്പർമാർ നേരിടുന്ന ഏറ്റവും വലിയ വെല്ലുവിളികളിലൊന്ന് കൗമാരപ്രായക്കാർക്ക് പ്രത്യേകമായ അപകടസാധ്യതകൾ കൃത്യമായി ഉൾക്കൊള്ളുകയും യഥാർത്ഥ സിസ്റ്റങ്ങളിലുടനീളം സ്ഥിരതയോടെ പ്രയോഗിക്കാനാകുകയും ചെയ്യുന്ന നയങ്ങൾ നിർവചിക്കുക എന്നതാണ്.

പരിചയസമ്പന്നരായ ടീമുകൾക്കുപോലും ഉയർന്ന തലത്തിലുള്ള സുരക്ഷാ ലക്ഷ്യങ്ങളെ കൃത്യവും പ്രായോഗികവുമായ നിയമങ്ങളാക്കി പരിഭാഷപ്പെടുത്തുന്നത് പലപ്പോഴും ബുദ്ധിമുട്ടാണ്, പ്രത്യേകിച്ച് അതിന് വിഷയ വൈദഗ്ധ്യവും ആഴത്തിലുള്ള AI അറിവും ആവശ്യമായതിനാൽ. ഇത് സംരക്ഷണത്തിലെ വിടവുകൾക്കും, അസംഗതമായ നടപ്പാക്കലിനും, അല്ലെങ്കിൽ അമിതമായി വ്യാപകമായ ഫിൽറ്ററിംഗിനും ഇടയാക്കാം. വ്യക്തവും നന്നായി നിർവചിക്കപ്പെട്ടതുമായ നയങ്ങൾ ഫലപ്രദമായ സുരക്ഷാ സംവിധാനങ്ങൾക്ക് നിർണായകമായ അടിത്തറയാണ്.

ഈ വെല്ലുവിളിയെ നേരിടുന്നതിനായി, കൗമാരക്കാർ നേരിടുന്ന സാധാരണ അപകടസാധ്യതകൾക്കനുസരിച്ച് രൂപകൽപ്പന ചെയ്തതും കൗമാരക്കാരുടെ സവിശേഷ വളർച്ചാഘട്ട വ്യത്യാസങ്ങളെക്കുറിച്ചുള്ള നിലവിലുള്ള ഗവേഷണങ്ങളുടെ സൂക്ഷ്മമായ അവലോകനത്തെ അടിസ്ഥാനമാക്കിയതുമായ സുരക്ഷാ നയങ്ങൾ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഞങ്ങൾ പുറത്തിറക്കുന്നു. ഈ നയങ്ങൾ gpt-oss-safeguard⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), റീസണിംഗ് മോഡൽ എന്നിവ ഉപയോഗിച്ച് നേരിട്ട് പ്രയോഗിക്കാനാകുന്ന പ്രോംപ്റ്റുകളായി രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു. ഇതിലൂടെ ഡെവലപ്പർമാർക്ക് അവരുടെ സിസ്റ്റങ്ങളിലുടനീളം സ്ഥിരതയുള്ള സുരക്ഷാ മാനദണ്ഡങ്ങൾ എളുപ്പത്തിൽ പ്രയോഗിക്കാനാകും.

പ്രാരംഭ റിലീസിൽ ഇനിപ്പറയുന്നവ ഉൾക്കൊള്ളുന്ന നയങ്ങൾ ഉൾപ്പെടുന്നു:

• ഗ്രാഫിക് അക്രമാസക്തമായ ഉള്ളടക്കം
• ദൃശ്യ ലൈംഗിക ഉള്ളടക്കം
• ശരീരത്തെക്കുറിച്ചുള്ള ഹാനികരമായ ആദർശ ധാരണകളും പെരുമാറ്റങ്ങളും
• അപകടകരമായ പ്രവർത്തനങ്ങളും വെല്ലുവിളികളും
• പ്രണയപരമായ അല്ലെങ്കിൽ അക്രമാസക്തമായ റോൾപ്ലേ
• പ്രായപരിധിയുള്ള സാധനങ്ങളും സേവനങ്ങളും

ഈ നയങ്ങൾ തത്സമയ ഉള്ളടക്ക ഫിൽട്ടറിംഗിനും ഉപയോക്താക്കൾ സൃഷ്ടിക്കുന്ന ഉള്ളടക്കത്തിന്റെ ഓഫ്‌ലൈൻ വിശകലനത്തിനും ഉപയോഗിക്കാം.

നയങ്ങളെ പ്രോംപ്റ്റുകളായി ഘടിപ്പിക്കുന്നതിലൂടെ, ഡെവലപ്പർമാർക്ക് അവയെ നിലവിലുള്ള പ്രവാഹങ്ങളിലേക്ക് കൂടുതൽ എളുപ്പത്തിൽ സംയോജിപ്പിക്കാനും, തങ്ങളുടെ ഉപയോഗസാഹചര്യങ്ങൾക്ക് അനുസരിച്ച് അവയെ രൂപാന്തരപ്പെടുത്താനും, കാലക്രമേണ അവയിൽ ആവർത്തിച്ചുള്ള മെച്ചപ്പെടുത്തലുകൾ നടത്താനും കഴിയും.

ഈ നയങ്ങളുടെ വികസനത്തിന് മാർഗനിർദേശം നൽകുന്നതിനായി, Common Sense Media⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) യും everyone.ai⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) യും ഉൾപ്പെടെയുള്ള ബാഹ്യ സംഘടനകളുമായി ഞങ്ങൾ പ്രവർത്തിച്ചു. ഉൾക്കൊള്ളേണ്ട ഉള്ളടക്കത്തിന്റെ പരിധി നിർണ്ണയിക്കാനും, പ്രോംപ്റ്റുകളുടെ ഘടന ശക്തിപ്പെടുത്താനും, അവയെ വിലയിരുത്തുമ്പോൾ പരിഗണിക്കേണ്ട എഡ്ജ് കേസുകൾ മെച്ചപ്പെടുത്താനും അവരുടെ വൈദഗ്ധ്യം സഹായിച്ചു. 

AI സംവിധാനങ്ങൾ യുവജനങ്ങളെ എങ്ങനെ പിന്തുണയ്ക്കുന്നു എന്നത് മെച്ചപ്പെടുത്താൻ വിദഗ്ധരുമായും വിശാലമായ ഇക്കോസിസ്റ്റവുമായി സഹകരിക്കുന്നതിനുള്ള തുടർച്ചയായ ഒരു ശ്രമത്തെ ഈ പ്രവർത്തനം പ്രതിഫലിപ്പിക്കുന്നു.

“കൗമാരക്കാർക്കായുള്ള AI സുരക്ഷയിലെ ഏറ്റവും വലിയ വിടവുകളിൽ ഒന്ന്, ഡെവലപ്പർമാർക്ക് അടിസ്ഥാനമാക്കി വികസിപ്പിക്കാനാകുന്ന വ്യക്തവും പ്രായോഗികമായി നടപ്പാക്കാനാകുന്നതുമായ നയങ്ങളുടെ അഭാവമായിരുന്നു. പലപ്പോഴും, ഡെവലപ്പർമാർ ആദ്യം മുതൽ തുടങ്ങുകയാണ്. ഈ പ്രോംപ്റ്റ്-അടിസ്ഥാനത്തിലുള്ള നയങ്ങൾ ഇക്കോസിസ്റ്റത്തിലുടനീളം അർത്ഥവത്തായ ഒരു സുരക്ഷാ അടിസ്ഥാനം സ്ഥാപിക്കാൻ സഹായിക്കുന്നു, കൂടാതെ ഇവ ഓപ്പൺ സോഴ്‌സായി പുറത്തിറക്കിയിരിക്കുന്നതിനാൽ കാലക്രമേണ അവയെ അനുസരിച്ച് മാറ്റുകയും മെച്ചപ്പെടുത്തുകയും ചെയ്യാം. ഇത്തരത്തിലുള്ള ഇൻഫ്രാസ്ട്രക്ചർ വ്യാപകമായി ലഭ്യമാക്കപ്പെടുന്നത് കാണുന്നതിൽ ഞങ്ങൾക്ക് പ്രോത്സാഹനം ലഭിക്കുന്നു, കൂടാതെ ഇത് വ്യവസായത്തിലുടനീളം യുവജനങ്ങളുടെ സുരക്ഷയ്ക്കായുള്ള കൂടുതൽ പങ്കിട്ട ചട്ടക്കൂടുകളുടെ തുടക്കത്തിന് പ്രചോദനമാകുമെന്ന് ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു.”

—റോബി ടോർണി, കോമൺ സെൻസ് മീഡിയയിലെ AI & ഡിജിറ്റൽ അസസ്മെന്റ്സ് മേധാവി

“യുവജന സുരക്ഷാ നയങ്ങളെ കൂടുതൽ പ്രായോഗികമായി നടപ്പാക്കാവുന്നതാക്കുന്ന ഇത്തരം ശ്രമങ്ങൾ വിലപ്പെട്ടതാണ്, കാരണം അവ വിദഗ്ധരുടെ അറിവിനെ യഥാർത്ഥ സിസ്റ്റങ്ങളിലായി ഉപയോഗിക്കാവുന്ന മാർഗ്ഗനിർദേശങ്ങളാക്കി മാറ്റാൻ സഹായിക്കുന്നു. ഉള്ളടക്ക നയങ്ങൾ ഒരു പ്രധാന ആദ്യപടിയാണ്, കൂടാതെ കാലക്രമേണ മോഡൽ പെരുമാറ്റം യുവാക്കളുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകളെ എങ്ങനെ രൂപപ്പെടുത്താം എന്നതിനെക്കുറിച്ചുള്ള കൂടുതൽ വിപുലമായ പ്രവർത്തനങ്ങൾക്കുള്ള വാതിലും അവ തുറക്കുന്നു. ഈ പ്രവർത്തനത്തിലും ഞങ്ങളുടെ സ്വന്തം ഗവേഷണത്തിലും നിന്ന് പ്രചോദനം ഉൾക്കൊണ്ട്, everyone.ai⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രത്യേക ആശ്രിതത്വവും അമിത ആശ്രയവും പോലുള്ള അപകടസാധ്യതകളിൽ കേന്ദ്രീകരിച്ച ഒരു പ്രാരംഭ പെരുമാറ്റ നയവും രൂപപ്പെടുത്തിയിട്ടുണ്ട്."

—ഡോ. മാത്തിൽഡ് ചെരിയോലി, everyone.AI-യിലെ ചീഫ് സയന്റിസ്റ്റ്

ഈ നയങ്ങൾ കൗമാരക്കാരുടെ സുരക്ഷയുടെ സമഗ്രമോ അന്തിമമോ ആയ നിർവചനമായോ ഉറപ്പായോ അല്ല, മറിച്ച് ഒരു തുടക്കമായി ഉദ്ദേശിച്ചിട്ടുള്ളതാണ്. ഓരോ ആപ്ലിക്കേഷനും സവിശേഷമായ അപകടസാധ്യതകളും, പ്രേക്ഷകരും, സന്ദർഭങ്ങളും ഉണ്ട്. അവരുടെ ഉൽപ്പന്നങ്ങളും AI സംയോജനങ്ങളും ഉണ്ടാക്കിയേക്കാവുന്ന അപകടസാധ്യതകൾ മനസ്സിലാക്കാൻ ഏറ്റവും അനുയോജ്യമായവർ ഡെവലപ്പർമാരാണ്. ഡെവലപ്പർമാർ അവരുടെ പ്രത്യേക ആവശ്യങ്ങളെ അടിസ്ഥാനമാക്കി ഈ നയങ്ങളെ അനുയോജ്യമാക്കി വിപുലീകരിക്കാനും, ഉൽപ്പന്ന രൂപകൽപ്പനാ തീരുമാനങ്ങൾ, ഉപയോക്തൃ നിയന്ത്രണങ്ങൾ, കൗമാരക്കാർക്ക് മനസ്സിലാക്കാൻ എളുപ്പമുള്ള സുതാര്യത, നിരീക്ഷണ സംവിധാനങ്ങൾ, പ്രായത്തിന് അനുയോജ്യമായ ചിന്താപൂർവമായ പ്രതികരണങ്ങൾ എന്നിവയുമായി സംയോജിപ്പിക്കാനും ഞങ്ങൾ ശക്തമായി പ്രോത്സാഹിപ്പിക്കുന്നു. 

കൂടുതൽ സുരക്ഷിതമായ AI സിസ്റ്റങ്ങൾ നിർമ്മിക്കാൻ ബഹുതല ആഴത്തിലുള്ള പ്രതിരോധം⁠ സമീപനം അനിവാര്യമാണെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. ഈ നയങ്ങൾ ഞങ്ങളുടെ ആന്തരിക അനുഭവത്തിൽ നിന്ന് രൂപംകൊണ്ടവയാണ്, എന്നാൽ അവ OpenAI-യുടെ ആന്തരിക നയങ്ങളുടെയോ സുരക്ഷാ നടപടികളുടെയോ പൂർണ്ണമായ പ്രതിഫലനം നൽകുന്നില്ല.

സഹകരണവും ആവർത്തനവും പ്രോത്സാഹിപ്പിക്കുന്നതിനായി, ഞങ്ങൾ ഈ നയങ്ങൾ ROOST മോഡൽ കമ്മ്യൂണിറ്റിയിലൂടെ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഓപ്പൺ സോഴ്സായി പുറത്തിറക്കുന്നു. സംഭാവന ചെയ്യാനും, അഭിപ്രായം അറിയിക്കാനും, അല്ലെങ്കിൽ അധിക കൗമാരക്കാരുടെ സുരക്ഷാ നയങ്ങൾ പങ്കിടാനും, RMC GitHub റിപ്പോസിറ്ററി⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)സന്ദർശിക്കുക.

ഡെവലപ്പർമാർക്കും സ്ഥാപനങ്ങൾക്കും ഈ നയങ്ങളെ അവരുടെ പ്രത്യേക ആപ്ലിക്കേഷനുകൾക്ക് അനുയോജ്യമാക്കാനും, അവയെ വിവിധ ഭാഷകളിലേക്ക് വിവർത്തനം ചെയ്യാനും, കൂടുതൽ റിസ്ക് മേഖലകൾ ഉൾക്കൊള്ളുന്ന തരത്തിൽ വിപുലീകരിക്കാനും കഴിയും. കാലക്രമേണ, AI സിസ്റ്റങ്ങളിലെ സുരക്ഷാ നയങ്ങൾ നടപ്പിലാക്കുന്നതിനായി ഇത് കൂടുതൽ ശക്തവും പങ്കിട്ടതുമായ അടിത്തറയ്ക്ക് സംഭാവന ചെയ്യുമെന്ന് ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു.

gpt-oss-safeguard ഉപയോഗിച്ച് ആരംഭിക്കാൻ, അത് ഹഗ്ഗിംഗ് ഫേസിൽ നിന്ന്⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഡൗൺലോഡ് ചെയ്യുക.