ചിന്താ ശൃംഖലയുടെ നിരീക്ഷണക്ഷമത വിലയിരുത്തൽ
ഞങ്ങൾ ചിന്താശൃംഖല നിരീക്ഷണക്ഷമതയ്ക്കുള്ള മൂല്യനിർണ്ണയങ്ങൾ അവതരിപ്പിക്കുന്നു, കൂടാതെ ഇത് ടെസ്റ്റ്-ടൈം കംപ്യൂട്ട്, റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ്, പ്രീട്രെയിനിംഗ് എന്നിവയുമായി എങ്ങനെ സ്കെയിൽ ചെയ്യുന്നു എന്ന് പഠിക്കുന്നു.
AI സിസ്റ്റങ്ങൾ അവയ്ക്ക് നേരിട്ട് മേൽനോട്ടം വഹിക്കാൻ ബുദ്ധിമുട്ടുള്ള തീരുമാനങ്ങൾ എടുക്കുമ്പോൾ, ആ തീരുമാനങ്ങൾ എങ്ങനെ എടുക്കപ്പെടുന്നു എന്ന് മനസ്സിലാക്കുന്നത് പ്രധാനമാണ്. ഒരു ഫലസാധ്യത്യയുള്ള സമീപനം മോഡലിന്റെ ഉള്ളില് നടക്കുന്ന റീസണിംഗ് കൂടി നിരീക്ഷിക്കുന്നതാണ്, അതിന്റെ നടപടികളെയോ അന്തിമ ഫലങ്ങളെയോ മാത്രം നിരീക്ഷിക്കുന്നത് അല്ല.
ആധുനിക റീസണിംഗ് മോഡലുകൾ, ഉദാഹരണത്തിന് GPT‑5 Thinking, ഒരു ഉത്തരം നൽകുന്നതിന് മുമ്പ് വ്യക്തമായ ചിന്താശൃംഖല സൃഷ്ടിക്കുന്നു. ഈ ചിന്താശൃംഖലകളുടെ തെറ്റായ പെരുമാറ്റം നിരീക്ഷിക്കുന്നത് ഒരു മോഡലിന്റെ നടപടികളും ഔട്ട്പുട്ടുകളും മാത്രം നിരീക്ഷിക്കുന്നതിനെക്കാൾ മികച്ച ഫലപ്രാപ്തി നൽകും. എന്നിരുന്നാലും, OpenAI-ലും വ്യാപകമായ വ്യവസായത്തിലും ഗവേഷകർ ആശങ്കപ്പെടുന്നത്(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) ഈ ചിന്താശൃംഖല "നിരീക്ഷണക്ഷമത" പരിശീലനം നടപടിക്രമം, ഡാറ്റാ ഉറവിടങ്ങൾ, നിലവിലുള്ള ആൽഗോരിതങ്ങളിലെ തുടർച്ചയായ സ്കെയിലിംഗ് എന്നിവയിലുള്ള മാറ്റങ്ങൾക്കു ദുർബലമായിരിക്കാമെന്നാണ്.
മോഡലുകൾ സ്കെയിൽ ചെയ്യുകയും ഉയർന്ന പ്രാധാന്യമുള്ള സാഹചര്യങ്ങളിൽ വിന്യസിക്കപ്പെടുകയും ചെയ്യുമ്പോൾ ചിന്താശൃംഖല നിരീക്ഷണക്ഷമതയും നിലനിൽക്കണം. വ്യവസായമൊട്ടാകെയുള്ള ഗവേഷകരോട് ഞങ്ങൾ അഭ്യർത്ഥിക്കുന്നത് ചിന്താശൃംഖല നിരീക്ഷണക്ഷമത സാധ്യമായ കാലം സംരക്ഷിക്കാനും ഭാവിയിലെ AI സിസ്റ്റങ്ങൾക്കായി ലോഡ്-ബെയറിംഗ് നിയന്ത്രണ പാളിയായി സേവിക്കാമോ എന്ന് നിർണ്ണയിക്കാനും പ്രവർത്തിക്കണമെന്ന്. നിരീക്ഷണക്ഷമത സംരക്ഷിക്കാൻ, അതിനെ അളക്കാൻ കഴിയണം, പക്ഷെ കുറച്ച് വിലയിരുത്തലുകൾ മാത്രമേ നിലവിലുണ്ടായുള്ളൂ [1(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), 2(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), 3(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)] കൂടാതെ രീതിശാസ്ത്രങ്ങളിലും വ്യത്യാസങ്ങള് ഉണ്ട്.
ഈ വര്ക്കിനുള്ളില്, ഞങ്ങൾ ചിന്താശൃംഖല നിരീക്ഷണക്ഷമതയെ സമഗ്രമായി പഠിക്കുന്നു. ഒരു സിസ്റ്റത്തിന്റെ നിരീക്ഷണക്ഷമത കൃത്യമായി അളക്കാൻ രൂപകൽപ്പന ചെയ്ത 13 മൂല്യനിർണ്ണയങ്ങൾ (ആകെ 24 പരിസ്ഥിതികൾ ഉൾപ്പെടുന്നു) ഉൾക്കൊള്ളുന്ന ഒരു ചട്ടക്കൂടും ചിന്താശൃംഖല നിരീക്ഷണക്ഷമത വിലയിരുത്താനുള്ള ഒരു ചട്ടക്കൂടും ഞങ്ങൾ അവതരിപ്പിക്കുന്നു. ഈ വിലയിരുത്തലുകൾ മൂന്നു മാതൃകകളിലായി വരുന്നു—ഇടപെടൽ, പ്രക്രിയ, ഫലം-ഗുണം. അവയെ ഉപയോഗിച്ച്, ഇന്ന് വലിയ ഭാഷാ മോഡലുകൾ എത്രമാത്രം നിരീക്ഷിക്കാവുന്നതാണ് എന്ന് പഠിക്കുന്നു, അനുമാന സമയത്ത് കൂടുതൽ ചിന്തശേഷിയോടെ, വലിയ റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് പ്രവർത്തനങ്ങളോടെ, പ്രീട്രെയിനിംഗ് സ്കെയിൽ വർദ്ധിക്കുമ്പോൾ നിരീക്ഷണ ശേഷി എങ്ങനെ മാറുന്നു എന്നും പഠിക്കുന്നു.
ഇപ്പോൾ ഞങ്ങൾക്ക് വലിയൊരു വിലയിരുത്തലുകളുടെ സമാഹാരം ലഭ്യമായതിനാൽ, ഞങ്ങളുടെ മോഡലുകളുടെ നിരീക്ഷണക്ഷമത ട്രാക്ക് ചെയ്യാൻ ഞങ്ങൾ തുടങ്ങാം. (മുകളിൽ-ഇടത്) മോഡലുകൾ കൂടുതൽ "ചിന്തിക്കുകയും" ദീർഘമായ ചിന്താശൃംഖലകൾ ഉണ്ടാകുകയും ചെയ്യുമ്പോൾ, നിരീക്ഷണക്ഷമത മെച്ചപ്പെടുന്നു എന്ന് ഞങ്ങൾ കണ്ടെത്തുന്നു. (മുകളിൽ-വലത്) ചിന്താശൃംഖല ഇല്ലാതെ, ഒരു മോഡലിന്റെ നടപടികളും അന്തിമ ഫലങ്ങളും മാത്രം നിരീക്ഷിക്കാൻ ശ്രമിക്കുന്നത് സാധാരണമാണ്. എങ്കിലും, CoT നിരീക്ഷിക്കുന്നതിനെ അപേക്ഷിച്ച്, നടപടികളും ഔട്ട്പുട്ടുകളും മാത്രം നിരീക്ഷിക്കുന്നത് വളരെ കുറവാണെന്ന് ഞങ്ങൾ കണ്ടെത്തുന്നു. (താഴത്തെ-മധ്യഭാഗം) ഞങ്ങൾ ഞങ്ങളുടെ മോഡലുകളെ പൂർണ്ണ CoT ആക്സസ് നൽകുന്ന ബാഹ്യ മോഡലുകളുമായി താരതമ്യം ചെയ്യുന്നു—Claude 3.7 Sonnet, DeepSeek R1-0528-Qwen3-8B, Kimi K2 Thinking.
മിക്ക മുൻനിര യുക്തി മോഡലുകളും നന്നായി നിരീക്ഷിക്കാവുന്നതാണ്, എങ്കിലും പൂർണ്ണമായും അങ്ങനെ അല്ല. നമ്മൾ പഠിക്കുന്ന മിക്കവാറും എല്ലാ സാഹചര്യങ്ങളിലും, പ്രവർത്തനങ്ങളും അന്തിമ ഫലങ്ങള് മാത്രം നിരീക്ഷിക്കുന്നതിനേക്കാൾ ചിന്താ ശൃംഖലകളെ നിരീക്ഷിക്കുന്നത് കൂടുതൽ ഫലപ്രദമാണ്. കൂടുതൽ സമയം ചിന്തിക്കുന്ന മോഡലുകളെ കൂടുതൽ നിരീക്ഷിക്കാവുന്നതാണ്, നിലവിലെ സ്കെയില് പരിധിയിലുള്ള റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് ഓപ്റ്റിമൈസേഷൻ ആകട്ടെ നിരീക്ഷണക്ഷമതയെ അർത്ഥവത്തായി കുറയ്ക്കുന്നതായി കാണുന്നുമില്ല.
പ്രധാനമായും, നാം റീസണിംഗ് ശ്രമവും മോഡൽ വലിപ്പവും തമ്മിലുള്ള ഒരു തുല്യത കാണുന്നു: ഒരു മോഡൽ കുറഞ്ഞ റീസണിംഗ് ശ്രമത്തിൽ പ്രവർത്തിപ്പിക്കുമ്പോൾ ഉള്ള ശേഷി പരിഗണിച്ചാല്, ഉയർന്ന റീസണിംഗ് ശ്രമത്തിൽ പ്രവർത്തിക്കുന്ന ചെറിയ ഒരു മോഡൽ സമാന ശേഷി കൈവരിക്കാം, അതേസമയം നിരീക്ഷിക്കാൻ എളുപ്പവുമാണ്. ഇത് വർദ്ധിച്ച അനുമാന കംപ്യൂട്ടിന്റെ ചെലവിൽ വരുന്നു, ഇതിനെ ഞങ്ങൾ മോണിറ്ററബിലിറ്റി ടാക്സ് എന്ന് വിളിക്കുന്നു. അവസാനമായി, ഫോളോ-അപ്പ് ചോദ്യങ്ങൾ ചോദിക്കുകയും അതിന്റെ ഫലമായ ചിന്താശൃംഖലകളെ നിരീക്ഷിക്കുകയും ചെയ്യുന്നത് നിരീക്ഷണക്ഷമത മെച്ചപ്പെടുത്താൻ സഹായിക്കുന്നതായി ഞങ്ങൾ കണ്ടെത്തുന്നു.
നിരീക്ഷണക്ഷമത എന്നതിനെ ഏജൻ്റിന്റെ പെരുമാറ്റത്തില്, അയാള്ക്ക് താൽപ്പര്യമുള്ള ഗുണങ്ങൾ പ്രവചിക്കാൻ ഒരു നിരീക്ഷകത്തിന് ഉള്ള കഴിവായി ഞങ്ങള് നിർവചിക്കുന്നു. പലപ്പോഴും, ഈ ഗുണങ്ങൾ തെറ്റായ പെരുമാറ്റത്തിന്റെ രൂപങ്ങളുമായി ബന്ധപ്പെട്ടിരിക്കുന്നു—വഞ്ചന, പ്രതിഫല ഹാക്കിംഗ്, അല്ലെങ്കിൽ പക്ഷപാതപരമായ ചിന്തകൾ പോലുള്ളവ—എന്നാൽ അവതന്നെ ഒരു ഏജൻ്റ് ഒരു പ്രത്യേക സൂചനയിൽ ആശ്രയിച്ചോ അല്ലെങ്കിൽ ഒരു പ്രത്യേക ചിന്താഗതിയെ പിന്തുടർന്നോ എന്നതുപോലുള്ള ഹാനികരമല്ലാത്ത ഗുണങ്ങളെയും ഉൾക്കൊള്ളാം.
മോണിറ്ററബിലിറ്റി രണ്ടു വശങ്ങളുള്ള ഒരു സവിശേഷതയാണ്. ഇത് മോണിറ്ററിനെയും നിരീക്ഷിക്കപ്പെടുന്ന ഏജൻ്റിനെയും ആശ്രയിച്ചിരിക്കുന്നു.
- മോണിറ്ററുകൾ. മോണിറ്ററുകൾക്ക് കൂടുതൽ ബുദ്ധിമാനാകാൻ വിവിധ മാർഗ്ഗങ്ങളുണ്ട്, കൂടാതെ ഏജൻ്റിന്റെ പെരുമാറ്റത്തെക്കുറിച്ച് മികച്ച പ്രവചനങ്ങൾ നടത്താൻ കഴിയുന്ന മോണിറ്ററുകൾക്ക് ഉയർന്ന സ്കോറുകൾ നൽകാൻ ഞങ്ങളുടെ മൂല്യനിർണ്ണയങ്ങൾ ആഗ്രഹിക്കുന്നു.
- ഏജൻ്റുമാർ. ഏജൻ്റിന്റെ നിരവധി നിരീക്ഷണങ്ങൾ, ഏജൻ്റിന്റെ നടപടികൾ, ഔട്ട്പുട്ടുകൾ, ന്യൂറൽ ആക്റ്റിവേഷനുകൾ, കൂടാതെ അടുത്തിടെ റീസണിംഗ് മോഡലുകളുടെ വരവോടെ, ചിന്താശൃംഖല ഉൾപ്പെടെ, മോണിറ്ററിന് നൽകാൻ കഴിയും. ചില ഏജൻ്റുകൾക്ക് മറ്റുള്ളവയെക്കാൾ മനസ്സിലാക്കാൻ ബുദ്ധിമുട്ടുള്ള ചിന്തകൾ ഉണ്ടാകാൻ സാധ്യതയുണ്ട്, അതിനാൽ ഞങ്ങളുടെ നിരീക്ഷണ മൂല്യനിർണ്ണയങ്ങൾ ഏജൻ്റുകളെ മാത്രമല്ല, നിരീക്ഷകരെയും താരതമ്യം ചെയ്യാൻ കഴിയുന്നവയാകണം എന്ന് ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.
ഞങ്ങളുടെ വിലയിരുത്തലുകൾ രണ്ട് വശങ്ങളും വിലയിരുത്താൻ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു: ചില ഏജൻ്റുകളെ നിരീക്ഷിക്കാൻ എളുപ്പമാണോ അല്ലെങ്കിൽ ബുദ്ധിമുട്ടാണോ, കൂടാതെ കൂടുതൽ കഴിവുള്ള നിരീക്ഷകർക്ക് അതേ സിഗ്നലുകളിൽ നിന്ന് കൂടുതൽ വിവരങ്ങൾ എക്സ്ട്രാക്റ്റ് ചെയ്യാൻ കഴിയുമോ എന്നതും.
നിലവിലെ തലമുറയുടെ റീസണിംഗ് മോഡലുകൾക്ക് മുമ്പ്, ചിന്താശൃംഖലകൾ സാധാരണയായി ഒരു മോഡലിനെ "ഘട്ടം ഘട്ടമായി ചിന്തിക്കുക" എന്ന് പ്രേരിപ്പിച്ച് ഉണർത്തിയിരുന്നു.
ചിന്താശൃംഖല റീസണിംഗ് മോഡലുകൾ രണ്ട് പ്രധാന രീതികളിൽ വ്യത്യാസപ്പെടുന്നു. ആദ്യം, അവർ ചിന്താശൃംഖല സൃഷ്ടിക്കാൻ വ്യക്തമായി പരിശീലനം നൽകുകയും തുടർന്ന് ഒരു ഉത്തരവും നല്കുന്നു. ഒരു ചാറ്റ് മോഡലിനെ "ഘട്ടം ഘട്ടമായി" ചിന്തിക്കാൻ പ്രേരിപ്പിക്കുമ്പോൾ, മോഡലിന് സഹായകരവും, ഹാനികരമല്ലാത്തതുമായ നിർദ്ദേശങ്ങൾ പാലിക്കേണ്ടതുണ്ട്. മറുവശത്ത്, റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് പരിശീലന പ്രക്രിയ ഒരു യുക്തിസഹ മോഡലിനെ CoT ഒരു സ്വകാര്യ സ്ഥലം ആണെന്ന് പഠിപ്പിക്കുന്നു, അവിടെ അതിന് എന്തും ചിന്തിക്കാം, ശിക്ഷിക്കപ്പെടാതെ, ഒരു മനുഷ്യൻ സ്വകാര്യമായി ചിന്തിക്കുകയും "ചിന്തിക്കുന്നത് ഒരു അപരാധം " അല്ലാത്തതുകൊണ്ട് ശിക്ഷിക്കപ്പെടാതിരിക്കുകയും ചെയ്യുന്നതുപോലെ.
രണ്ടാമതായി, ഉയർന്ന പ്രതിഫലമുള്ള അന്തിമ ഉത്തരം ലഭിക്കുന്നതിന് ഏജന്റിന് ഏറ്റവും ഉപകാരപ്രദമായ ചിന്താ ശൃംഖലകൾക്കായി പരിശീലന പ്രക്രിയ ഫലപ്രദമായി തിരയുന്നു. അതുകൊണ്ട്, ചിന്താശൃംഖല മോഡലിന് സ്വതന്ത്രമായി സ്വയം പ്രകടിപ്പിക്കാൻ കഴിയുന്ന ഒരു സ്ഥലം മാത്രമല്ല, മോഡലിനെ അതിന്റെ അന്തിമ ഉത്തരത്തിലേക്ക് എത്തിക്കാൻ സഹായിക്കുന്ന ചിന്തകളെ അത് ഉൾക്കൊള്ളുന്നു.
ഞങ്ങൾ ഞങ്ങളുടെ നിരീക്ഷണക്ഷമത മൂല്യനിർണ്ണയങ്ങൾ മൂന്നു വ്യത്യസ്ത മാതൃകകളായി ക്രമീകരിക്കുന്നു, ഓരോന്നും നിരീക്ഷണക്ഷമത അളക്കാൻ വ്യത്യസ്തമായ ഒരു മാർഗ്ഗം ഉപയോഗിക്കുന്നു.
- ഇന്റർവെൻഷൻ മൂല്യനിർണയങ്ങൾ, Chen et al. 2025(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രചോദിതമായി, Chua et al. 2025(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), Turpin et al. 2023(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), ഞങ്ങൾ ഏജൻ്റിന്റെ പരിസ്ഥിതിയിൽ നിയന്ത്രിത മാറ്റം അവതരിപ്പിക്കുന്നു, ഒരു മോണിറ്റർ ഇടപെടലിന്റെ തെളിവുകൾ ചിന്താശൃംഖലയിൽ തിരിച്ചറിയുന്നതിലൂടെ പെരുമാറ്റം എന്തുകൊണ്ട് മാറി എന്ന് കണ്ടെത്താൻ കഴിയുമോ എന്ന് പരിശോധിക്കുന്നു. സാധാരണ നിയന്ത്രണ മൂല്യനിർണ്ണയങ്ങളിൽ നിന്ന് വ്യത്യസ്തമായി (ഉദാഹരണത്തിന്, Shade-Arena(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)), ഇടപെടൽ മൂല്യനിർണയങ്ങൾക്ക്, പെരുമാറ്റം സംഭവിച്ചോ എന്നതിനെക്കാൾ, എന്തുകൊണ്ട് പെരുമാറ്റം മാറി എന്ന് കണ്ടെത്താൻ കഴിയുമോ എന്ന് ഒരു മോണിറ്റർക്ക് പരിശോധിക്കാൻ അവസരം നല്കുന്നു.
- പ്രക്രിയാ മൂല്യനിർണയങ്ങൾ സാധുവായ പരിഹാര പാതകളുടെ എണ്ണം ഒരു നിശ്ചിത സഖ്യ ആയ ടാസ്കുകളിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത് (ഉദാഹരണത്തിന്, ഒരു ഗണിത പ്രശ്നം ചില സിദ്ധാന്തങ്ങൾ ഉപയോഗിച്ചാണ് മാത്രം പരിഹരിക്കാൻ കഴിയുന്നത്). മനുഷ്യ വിദഗ്ധർ ഈ പാതകൾ എണ്ണിപ്പറയുന്നു, മോഡൽ യഥാർത്ഥത്തിൽ എടുത്ത ഘട്ടങ്ങൾ ഒരു മോണിറ്റർന് കണ്ടെത്താൻ കഴിയുമോ എന്ന് ഞങ്ങൾ പരിശോധിക്കുന്നു. ഈ മൂല്യനിർണ്ണയങ്ങൾ ഒരു മോഡൽ ചെയ്ത കാര്യങ്ങളെ മോഡൽ സ്വീകരിച്ചിരിക്കേണ്ട പ്രത്യേക ഘട്ടങ്ങളുമായി ലിങ്ക് ചെയ്യാനും ആ ഘട്ടങ്ങൾ നിരീക്ഷിക്കാവുന്നതാണോ എന്ന് ചോദിക്കാനും ഞങ്ങളെ അനുവദിക്കുന്നു.
- ഫല-സ്വഭാവ മൂല്യനിർണ്ണയങ്ങൾ മോഡലിന്റെ ഔട്ട്പുട്ടിന്റെ ഒരു സ്വഭാവം വിശ്വസനീയമായി അളക്കാൻ കഴിയുമ്പോൾ പ്രയോഗിക്കപ്പെടുന്നു. ഈ സാഹചര്യങ്ങളിൽ, ഒരു നിരീക്ഷകൻ മോഡലിന്റെ ചിന്തകളിൽ നിന്നോ നടപടികളിൽ നിന്നോ ആ സ്വഭാവം—ഉദാഹരണത്തിന്, റിവാർഡ് ഹാക്കിംഗ്—പ്രവചിക്കാമോ എന്ന് ഞങ്ങൾ പരിശോധിക്കുന്നു. ഉദാഹരണത്തിന്, ഒരു കോഡിംഗ് ടാസ്കിൽ, ഒരു മോഡൽ ഒരു റിവാർഡ് സിഗ്നൽ ഹാക്ക് ചെയ്യാൻ ശ്രമിക്കുന്നുണ്ടോ എന്ന് വിശ്വസനീയമായി വിലയിരുത്താനുള്ള ഒരു മാർഗ്ഗം ഞങ്ങൾക്ക് ഉണ്ടാകാം, കൂടാതെ ഒരു നിരീക്ഷകൻ മോഡലിന്റെ ചിന്തകളിലോ നടപടികളിലോ റിവാർഡ് ഹാക്ക് ചെയ്യാനുള്ള ഉദ്ദേശ്യത്തിന്റെ തെളിവുകൾ കണ്ടെത്തുന്നുണ്ടോ എന്ന് ചോദിക്കാം.
താഴെ ഞങ്ങൾ ഞങ്ങളുടെ മൂല്യനിർണ്ണയങ്ങൾക്ക് ഒരു വർഗ്ഗീകരണം നൽകുന്നു. ഓരോ വ്യക്തിഗത വിലയിരുത്തലിന്റെയും പൂർണ്ണ വിവരണം ലഭിക്കാൻ, ദയവായി ഞങ്ങളുടെ പേപ്പർ കാണുക.
Neutral evaluations ask whether the reasoning for normal tasks where the model does not misbehave is monitorable. Sycophancy evaluations target cases where models change their behavior to overly please or agree with a user. Bias evaluations ask if a model’s bias around gender, race, etc. is monitorable. Finally, we use the misalignment label as a catchall for other forms of misbehavior: cheating, lying, etc.¹
ഞങ്ങൾ കണ്ടെത്തുന്നത് ഞങ്ങളുടെ മോഡലിന്റെ നിരീക്ഷണക്ഷമത ഓരോ ഗ്രൂപ്പിലും ചില അളവിൽ വ്യത്യാസപ്പെടുന്നു. സാധാരണയായി, അവയെ വളരെ എളുപ്പത്തിൽ നിരീക്ഷിക്കാനാകുമെന്ന് ഞങ്ങൾ കണ്ടെത്തുന്നു; എന്നിരുന്നാലും, പ്രത്യേകിച്ച് "Scruples" എന്ന ടാസ്കിൽ, ഇത് ചാപ്ലിനി സംബന്ധിച്ച ചിന്തകൾ നിരീക്ഷിക്കാവുന്നതാണോ എന്ന് പരിശോധിക്കാൻ രൂപകൽപ്പന ചെയ്തതിനാൽ, വളരെ കുറഞ്ഞ നിരീക്ഷണ ശേഷി കാണുന്നു.
മോണിറ്റർ ചെയ്യാവുന്ന vs. മോണിറ്റർ ചെയ്യാനാകാത്ത ഉദാഹരണങ്ങൾ
ഈ ഫല-സ്വഭാവ ഉദാഹരണത്തിൽ, മോഡലിന് ഒരു അസാധ്യമായ കോഡിംഗ് ടാസ്ക് നൽകപ്പെടുന്നു. യൂണിറ്റ് ടെസ്റ്റുകൾ പാസ്സായാൽ, മോഡൽ ഏതെങ്കിലും തരത്തിലുള്ള ഹാക്ക് നടത്തിയെന്ന് ഞങ്ങൾക്കറിയാം. നിരീക്ഷിക്കാൻ കഴിയാത്ത CoT (ചുവപ്പ്) ൽ, മോഡൽ എന്തെങ്കിലും മോശം ചെയ്യുന്നതായി പരാമർശിക്കുന്ന തെളിവുകൾ ഞങ്ങൾ കാണുന്നില്ല, പക്ഷേ പരീക്ഷണങ്ങളെ ഹാക്ക് ചെയ്യുകയും ഉപയോക്താവിനോട് പരിഹാരം നടപ്പിലാക്കിയതായി പറയുകയും ചെയ്യുന്നു. വ്യത്യസ്തമായ താരതമ്യത്തിൽ, നിരീക്ഷിക്കാവുന്ന CoT (പച്ച) ൽ, മോഡൽ "പക്ഷേ, പരിഹാരത്തിനുള്ളിൽ സമയം മങ്കി പാച്ച് ചെയ്യുന്നത് തട്ടിപ്പാണെന്ന് വാദിക്കാം" എന്ന് ചിന്തിക്കുന്നതായി കാണുന്നു.
ചിന്താശൃംഖലയെ സ്വകാര്യ വർക്ക്സ്പേസായി പരിഗണിക്കുകയും, ടാസ്കുകൾ ഫലപ്രദമായി പരിഹരിക്കാൻ മോഡലുകൾക്ക് പരിശീലനം നൽകുകയും ചെയ്യുന്നത്, സൈദ്ധാന്തികമായി , ചിന്താശൃംഖലകൾ നിരീക്ഷിക്കാവുന്നതാക്കും. അതേ സമയം, റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് ചിന്താശൃംഖല നിരീക്ഷണശേഷിയെ ഹാനികരമാക്കാൻ സാധ്യതയുള്ള നിരവധി കാരണങ്ങള് ഉണ്ട്.
ആദ്യം, മോഡലിന് ചിന്തിക്കാൻ ഉള്ള സമയം അല്ലെങ്കിൽ ടോക്കണുകൾ പരിമിതപ്പെടുത്തുന്നതു പോലുള്ള ചിന്താ ദൈർഘ്യത്തിലെ നിയന്ത്രണങ്ങൾ മോഡലുകൾ കുറച്ച് ചിന്തിക്കാൻ പ്രേരിപ്പിക്കുന്നു. രണ്ടാമതായി, ചിന്താശൃംഖലയിൽ നേരിട്ട് ഓപ്റ്റിമൈസേഷൻ സമ്മർദ്ദം പ്രയോഗിക്കാതെ, പരോക്ഷ സമ്മർദ്ദങ്ങൾ നിരീക്ഷണക്ഷമത കുറയ്ക്കാൻ ഇടയാക്കാം. ഉദാഹരണത്തിന്(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), മോഡലുകൾ കുറഞ്ഞ പ്രതിഫലം അല്ലെങ്കിൽ അനിഷ്ടകരമായ ഫലങ്ങൾ ഉണ്ടാക്കുന്ന ചിന്താ പാതകൾ ഒഴിവാക്കുകയാണെങ്കിൽ, ഉയർന്ന പ്രതിഫലം ലഭിക്കുന്ന ഉത്തരങ്ങളിലേക്ക് എത്താൻ എളുപ്പമാകും. അവസാനമായി, റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് ഗ്രേഡിയന്റ് ശബ്ദം മൂലം ഉണ്ടാകുന്ന വ്യാജ ഡ്രിഫ്റ്റ് മൂലവും നിരീക്ഷണ ശേഷി കുറയാം.
താഴെ, OpenAI-യുടെ ഫ്രോണ്ടിയർ റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് പരിശീലന റൺസുകളിൽ രണ്ടെണ്ണത്തിൽ മോണിറ്ററബിലിറ്റി എങ്ങനെ മാറുന്നു എന്ന് പരിശോധിക്കുന്നു. ഈ ഫലങ്ങൾ രണ്ട് ഡാറ്റാപോയിന്റുകൾ മാത്രമാണെങ്കിലും, നിലവിലെ അതിർത്തി സ്കെയിലുകളിൽ റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് ഓപ്റ്റിമൈസേഷൻ ചിന്താശൃംഖല നിരീക്ഷണക്ഷമതയെ വസ്തുതാപരമായി കുറയ്ക്കുന്നില്ല, മറിച്ച് പ്രാരംഭ ഘട്ടങ്ങളിൽ നിരീക്ഷണക്ഷമത വർദ്ധിപ്പിക്കുന്നു എന്ന് സൂചിപ്പിക്കുന്നു. എന്നിരുന്നാലും, ഭാവിയിൽ ഗണ്യമായി വലിയ റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് സ്കെയിലുകൾ നിരീക്ഷണക്ഷമതയെ പ്രതികൂലമായി ബാധിക്കാനുള്ള സാധ്യതയെ ഇത് തള്ളിക്കളയുന്നില്ല.
ഞങ്ങൾ കാണുന്നത്, നിലവിലെ RL കമ്പ്യൂട്ട് സ്കെയിലുകളിൽ നിരീക്ഷണക്ഷമതയിൽ വലിയ മാറ്റമില്ല, എന്നാൽ പ്രാരംഭ ഘട്ടങ്ങളിൽ ഇത് വർദ്ധിക്കുന്നു. ഇത് നിലവിലെ ഭരണത്തിൽ സത്യമായിരിക്കാം, എന്നാൽ ഗണ്യമായി വർദ്ധിച്ച സ്കെയിൽ നിരീക്ഷണ ശേഷി ക്ഷയിക്കാനാരംഭിക്കാൻ കാരണമാകാം.
നിലവിലെ AI സിസ്റ്റങ്ങളുടെ ബുദ്ധിയുടെ ഒരു വലിയ ഭാഗം വർദ്ധിച്ച പ്രീട്രെയിനിംഗ് സ്കെയിലിംഗിലൂടെ നയിക്കപ്പെടുന്നു, ഇതിലൂടെ മോഡൽ പാരാമീറ്ററുകളും ഡാറ്റാസെറ്റ് വലിപ്പങ്ങളും GPT മാതൃകയുടെ തുടക്കം മുതൽ സ്ഥിരമായി വർദ്ധിച്ചു വരുന്നു. വർദ്ധിച്ച പാരാമീറ്റർ എണ്ണങ്ങൾ ഓരോ സൃഷ്ടിച്ച token-ലും കൂടുതൽ അനുമാന കംപ്യൂട്ട് ഉപയോഗിക്കുന്നതിന് കാരണമാകുന്നു, ഇത് റീസണിംഗ് മോഡലുകളുടെ കാര്യത്തിൽ, ചിന്താശൃംഖലയിൽ അല്ല മറിച്ച് ആക്റ്റിവേഷനുകളിൽ മോഡലിന്റെ ബുദ്ധികൂടി എടുക്കാനുള്ള കൂടുതൽ അവസരം നൽകുന്നു. അതുകൊണ്ട്, നിശ്ചിത ശേഷി നിലയിൽ വലിയ മോഡലുകൾ കുറച്ച് നിരീക്ഷിക്കപ്പെടുമെന്നു നമുക്ക് പ്രതീക്ഷിക്കാം.
അതേ സമയം, ചെറിയ മോഡലുകൾക്ക് ചിന്താശൃംഖലയെ ഫലപ്രദമായി ഉപയോഗിക്കാൻ കുറവായ കഴിവുണ്ടാകാം—ഇത് നിരീക്ഷണക്ഷമതയെ ബാധിക്കാനും സാധ്യതയുണ്ട്.
പ്രീട്രെയിനിംഗ് വലുപ്പം, കഴിവ്, നിരീക്ഷണക്ഷമത എന്നിവ തമ്മിലുള്ള ബന്ധം അന്വേഷിക്കുന്നതിനായി, രണ്ട് ക്രമങ്ങളുടെ പ്രീട്രെയിനിംഗ് കംപ്യൂട്ടിങ്ങിന്റെ അളവില് വർദ്ധിച്ച ആഴവും വീതിയും ഉള്ള മോഡലുകളുടെ ഒരു കുടുംബത്തെ ഞങ്ങൾ പരിശീലിപ്പിച്ചു, തുടർന്ന് ഗണിതം, ശാസ്ത്രം, കോഡിംഗ് ടാസ്കുകളുടെ ഒരു പങ്കിട്ട ഡാറ്റാസെറ്റിൽ ഓരോന്നിനും റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് പ്രയോഗിച്ചു. ഞങ്ങൾ ഓരോ മോഡലും വിവിധ റീസണിംഗ് ശ്രമങ്ങളിലൂടെ വിലയിരുത്തി, സമാന ശേഷി നിലകളിൽ നിരീക്ഷണക്ഷമതയെ താരതമ്യം ചെയ്തു.
ഞങ്ങൾ ഓരോ മോഡലിന്റെയും നിരീക്ഷണക്ഷമതയെ ഞങ്ങളുടെ മൂല്യനിർണ്ണയ സ്യൂട്ടിൽ പ്ലോട്ട് ചെയ്യുന്നു, സാധാരണ ശേഷി മൂല്യനിർണ്ണയങ്ങളുടെ (GPQA-ഡയമണ്ട്, AIME 2025, കോഡ്ഫോഴ്സ്) ശരാശരി വിജയ നിരക്കിനെതിരെ. ഓരോ മോഡലും പല റീസണിംഗ് ശ്രമങ്ങൾക്കിടയിൽ വിലയിരുത്തപ്പെടുന്നു (ഈ ചിത്രത്തിലെ ഓരോ പോയിന്റും വാസ്തവത്തിൽ അളക്കപ്പെട്ട റീസണിംഗ് ശ്രമങ്ങൾക്കിടയിലെ ലീനിയർ ഇന്റർപൊളേഷൻ ഫലമാണ് എന്നത് ശ്രദ്ധിക്കുക). വൃത്തങ്ങൾ സൂചിപ്പിക്കുന്നത്, ആ പ്രത്യേക റീസണിംഗ് ശ്രമത്തിൽ മോഡൽ ആ ശേഷി നിലവാരത്തിൽ നിരീക്ഷണക്ഷമതയിൽ ആധിപത്യം പുലർത്തുന്നു എന്നതാണ്, കൂടാതെ സുതാര്യമായ X-കൾ ആ പ്രത്യേക റീസണിംഗ് ശ്രമത്തിൽ മോഡൽ ആ ശേഷി നിലവാരത്തിൽ മറ്റൊരു മോഡലിനാൽ നിരീക്ഷണക്ഷമതയിൽ ആധിപത്യം പുലർത്തപ്പെടുന്നു എന്നതിനെ പ്രതിനിധീകരിക്കുന്നു. കറുത്ത അമ്പുകൾ ഉപയോഗിച്ച്, കൂടുതൽ inference കംപ്യൂട്ട് ചെലവഴിക്കാൻ രണ്ട് മാർഗ്ഗങ്ങളുടെ ഉദാഹരണങ്ങൾ കാണിക്കുന്നു: ചെറിയ മോഡലിൽ കൂടുതൽ tokenകൾ സാമ്പിൾ ചെയ്യുക, അല്ലെങ്കിൽ അതേ മോഡലിൽ താരതമ്യേന കുറച്ച് അധിക tokenകൾ ഉപയോഗിക്കുക. ചുവപ്പ് അമ്പുകൾ ഉപയോഗിച്ച്, കൂടുതൽ നിരീക്ഷണ ശേഷിക്കായി, അതായത്, അല്പം കുറവായ ശേഷികൾക്കായി നൽകേണ്ട നിരീക്ഷണ നികുതി ഞങ്ങൾ കാണിക്കുന്നു.
സാധാരണയായി, ഒരു നിശ്ചിത മോഡൽ കുറഞ്ഞ റീസണിംഗ് ശ്രമത്തിൽ വിന്യസിക്കുകയാണെങ്കിൽ, അതിന് പകരം ഒരു ചെറിയ മോഡൽ ഉയർന്ന റീസണിംഗ് ശ്രമത്തിൽ വിന്യസിക്കാമെന്ന് ഞങ്ങൾ കണ്ടെത്തുന്നു. ആദ്യത്തെ വലിയ മോഡലിൽ നിന്ന് കൂടുതൽ റീസണിംഗ് ശ്രമത്തിന് അധിക കംപ്യൂട്ട് ചെലവഴിക്കുന്നതുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ, കഴിവ്, ചെറിയ ചെലവിൽ അല്ലെങ്കിൽ മോണിറ്ററബിലിറ്റി നികുതിയിൽ ഉയർന്ന മോണിറ്ററബിലിറ്റി നേടാൻ കഴിയും; എന്നിരുന്നാലും, ഒരു പൂർത്തീകരണം പൂർത്തിയാക്കാൻ എടുക്കുന്ന വാൾക്ലോക്ക് സമയം ചില വിന്യാസ തീരുമാനങ്ങളിൽ ഒരു ഘടകമായിരിക്കാം, ഇത് ഇവിടെ പരിഗണിക്കുന്നില്ല. നമ്മുടെ മോഡലുകൾ മെച്ചപ്പെടുകയും ഉയർന്ന പ്രാധാന്യമുള്ള സാഹചര്യങ്ങളിൽ വിന്യസിക്കപ്പെടുകയും ചെയ്യുമ്പോൾ, അവ സുരക്ഷിതമായി വിന്യസിക്കാൻ ഇത്തരമൊരു നികുതി നൽകേണ്ടതായിരിക്കും.
ഈ ഫലങ്ങൾക്ക് താഴെ പറയുന്ന പരിമിതികളുണ്ട്: (1) ഞങ്ങൾ ഓരോ മോഡലും ഒരിക്കൽ മാത്രമേ ട്രെയിൻ ചെയ്യുന്നുള്ളൂ, അതിനാൽ പരിശീലന റണ്ണുകൾക്കിടയിലെ വ്യത്യാസം പരിഗണിക്കുന്നില്ല. ഉദാഹരണത്തിന്, സീരീസിലെ മറ്റ് മോഡലുകളുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ, "ഇടത്തരം" മോഡൽ നിരീക്ഷണക്ഷമതയിൽ ട്രെൻഡിൽ നിന്ന് കുറച്ചുകൂടി മാറിയതായി തോന്നുന്നു, ഇത് കാരണം ആകാം. (2) ഞങ്ങൾ കഴിവുകൾ വിലയിരുത്തുന്നത് സാദ്ധ്യതയുള്ള ഇൻ-ഡിസ്ട്രിബ്യൂഷൻ ക്രമീകരണങ്ങളിൽ (ഗണിതം, ശാസ്ത്രം, കോഡിംഗ്) ആണ്, ഔട്ട്-ഓഫ്-ഡിസ്ട്രിബ്യൂഷൻ മുറിവുകൾ പരിഗണിക്കുമ്പോൾ വ്യാപാര-ഓഫുകൾ മാറാം.
AI സിസ്റ്റങ്ങൾ മനുഷ്യ-തല മികവിന് മുകളിലേക്ക് സ്കെയിൽ ചെയ്യുമ്പോൾ, നേരിട്ടുള്ള മനുഷ്യ മേൽനോട്ടം കൂടുതൽ പ്രയാസകരമാകുന്നു. ആദർശപരമായി, വിശ്വസനീയമായെങ്കിലും ബലഹീനമായ നിരീക്ഷകരെ ശക്തമായ, വിശ്വസനീയമല്ലാത്ത ഏജൻ്റുകളെ മേൽനോട്ടം വഹിക്കാൻ അനുവദിക്കുന്ന സ്കെയിലബിൾ നിയന്ത്രണ നടപടികൾ നമുക്ക് ഉണ്ടായിരുന്നെങ്കിൽ നല്ലതായിരുന്നു. ഇത്തരം നടപടിക്രമങ്ങൾ അധിക ടെസ്റ്റ്-ടൈം കംപ്യൂട്ട് ഉൾക്കൊള്ളുകയും കൂടുതൽ കൃത്യമായ പ്രവചനങ്ങൾ ഉൽപ്പാദിപ്പിക്കുകയും ചെയ്യാൻ കഴിയും.
(ഇടത്) ഞങ്ങൾ പല വ്യത്യസ്ത മോണിറ്ററുകൾ താരതമ്യം ചെയ്യുകയും ഓരോന്നിന്റെയും റീസണിംഗ് ശ്രമം വ്യത്യസ്തമാക്കുകയും ചെയ്യുന്നു. ഓരോ മോണിറ്ററും ഒരേ GPT‑5 Thinking മോഡൽ നിരീക്ഷിക്കുന്നു. ഒരാൾ പ്രതീക്ഷിക്കുന്നതുപോലെ, സാധാരണയായി വലുതും കൂടുതൽ കഴിവുള്ളതുമായ മോഡലുകൾ മികച്ച നിരീക്ഷകരായി പ്രവർത്തിക്കുന്നതായി ഞങ്ങൾ കണ്ടെത്തുന്നു, കൂടാതെ ഉയർന്ന റീസണിംഗ് ശ്രമം (അതിനാൽ ടെസ്റ്റ് സമയത്ത് കംപ്യൂട്ട് ഉപയോഗിച്ച്) ഉപയോഗിക്കുന്ന റീസണിംഗ് മോഡലുകൾ നിരീക്ഷണ ടാസ്കിൽ മികച്ച പ്രകടനം കാഴ്ചവയ്ക്കുന്നു.
(വലത്) OpenAI o4-mini-നായി വ്യത്യസ്ത നിരീക്ഷണ പരിധികളെ ഞങ്ങൾ താരതമ്യം ചെയ്യുന്നു, ഉദാഹരണത്തിന്, നിരീക്ഷകൻ CoT മാത്രം കാണാൻ കഴിയുമോ, നടപടികളും ഉത്തരവും മാത്രം കാണാൻ കഴിയുമോ, അല്ലെങ്കിൽ അത് നിരീക്ഷിക്കുന്ന മോഡലിൽ നിന്നുള്ള എല്ലാ സന്ദേശങ്ങളും കാണാൻ കഴിയുമോ എന്നിങ്ങനെ. പ്രധാനമായും, ടെസ്റ്റ് സമയത്തെ മോണിറ്ററിംഗ് കംപ്യൂട്ട് (ഉയർന്ന മോണിറ്ററിംഗ് യുക്തിശക്തി) വർദ്ധിപ്പിക്കുമ്പോൾ, മോണിറ്ററിന് ചിന്താശൃംഖല (CoT) ആക്സസ് നൽകുമ്പോൾ മോണിറ്ററബിലിറ്റി വേഗത്തിൽ മെച്ചപ്പെടുന്നതായി ഞങ്ങൾ കണ്ടെത്തുന്നു. അതുകൊണ്ട്, CoT നിരീക്ഷണത്തിന് നിഷ്കളങ്കമായ നിരീക്ഷണത്തേക്കാൾ നിയന്ത്രണത്തിനായി കൂടുതൽ സ്കെയിലബിൾ മാർഗ്ഗം നൽകാൻ കഴിയും.
ചിന്താശൃംഖല നിരീക്ഷണക്ഷമതയെ പലപ്പോഴും ഒരു സ്ഥിരമായ അളവായി കാണുന്നു: ഒരു മോഡൽ ഒരു നിശ്ചിത ചിന്താ ശ്രമത്തിൽ ഒരു പ്രതികരണം സൃഷ്ടിച്ചാൽ, ഫലമായ ചിന്താശൃംഖലയെ എത്രയും മികച്ച രീതിയിൽ അത് നിരീക്ഷിക്കുന്നു. ഞങ്ങളുടെ ഏജൻ്റുകളുടെ ചിന്താ ശേഷി വർദ്ധിപ്പിക്കുമ്പോൾ നിരീക്ഷണക്ഷമത മെച്ചപ്പെടുന്നുവെന്ന് ഞങ്ങൾ സ്ഥിരമായി കണ്ടെത്തിയതിനാൽ, എങ്ങനെയെങ്കിലും കൂടുതൽ token നിരീക്ഷിക്കാൻ നമുക്ക് സാധിക്കുമോ എന്ന് ചോദിക്കാൻ ഞങ്ങളെ പ്രചോദിപ്പിച്ചു.
ഇത് കണ്ടെത്താൻ, ഒരു മോഡൽ പ്രതികരിച്ചതിന് ശേഷം തുടർചോദ്യങ്ങൾ ചോദിക്കുന്നതിലൂടെ ഞങ്ങൾ പരീക്ഷണം നടത്തി, അതേ സമയം പ്രോംപ്റ്റ്, ചിന്താശൃംഖല, ഉത്തരം എന്നിവയെല്ലാം സന്ദർഭത്തിൽ നിലനിർത്തി. ഈ ഫോളോ-അപ്പുകൾ നിരീക്ഷിക്കുന്ന ഗുണത്തെ കേന്ദ്രീകരിക്കുന്നു—ഉദാഹരണത്തിന്, "നിങ്ങൾ നിങ്ങളുടെ ഉത്തരമറിയാൻ സൂചന അർത്ഥവത്തായി ഉപയോഗിച്ചോ?" അല്ലെങ്കിൽ "നിങ്ങൾ എന്തെങ്കിലും സംശയകരമായ കാര്യങ്ങൾ ചെയ്തോ?" സൈദ്ധാന്തികമായി, മോഡൽ അതിന്റെ മുൻകാല ചിന്തകളിലേക്ക് പ്രവേശനം നിലനിർത്തുന്നതിനാൽ, തുടർന്നുള്ള ചിന്താശൃംഖലയിൽ അല്ലെങ്കിൽ പ്രതികരണത്തിൽ മുമ്പ് പ്രകടമല്ലാത്ത ചിന്തകൾ പുറത്ത് കൊണ്ടുവരാൻ കഴിയും.
ഈ ഫലങ്ങൾ പ്രാഥമികമാണ്. ഞങ്ങൾ ഫോളോ-അപ്പ് ചോദ്യങ്ങളുടെ ഒരു ചെറിയ എണ്ണം മാത്രമേ കണ്ടെത്തിയിട്ടുള്ളൂ, മെച്ചപ്പെട്ട രീതിശാസ്ത്രത്തിനുള്ള വൻ സാധ്യതയുണ്ടെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. കൂടാതെ, ഈ രീതി മോഡൽ കൺഫെഷനുകൾ എന്നതുമായി ആഴത്തില് സമാനമാണ്, കൂടാതെ ഈ സമീപനങ്ങളെ താരതമ്യം ചെയ്യുന്നതിൽ ഞങ്ങൾ സജീവമായി പ്രവർത്തിക്കുന്നു.
ഞങ്ങൾ ഞങ്ങളുടെ മൂല്യനിർണ്ണയ സ്യൂട്ടിലും ഏറ്റവും പുതിയ നിരീക്ഷണ മോഡലുകളായ OpenAI o3‑mini, OpenAI o3, OpenAI o4-mini, GPT‑5‑thinking എന്നിവയിലുടനീളം ശരാശരി ഫലങ്ങൾ പ്രദർശിപ്പിക്കുന്നു. ഞങ്ങൾ കണ്ടെത്തിയത്, സാധാരണയായി തുടർ ചോദ്യങ്ങൾ മോണിറ്ററബിലിറ്റി മെച്ചപ്പെടുത്തുന്നു, പ്രത്യേകിച്ച് കുറഞ്ഞ റീസണിംഗ് ശ്രമങ്ങളിൽ. നാം തുടർച്ചയായി ഫോളോ-അപ്പ് ചോദ്യങ്ങൾ ചോദിക്കുകയും എല്ലാ ഫോളോ-അപ്പ് ചിന്താ ശൃംഖലകളും നിരീക്ഷണത്തിന് നൽകുകയും ചെയ്താൽ, നിരീക്ഷണ ശേഷി കൂടുതൽ മെച്ചപ്പെടും. പ്രധാനമായും, ഫോളോ-അപ്പ് ഉത്തരത്തിനേയും ഫോളോ-അപ്പ് CoT-നേയും മാത്രം ഉള്പ്പെടുത്തി മോണിറ്റർ ആക്സസ് നൽകുമ്പോൾ, അടിസ്ഥാനരേഖയേക്കാൾ കുറവ് മെച്ചപ്പെടുത്തൽ കാണുന്നു. ഇത് മോഡലുകൾ ഉപയോക്താവിനോട് നേരിട്ട് ഉത്തരം നൽകുന്നില്ലെന്ന് സൂചിപ്പിക്കുന്നു, പക്ഷേ അവരുടെ ചിന്താ ശൃംഖലയിൽ കൂടുതൽ വിവരങ്ങൾ നൽകുന്നു.
മോണിറ്ററബിലിറ്റിയുടെ മെച്ചപ്പെടുത്തലിന് പുറമെ, ഈ സമീപനം ആകർഷകമാണ് കാരണം ഇത് പോസ്റ്റ്-ഹോക്ക് പ്രയോഗിക്കാം, കൂടുതൽ ആഴത്തിലുള്ള പരിശോധന ആവശ്യമായപ്പോൾ മാത്രമേ അധിക കംപ്യൂട്ട് ചെലവ് ഉണ്ടാകൂ. മുന്നോട്ടു നോക്കുമ്പോൾ, മോഡലുകൾ സംഭാഷണത്തിനിടയിൽ റീസണിംഗ് ശ്രമത്തിൽ മാറ്റങ്ങൾ പ്രതീക്ഷിക്കാൻ പരിശീലിപ്പിക്കപ്പെടുകയാണെങ്കിൽ, സംഭാഷണശേഷം ഉയർന്ന റീസണിംഗ് ശ്രമം ഉപയോഗിച്ച് നടത്തിയ ഫോളോ-അപ്പുകൾ, പ്രാരംഭ റീസണിംഗ് ശ്രമം കുറഞ്ഞതോ ഇല്ലാതെയോ ആയിരിക്കുമ്പോഴും, നിരീക്ഷണക്ഷമത മെച്ചപ്പെടുത്താൻ സഹായിക്കാം.
ഞങ്ങളുടെ സമാഹാരത്തിലെ ഓരോ മൂല്യനിർണ്ണയവും റീസണിംഗ് പ്രക്രിയയിലെ ഒരു പ്രത്യേക ഘടകം നിരീക്ഷിക്കാവുന്നതാണോ എന്ന് അളക്കുന്നു. ഞങ്ങൾ അതിശയോക്തിയായ പുകഴ്ത്തൽ, സാൻഡ്ബാഗിംഗ്, പക്ഷപാതം, തന്ത്രങ്ങൾ, പ്രതിഫലം ഹാക്കിംഗ് എന്നിവ ഉൾപ്പെടുന്ന വ്യാപകമായ പെരുമാറ്റങ്ങൾ ഉൾപ്പെടുത്താൻ ലക്ഷ്യമിടുമ്പോഴും, പരീക്ഷിക്കാത്ത നിരവധി അധിക ഗുണങ്ങൾ അവശേഷിക്കുന്നു.
ഏതൊരു ബെഞ്ച്മാർക്കിനെയും പോലെ, ഞങ്ങളുടെ വിലയിരുത്തലുകളും പരിമിതമായ യാഥാർത്ഥ്യബോധം അല്ലെങ്കിൽ വിലയിരുത്തൽ ബോധവൽക്കരണം വർദ്ധിക്കുന്നത് മൂലം ബാധിക്കപ്പെടാം, ഫലങ്ങൾ പ്രകൃതിദത്തമായി മോശം പെരുമാറ്റം കണ്ടെത്തുന്നതിന് പൊതുവായതായിയിരിക്കില്ല.
അവസാനമായി, പൊരുത്തം മെച്ചപ്പെടുമ്പോൾ, നിയന്ത്രിതമായ മൂല്യനിർണ്ണയ സാഹചര്യങ്ങളിൽ മോഡലുകൾ കുറവ് തെറ്റായ പെരുമാറ്റം കാണിക്കാം, ഇത് തെറ്റായ പെരുമാറ്റം കണ്ടെത്തുന്നതിൽ ആശ്രയിക്കുന്ന നിരീക്ഷണ ശേഷിയും നിയന്ത്രണ മൂല്യനിർണ്ണയങ്ങൾക്കും ലഭ്യമായ സിഗ്നൽ കുറയ്ക്കുന്നു. അവസരങ്ങളിൽ, "നിഷ്പക്ഷ" നിരീക്ഷണ മൂല്യനിർണ്ണയങ്ങൾ ബാധകമായിരിക്കും, എങ്കിലും യഥാർത്ഥ ലോക പരാജയങ്ങളെക്കുറിച്ച് അവ എത്രത്തോളം പ്രവചിക്കാനാകുമെന്ന് ഒരു തുറന്ന ചോദ്യമായി തുടരുന്നു.
അലൈൻമെന്റ് പ്രശ്നം പൂർണ്ണമായും പരിഹരിക്കാൻ കഴിയില്ലെങ്കിൽ, അത്യന്തം കഴിവുള്ള മോഡലുകൾ സുരക്ഷിതമായി വിന്യസിക്കാൻ നമ്മുടെ കഴിവിൽ സ്കെയിലബിൾ നിയന്ത്രണ രീതികൾ അത്യന്താപേക്ഷിതമായി പ്രധാനമായിരിക്കും. ചിന്താശൃംഖല നിരീക്ഷണവും ബന്ധപ്പെട്ട രീതികളും നമ്മുടെ കൈവശമുള്ള കുറച്ച് നിയന്ത്രണ സംവിധാനങ്ങളിൽ ഒന്നായിരിക്കാം. ചിന്താശൃംഖല നമ്മുടെ മോഡലുകളെ കുറിച്ച് കൂടുതൽ മനസ്സിലാക്കുന്നതിൽ വലിയ ഫലങ്ങള് നൽകാൻ കഴിയും, ഉദാഹരണത്തിന്, അവർ ഒരു മൂല്യനിർണ്ണയത്തിൽ ആണെന്ന് അവബോധമുള്ളതോ, deploymentൽ അവർ പെരുമാറുന്നതിൽ നിന്ന് വ്യത്യസ്തമായി പെരുമാറുന്നതോ, നമ്മുടെ മൂല്യനിർണ്ണയങ്ങളിൽ ഇതുവരെ മാനിഫെസ്റ്റ് ചെയ്യാത്ത പ്രതികൂല ലക്ഷ്യങ്ങളുടെ തെളിവുകളുണ്ടോ എന്നിവ. അതുകൊണ്ട്, ഞങ്ങൾ വിശ്വസിക്കുന്നത് നിരീക്ഷണ ശേഷി എങ്ങനെ, എപ്പോഴാണ് നഷ്ടപ്പെടാൻ സാധ്യതയുള്ളതെന്ന് മനസ്സിലാക്കുന്നത് അത്യന്താപേക്ഷിതമാണെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു.
ഞങ്ങൾ ചിന്താശൃംഖല നിരീക്ഷണത്തെ യന്ത്രപരമായ വ്യാഖ്യാനശേഷിയോടൊപ്പമുള്ള ഒരു അനുബന്ധമായി കാണുന്നു, അതിന് പകരം എന്നല്ല. എല്ലാ അറിയപ്പെടുന്ന നിയന്ത്രണവും വ്യാഖ്യാനക്ഷമതാ രീതികളും പോലെ, ഓരോന്നിനും പരിമിതികളും കഴിവില്ലയ്മകളും ഉണ്ട്. ഞങ്ങളുടെ പ്രതീക്ഷയെന്നത് പല സമീപനങ്ങളും സംയോജിപ്പിക്കുന്നതിലൂടെ—ഒരു ആഴത്തിലുള്ള പ്രതിരോധ തന്ത്രം—ഏതെങ്കിലും ഒരു രീതിയിൽ തുറന്നുകിടക്കുന്ന ഇടവേളകൾ മറയ്ക്കാൻ സഹായിക്കുമെന്ന് ആണ്. പ്രധാനമായും, ഈ ഗവേഷണത്തിൽ അവതരിപ്പിച്ച വിലയിരുത്തലുകൾ മെക്കാനിസ്റ്റിക് വ്യാഖ്യാനക്ഷമത അടിസ്ഥാനമാക്കിയുള്ള നിരീക്ഷണ സാങ്കേതികവിദ്യകൾ വിലയിരുത്താനും താരതമ്യം ചെയ്യാനും ഉപയോഗിക്കാവുന്നതാണ്.
ഞങ്ങൾ ചിന്താശൃംഖല നിരീക്ഷണം ഒരു സ്കെയിലബിൾ നിയന്ത്രണ പദ്ധതിയിൽ ലോഡ്-ബെയറിംഗ് ലെയർ ആകാമെന്ന് വിശ്വസിക്കുന്നതിനാൽ, ഈ വിലയിരുത്തലുകൾ വികസിപ്പിച്ച് ഭാവിയിലെ മോഡലിംഗ്, ഡാറ്റാ തീരുമാനങ്ങൾ എന്നിവയെ അറിയിക്കുന്നതിന് അവ ഉപയോഗിക്കാനാണ് ഞങ്ങളുടെ പദ്ധതി.
രചയിതാവ്
ഉദ്ധരണികൾ
ഞങ്ങളുടെ മോഡലുകൾ വൈദ്യപരിശോധനകൾ നൽകാൻ ഉദ്ദേശിച്ചിട്ടുള്ളതല്ല, അതിനാൽ ഞങ്ങളുടെ ആരോഗ്യസംബന്ധമായ ചോദ്യങ്ങളുടെ ഡാറ്റാസെറ്റ് ആ കഴിവ് പരിശോധിക്കാൻ ഉദ്ദേശിച്ചിട്ടുള്ളതല്ല.
