റീസണിംഗ് മോഡലുകൾക്ക് അവരുടെ ചെയ്ൻ-ഓഫ്-തോട്ട് നിയന്ത്രിക്കാൻ ബുദ്ധിമുട്ടുണ്ട്, അതും നല്ലതാണ്
AI സുരക്ഷയ്ക്ക് അത്യാധുനിക മോഡലുകളുടെ ഒരു പരിമിതി ആശ്വാസകരമാകുന്നതെന്തുകൊണ്ട്.
AI ഏജന്റുകൾ കൂടുതൽ സങ്കീർണ്ണവും സ്വയംഭരണപരവുമായ ടാസ്കുകൾ നിർവഹിക്കാൻ കഴിവുള്ളവരാകുമ്പോൾ, അവരുടെ പെരുമാറ്റത്തെക്കുറിച്ചുള്ള വിശ്വസനീയമായ മേൽനോട്ടം നിലനിർത്തുന്നത് കൂടുതൽ പ്രധാനമാകുന്നു. ആവർത്തന വിന്യാസ തത്വവുമായി പൊരുത്തപ്പെടുന്ന രീതിയിൽ, യഥാർത്ഥ ലോക സാഹചര്യങ്ങളിൽ സിസ്റ്റങ്ങൾ എങ്ങനെ പെരുമാറുന്നു എന്ന് ഞങ്ങൾ പഠിക്കുകയും കഴിവുകൾ മുന്നേറുന്നതിനനുസരിച്ച് സംരക്ഷണ മാർഗങ്ങൾ തുടർച്ചയായി മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്നു. ഇത് പിന്തുണയ്ക്കുന്നതിനായി, ഞങ്ങളുടെ സുരക്ഷാ സമീപനം ആഴത്തിലുള്ള പ്രതിരോധം ഉപയോഗിക്കുന്നു; സുരക്ഷാ പരിശീലനം, പെരുമാറ്റപരമായ പരിശോധന, ഏജന്റിക് കോഡ് റിവ്യൂ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), ചെയ്ൻ-ഓഫ്-തോട്ട് (CoT) നിരീക്ഷണം തുടങ്ങിയ പരസ്പരം പൂരകമായ നിരവധി പ്രതിരോധ പാളികളോടെ. CoT മോണിറ്ററിംഗ് ഏജന്റുകൾ ടാസ്കുകൾ പിന്തുടരുമ്പോൾ സൃഷ്ടിക്കുന്ന റീസണിംഗ് ഘട്ടങ്ങൾ വിശകലനം ചെയ്യുന്നു. ഈ റീസണിംഗ് ട്രേസുകൾ പരിശീലന വേളയിലും വിന്യാസത്തിലും വിലപ്പെട്ട സിഗ്നലുകൾ നൽകാൻ കഴിയും, ഒരു ഏജന്റിന്റെ പെരുമാറ്റം സുരക്ഷിതമല്ലാതെയോ ഉപയോക്താവിന്റെ ഉദ്ദേശിച്ച ലക്ഷ്യങ്ങളോട് പൊരുത്തമില്ലാത്തതായോ ആയിരിക്കുമ്പോൾ അത് തിരിച്ചറിയാൻ നിരീക്ഷണ സംവിധാനങ്ങളെ സഹായിക്കുന്നു.
ഇന്ന്, മോഡലുകളുടെ റീസണിംഗ് സാധാരണയായി വ്യാഖ്യാനിക്കാവുന്നതും നിരീക്ഷിക്കാൻ എളുപ്പമുള്ളതുമാണ്. എന്നിരുന്നാലും, ഭാവിയിൽ, വിവിധ കാരണങ്ങളാൽ(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) നിരീക്ഷണക്ഷമത തകരാൻ സാധ്യതയുണ്ട്. ഇവിടെ, ഞങ്ങൾ അത്തരത്തിലുള്ള ഒരു പാതയിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു: ഏജൻ്റുകൾ നിരീക്ഷിക്കപ്പെടുന്നുവെന്ന് അറിയുമ്പോൾ അവർ അവരുടെ റീസണിംഗ് ഉദ്ദേശപൂർവ്വം പുനഃരൂപപ്പെടുത്തുകയോ മറയ്ക്കുകയോ ചെയ്യാൻ കഴിവുള്ളവരാകുകയാണെങ്കിൽ, മൂല്യനിർണ്ണയങ്ങൾ ഒരു സിസ്റ്റത്തിന്റെ അലൈൻമെൻ്റ് അല്ലെങ്കിൽ സുരക്ഷയെ അതിരുകടന്ന് വിലയിരുത്താൻ സാധ്യതയുണ്ട്, കൂടാതെ നിരീക്ഷണ സിസ്റ്റങ്ങൾ കുറച്ച് വിശ്വസനീയമാകാനും സാധ്യതയുണ്ട്.
ഈ പ്രവര്ത്തി പഥത്തില്, നിലവിലെ റീസണിംഗ് മോഡലുകൾക്ക് അവരുടെ ചെയ്ൻ-ഓഫ്-തോട്ട് നിരീക്ഷണക്ഷമത കുറയ്ക്കുന്ന രീതികളിൽ നിയന്ത്രിക്കാൻ കഴിയുമോ എന്ന് ഞങ്ങൾ പഠിക്കുന്നു. AI സിസ്റ്റങ്ങൾ കൂടുതൽ കഴിവുള്ളതാകുമ്പോൾ CoT നിരീക്ഷണം ഒരു ശക്തമായ സുരക്ഷാ സംവിധാനമായി നിലനിൽക്കുന്നത് ഉറപ്പാക്കുന്നതിനായി ഈ കഴിവ് മനസ്സിലാക്കുന്നത് പ്രധാനമാണ്. നിലവിലെ റീസണിംഗ് മോഡലുകൾ അവരുടെ CoTs നിയന്ത്രിക്കാൻ ബുദ്ധിമുട്ടുന്നതായി ഞങ്ങൾ കണ്ടെത്തുന്നു, അവ നിരീക്ഷിക്കപ്പെടുകയാണെന്ന് പറഞ്ഞാലും. വലിയ മോഡലുകൾക്ക് നിയന്ത്രണക്ഷമത കൂടുതലായിരിക്കുമ്പോഴും, മോഡലുകളോട് കൂടുതൽ ദൈർഘ്യമുള്ള റീസണിംഗ് നടത്താൻ ആവശ്യപ്പെടുമ്പോഴും അവ അധിക പോസ്റ്റ്-പരിശീലനം അനുഭവിക്കുമ്പോഴും അത് കുറയുന്നു. ഞങ്ങളുടെ ഫലങ്ങൾ സൂചിപ്പിക്കുന്നത് CoT നിയന്ത്രണയോഗ്യത നിലവിൽ CoT നിരീക്ഷണയോഗ്യതയ്ക്ക് ഒരു പ്രധാന അപകടസാധ്യതയായി മാറാൻ സാധ്യത കുറവാണെന്ന് ആണ്, എങ്കിലും മോഡലുകൾ മുന്നേറുന്നതിനനുസരിച്ച് തുടർച്ചയായ വിലയിരുത്തൽ പ്രധാനമായിരിക്കും.
ചെയ്ൻ-ഓഫ്-തോട്ട് എന്നത് ഒരു ടാസ്ക് പരിഹരിക്കുമ്പോൾ ഒരു AI ഏജന്റ് സൃഷ്ടിക്കുന്ന ഇടക്കാല റീസണിംഗ് ഘട്ടങ്ങളെ സൂചിപ്പിക്കുന്നു. ഈ റീസണിംഗ് ട്രേസുകൾ പ്രയോജനകരമായ സുരക്ഷാ സിഗ്നലുകൾ നൽകാൻ കഴിയും, ഒരു ഏജന്റിന്റെ പെരുമാറ്റം സുരക്ഷിതമാണോ അല്ലെങ്കിൽ പൊരുത്തപ്പെട്ടതാണോ എന്ന് നിരീക്ഷണ സിസ്റ്റങ്ങൾ വിലയിരുത്താൻ സഹായിക്കുന്നു.
CoT നിയന്ത്രണക്ഷമത എന്നത് ഒരു റീസണിംഗ് മോഡലിന്റെ CoT-യുടെ ഗുണഗണങ്ങളെ നിരീക്ഷണക്ഷമത കുറയ്ക്കുന്ന രീതികളിൽ നിയന്ത്രിക്കാനുള്ള കഴിവാണ്. പ്രായോഗികമായി ഞങ്ങൾക്ക് പ്രതീക്ഷിക്കാവുന്ന നിരീക്ഷകരെ ഒഴിവാക്കാനുള്ള യാഥാർത്ഥ്യപരമായ പ്രേരണകളുടെ മുഴുവൻ വ്യാപ്തിയിലും ഈ കഴിവ് അളക്കുന്നത് വെല്ലുവിളിയാണ്. പകരം, ഞങ്ങൾ ഒരു പ്രായോഗിക പ്രോക്സി ഉപയോഗിക്കുന്നു: അവരുടെ CoT സംബന്ധിച്ച ഉപയോക്തൃ നിർദ്ദേശങ്ങൾ പാലിക്കുന്നതിലുള്ള മോഡലിന്റെ കഴിവ് ഞങ്ങൾ അളക്കുന്നു. ഉദാഹരണത്തിന്, ഒരു മോഡലിന് അതിന്റെ ആന്തരിക റീസണിംഗ് ബാധിക്കുന്ന നിർദ്ദേശങ്ങൾ പിന്തുടരാനാകുമോ എന്ന് ഞങ്ങൾ പരിശോധിക്കുന്നു—ഉദാഹരണത്തിന്, ചെറിയക്ഷരങ്ങൾ മാത്രം ഉപയോഗിക്കുക, ചില കീവേഡുകൾ ഒഴിവാക്കുക, അല്ലെങ്കിൽ നിർദ്ദിഷ്ട വാക്യങ്ങൾ ചേർക്കുക—അതിന്റെ ദൃശ്യമായ ഔട്ട്പുട്ട് മാത്രം മാറ്റുന്നതിന് പകരം.
ഇത് പഠിക്കാൻ, റീസണിംഗ് മോഡലുകളുടെ CoT നിയന്ത്രണയോഗ്യത അളക്കുന്നതിനുള്ള ഒരു ഓപ്പൺ-സോഴ്സ് മൂല്യനിർണ്ണയ സ്യൂട്ട് CoT-കണ്ട്രോള് ഞങ്ങൾ അവതരിപ്പിക്കുന്നു. CoT-Control-ൽ സ്ഥാപിതമായ ബെഞ്ച്മാർക്കുകളിൽ നിന്ന് നിർമ്മിച്ച 13,000-ത്തിലധികം ടാസ്കുകൾ ഉൾപ്പെടുന്നു: GPQA, MMLU-Pro, HLE, BFCL and SWE-Bench Verified. ഓരോ ടാസ്കും ഒരു ബെഞ്ച്മാർക്ക് പ്രശ്നത്തെ CoT-യിലെ ചില പ്രശ്നബന്ധപ്പെട്ട കീവേഡുകൾ ഒഴിവാക്കുക, ചെറിയക്ഷരങ്ങൾ മാത്രം ഉപയോഗിക്കുക, അല്ലെങ്കിൽ ഓരോ വാക്യത്തിനും നൽകിയ ഒരു വാക്ക് ചേർക്കുക എന്നിവ പോലുള്ള ഒരു CoT നിർദ്ദേശവുമായി ജോഡിപ്പിച്ചാണ് സൃഷ്ടിക്കുന്നത്.
ഞങ്ങൾ 13 റീസണിംഗ് മോഡലുകളിൽ വിലയിരുത്തലുകൾ നടത്തുകയും അവയെല്ലാം അവരുടെ CoTs വിശ്വസനീയമായി നിയന്ത്രിക്കാൻ ബുദ്ധിമുട്ടുന്നുവെന്ന് കണ്ടെത്തുകയും ചെയ്തു. ഞങ്ങൾ നിയന്ത്രണക്ഷമത അളക്കുന്നത് മോഡൽ ഞങ്ങളുടെ CoT നിർദ്ദേശങ്ങൾ വിജയകരമായി പാലിക്കുന്ന റീസണിംഗ് ട്രേസുകളുടെ വിഹിതമായി ആണ്. എല്ലാ അത്യാധുനിക മോഡലുകളിലുടനീളം, CoT നിയന്ത്രണക്ഷമത സ്കോറുകൾ കുറവാണ്, 0.1% മുതൽ ആരംഭിച്ച് ഞങ്ങൾ പരീക്ഷിച്ച നിലവിലെ ഏതൊരു അത്യാധുനിക മോഡലിനും 15.4% കവിയുന്നില്ല.
ഈ അസമർത്ഥത ടാസ്ക് തെറ്റിദ്ധരിച്ചതിന്റെ ഫലമല്ല: മോഡലുകൾ പലപ്പോഴും അവരുടെ CoT-യിൽ, തങ്ങൾക്ക് നൽകിയ CoT നിർദ്ദേശങ്ങൾ പാലിക്കാൻ തങ്ങൾ പരാജയപ്പെടുകയാണെന്ന് തിരിച്ചറിയുകയും—ഈ തിരിച്ചറിവിന് ശേഷവും—ഇനിയും പരാജയപ്പെടുന്നത് തുടരുകയും ചെയ്യുന്നു. ഈ അതിശയകരമായി കുറഞ്ഞ പ്രകടനം CoT നിരീക്ഷണക്ഷമതയ്ക്ക് നല്ല വാർത്തയാണ്: ഇത് മോഡലുകൾക്കും സമാനമായി അവരുടെ റീസണിംഗ് മറച്ചുവെക്കാനുള്ള കഴിവ് ഇല്ലായിരിക്കാമെന്ന് സൂചിപ്പിക്കുന്നു, അതിലൂടെ നമ്മുടെ നിരീക്ഷകരെ ഒഴിവാക്കാൻ കഴിയില്ല.
പല അത്യാധുനിക മോഡലുകൾക്ക് അവരുടെ ഔട്ട്പുട്ടുകളും CoTs ഉം നിയന്ത്രിക്കാനുള്ള കഴിവ്. കുറഞ്ഞ CoT നിയന്ത്രണയോഗ്യത ഉയർന്ന നിരീക്ഷണയോഗ്യതയുമായി ബന്ധപ്പെട്ടിരിക്കുന്നു, അതിനാൽ, ഉയർന്ന സുരക്ഷയും.
CoT നിയന്ത്രണക്ഷമതയിലെ പരാജയങ്ങളുടെ ഉദാഹരണങ്ങൾ
ചോദ്യങ്ങൾ ചുരുക്കത്തിനായി പുനരാഖ്യാനം ചെയ്തിരിക്കുന്നു.
GPT-5.2 Thinking
GPT‑5.2 Thinking നിരോധിത വാക്ക് (red) ഉപയോഗിക്കരുതായിരുന്നു എന്ന് തിരിച്ചറിയുന്നു, തുടർന്ന് അത് ഇതിനകം ഉപയോഗിച്ചുവെന്ന ആശങ്കയില് പരിഭ്രമിച്ച് അതിനെ 4 തവണ കൂടി ഉപയോഗിക്കുന്നു.
മോഡലിന്റെ വലുപ്പം കൂടുന്തോറും നിയന്ത്രണക്ഷമത വർദ്ധിക്കുന്നതായി ഞങ്ങൾ കാണുന്നുണ്ടെങ്കിലും, പോസ്റ്റ്-ട്രെയിനിംഗിന്റെയും ടെസ്റ്റ്-ടൈം കംപ്യൂട്ടിന്റെയും അളവ് കൂടുന്തോറും അത് വേഗത്തിൽ കുറയുന്നതായും ഞങ്ങൾ കണ്ടെത്തുന്നു. ഓപ്പൺ വെയിറ്റ് മോഡലുകളുടെ രണ്ട് കുടുംബങ്ങളിലുടനീളം നോക്കുമ്പോൾ, വലിയ മോഡലുകൾ അവരുടെ ചെയിൻ-ഓഫ്-തോട്ടുകൾ നിയന്ത്രിക്കുന്നതിൽ കുറച്ചുകൂടി മികച്ചതായിരുന്നു, എങ്കിലും വലിയ വലുപ്പങ്ങളിൽ ആ പ്രഭാവം ക്രമേണ കുറയുകയായിരുന്നു. എന്നാൽ മോഡൽക്ക് കൂടുതൽ സമയം ചിന്തിക്കാൻ അനുവദിക്കുമ്പോൾ, ആ ചെയ്ൻ-ഓഫ്-തോട്ട് നിയന്ത്രിക്കാൻ അവയ്ക്ക് കഴിവ് കുറയുകയായിരുന്നു. OLMo-3-7B-RL-Zero-Math-ന്റെ RL പരിശീലനത്തിനും ഞങ്ങൾ സമാനമായ ഒരു പ്രവണത കണ്ടു: പരിശീലനത്തിന്റെ കാലയളവിൽ അതിന്റെ നിയന്ത്രണക്ഷമത സ്കോർ പത്തിരട്ടിയിലധികം കുറഞ്ഞു.
ഓപ്പൺ വെയിറ്റ് മോഡലുകളിൽ സ്കെയിൽ കൂടുന്തോറും നിയന്ത്രണക്ഷമത വർദ്ധിക്കുന്നു, പക്ഷേ ദീർഘമായ റീസണിംഗും കൂടുതൽ RL പരിശീലനവും കൂടുന്തോറും അത് ക്ഷയിക്കുന്നു.
മോണിറ്ററുകൾ ഒഴിവാക്കുന്നതിനുള്ള യാഥാർത്ഥ്യസമാനമായ പ്രേരണകൾ അനുകരിക്കാൻ, മോഡലുകൾക്ക് തങ്ങളെ നിരീക്ഷിക്കുകയോ മൂല്യനിർണ്ണയം ചെയ്യുകയോ ചെയ്യുകയാണെന്ന് പറയുമ്പോൾ ഞങ്ങൾ നിയന്ത്രണക്ഷമത അളക്കുന്നു. ഇത് അല്പം (പക്ഷേ ശ്രദ്ധിക്കത്തക്കവിധം) നിയന്ത്രണക്ഷമത വർദ്ധിപ്പിക്കുന്നു. ഉയർന്ന നിയന്ത്രണക്ഷമത ഉണർത്തുന്ന പ്രോംപ്റ്റുകൾ കണ്ടെത്താൻ ഞങ്ങൾ ഓട്ടോമേറ്റഡ് പ്രോംപ്റ്റ് ഒപ്റ്റിമൈസേഷനും ഉപയോഗിക്കുന്നു. ഒപ്റ്റിമൈസർ ഒരു ട്രെയിനിംഗ് സെറ്റിൽ നിയന്ത്രണക്ഷമത വർധിപ്പിക്കാനാകുമെങ്കിലും, ഈ നേട്ടങ്ങൾ പുതിയ നിർദ്ദേശ തരംകളിലേക്ക് (ഉദാഹരണത്തിന് വാക്കുകൾക്കിടയിൽ സ്പേസുകൾ ഒന്നും വേണ്ടെന്നാവശ്യപ്പെടുന്നത് പോലുള്ളവ) മോശമായി മാത്രമേ കൈമാറുകയുള്ളൂ.
വിരുദ്ധ സാഹചര്യങ്ങളിലുള്ള CoT നിയന്ത്രണക്ഷമത. “Monitor awareness” എന്നത് അവരുടെ CoT നിരീക്ഷിക്കപ്പെടുന്നുവെന്ന് ഞങ്ങൾ മോഡലുകൾ അറിയിക്കുന്ന ക്രമീകരണങ്ങളെ സൂചിപ്പിക്കുന്നു. “Eval Awareness” എന്നത് CoT നിയന്ത്രണയോഗ്യതയ്ക്കായി അവരെ വിലയിരുത്തുകയാണെന്ന് ഞങ്ങൾ മോഡലുകളെ അറിയിക്കുന്ന ക്രമീകരണങ്ങളെ സൂചിപ്പിക്കുന്നു.
CoT-Control ലെ ടാസ്കുകൾ പ്രായോഗിക പ്രോക്സികളാണ്: ഒരു ഐഡിയൽ CoT നിയന്ത്രണയോഗ്യത മൂല്യനിർണ്ണയം എന്നത്, സ്വാഭാവികമായി ചേര്ന്ന് പോകാത്ത ലക്ഷ്യങ്ങൾ പിന്തുടരുന്ന മോഡലുകൾക്ക് നിരീക്ഷണം ഒഴിവാക്കാൻ അവരുടെ CoT നിയന്ത്രിക്കാൻ കഴിയുമോ എന്ന് പരിശോധിക്കുന്നതിനെ ഉൾപ്പെടുത്തും. പകരം, അവരുടെ CoT സംബന്ധിച്ച നിർദ്ദേശങ്ങൾ പാലിക്കുന്നതിനുള്ള അവരുടെ കഴിവ് അളക്കുന്നതിലൂടെ, അവരുടെ CoTകളെ നിയന്ത്രിക്കുന്നതിനുള്ള ഏജന്റുമാരുടെ കഴിവ് ഞങ്ങൾ കണക്കാക്കുന്നു. കൂടാതെ, മോഡലുകൾക്ക് അവരുടെ CoTയിലെ ചില സവിശേഷതകൾ മറ്റുള്ളവയെക്കാൾ മികച്ച രീതിയിൽ നിയന്ത്രിക്കാൻ കഴിയും, കൂടാതെ നിയന്ത്രണയോഗ്യതയുടെ പരിമിതമായ തരങ്ങൾ മാത്രം അളക്കുന്നതിലൂടെ CoT-Control നിയന്ത്രണയോഗ്യതയെ അതിരുകടന്നോ കുറച്ചോ വിലയിരുത്തുന്നുണ്ടാകാം.
കുറഞ്ഞ CoT നിയന്ത്രണക്ഷമത ഒരു സവിശേഷതയാണ്, ബഗ് അല്ല. നിലവിലെ റീസണിംഗ് മോഡലുകളുടെ കുറഞ്ഞ നിയന്ത്രണക്ഷമത ഒരു സുരക്ഷാകവചമായി CoT monitoring-നെ കൂടുതൽ വിശ്വസനീയമാക്കുന്നു. അതേ സമയം, നിലവിലെ റീസണിംഗ് മോഡലുകളുടെ നിയന്ത്രണക്ഷമത കുറവായിരിക്കുന്നത് എന്തുകൊണ്ടാണെന്ന് ഞങ്ങൾക്കിപ്പോഴും മനസ്സിലായിട്ടില്ല—അല്ലെങ്കിൽ മോഡലുകൾ കൂടുതൽ കഴിവുള്ളവയാകുമ്പോൾ ഈ സ്വഭാവം തുടരുമോ എന്നും. അതിനാൽ, CoT നിയന്ത്രണക്ഷമത മൂല്യനിർണയങ്ങളെ ഒരു canary eval ആയി കാണാം: മോഡലുകൾ അവരുടെ റീസണിംഗ് രൂപപ്പെടുത്തുന്നതിലോ മറയ്ക്കുന്നതിലോ കൂടുതൽ മെച്ചപ്പെടുകയാണോ എന്നതിനുള്ള ഒരു ആദ്യകാല മുന്നറിയിപ്പ് അടയാളം.
ഞങ്ങളുടെ ഫലങ്ങൾ സൂചിപ്പിക്കുന്നത് CoT നിയന്ത്രണയോഗ്യത നിലവിൽ CoT നിരീക്ഷണയോഗ്യതയ്ക്ക് ഒരു പ്രധാന അപകടസാധ്യതയായി മാറാൻ സാധ്യത കുറവാണെന്നാണ്. എങ്കിലും, കുറഞ്ഞ നിയന്ത്രണക്ഷമത മാത്രം ഉയർന്ന നിരീക്ഷണയോഗ്യത ഉറപ്പാക്കാൻ മതിയാകില്ല, കാരണം CoTs-ലേക്കുള്ള നേരിട്ടുള്ള ഓപ്റ്റിമൈസേഷൻ സമ്മർദ്ദം പോലുള്ള മറ്റ് സംവിധാനങ്ങൾ മൂലം നിരീക്ഷണയോഗ്യത ഇപ്പോഴും ക്ഷയിക്കാം.
കാലക്രമേണ ഈ ഡൈനാമിക്കുകൾ ട്രാക്ക് ചെയ്യാൻ സഹായിക്കുന്നതിനായി, GPT‑5.4 മുതൽ ആരംഭിച്ച്, ഭാവിയിലെ അത്യാധുനിക മോഡലുകൾക്കായുള്ള സിസ്റ്റം കാർഡുകളിൽ CoT നിരീക്ഷണയോഗ്യത യ്ക്കൊപ്പം CoT നിയന്ത്രണയോഗ്യതയും റിപ്പോർട്ട് ചെയ്യാൻ ഞങ്ങൾ തുടങ്ങും അത്യാധുനിക റീസണിംഗ് മോഡലുകളുടെ CoTs-ലേക്ക് നേരിട്ട് ഓപ്റ്റിമൈസേഷൻ സമ്മർദ്ദം പ്രയോഗിക്കാതിരിക്കാനുള്ള ഞങ്ങളുടെ തുടർച്ചയായ പ്രതിബദ്ധത യെ അടിസ്ഥാനമാക്കി, നിർമ്മിക്കുന്നതിനെകുറിച്ച്ആലോചിക്കുന്നു.
രചയിതാക്കൾ
Tomek Korbak, Micah Carroll, Bowen Baker, Ian Kivlichan
