OpenAI-യുടെ ഇൻ-ഹൗസ് ഡാറ്റാ ഏജന്റിന്റെ ഉള്ളിൽ

ഡാറ്റ സിസ്റ്റങ്ങൾ പഠിക്കുന്ന വിധം, ഉൽപ്പന്നങ്ങൾ വികസിക്കുന്ന വിധം, കമ്പനികൾ തീരുമാനങ്ങൾ എടുക്കുന്ന വിധം എന്നിവയെ ശക്തിപ്പെടുത്തുന്നു. പക്ഷേ, ഉത്തരങ്ങൾ വേഗത്തിൽ, ശരിയായി, ശരിയായ സാഹചര്യത്തിൽ ലഭിക്കുന്നത് പലപ്പോഴും അത്ര എളുപ്പമല്ല. OpenAI സ്കെയിൽ ചെയ്യുമ്പോൾ ഇത് കൂടുതൽ എളുപ്പമാക്കാൻ, ഞങ്ങൾ ഞങ്ങളുടെ സ്വന്തം ബിസ്പോക്ക് ഇൻ-ഹൗസ് AI ഡാറ്റ ഏജന്റ് നിർമ്മിച്ചു, അത് ഞങ്ങളുടെ സ്വന്തം പ്ലാറ്റ്‌ഫോമിനെ പര്യവേക്ഷണം ചെയ്യുകയും അതിനെക്കുറിച്ച് യുക്തിവിചാരം നടത്തുകയും ചെയ്യുന്നു.

ഞങ്ങളുടെ ഏജന്റ് ഒരു ഇഷ്ടാനുസൃത ആന്തരിക-ഉപകരണമാണ് (ഒരു ബാഹ്യ ഓഫറിംഗ് അല്ല), OpenAIയുടെ ഡാറ്റ, അനുമതികൾ, പ്രവൃത്തി പ്രവാഹങ്ങൾ എന്നിവയെ ആധാരമാക്കി പ്രത്യേകമായി നിർമ്മിച്ചത്. ഞങ്ങൾ എങ്ങനെ നിർമ്മിച്ചു, എങ്ങനെ ഉപയോഗിക്കുന്നു എന്ന് ഞങ്ങൾ കാണിക്കുന്നു, AI ഞങ്ങളുടെ ടീമുകളിലെ ദൈനംദിന ജോലികളെ പിന്തുണയ്ക്കാൻ കഴിയുന്ന യഥാർത്ഥവും ഫലപ്രദവുമായ മാർഗങ്ങളുടെ ഉദാഹരണങ്ങൾ മുന്നിലെത്തിക്കാൻ എങ്ങനെ സഹായിക്കുന്നു. ഞങ്ങൾ ഇത് നിർമ്മിക്കാനും പ്രവർത്തിപ്പിക്കാനും ഉപയോഗിച്ച OpenAI ഉപകരണങ്ങൾ (Codex, ഞങ്ങളുടെ GPT‑5 ഫ്ലാഗ്ഷിപ്പ് മോഡൽ, Evals API⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), Embeddings API⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു)) ലോകമെമ്പാടുമുള്ള ഡെവലപ്പർമാർക്ക് ഞങ്ങൾ ലഭ്യമാക്കുന്ന അതേ ഉപകരണങ്ങളാണ്.

ഞങ്ങളുടെ ഡാറ്റ ഏജന്റ് ജീവനക്കാരെ ദിവസങ്ങളല്ല, മിനിറ്റുകൾക്കുള്ളിൽ ചോദ്യങ്ങളിൽ നിന്ന് അവബോധത്തിലേക്ക് എത്താന്‍ അനുവദിക്കുന്നു. ഇത് എല്ലാവര്ക്കും ഡാറ്റ എടുക്കുന്നതിനും എല്ലാ ഫംഗ്ഷനുകളിലുടനീളം സൂക്ഷ്മമായ വിശകലനം നടത്തുന്നതിനുമുള്ള തടസ്സം കുറയ്ക്കുന്നു, നമ്മുടെ ഡാറ്റാ ടീമിനെ മാത്രം അല്ല. ഇന്ന്, OpenA-Iയിലെ എഞ്ചിനീയറിംഗ്, ഡാറ്റാ സയൻസ്, ഗോ-ടു-മാർക്കറ്റ്, ഫിനാൻസ്, റിസർച്ച് എന്നീ വിഭാഗങ്ങളിലെ ടീമുകൾ ഉയർന്ന പ്രഭാവമുള്ള ഡാറ്റാ ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകാൻ ഏജന്റിനെ ആശ്രയിക്കുന്നു. ഉദാഹരണത്തിന്, സ്വാഭാവിക ഭാഷയുടെ സഹജമായ ഫോർമാറ്റിലൂടെ, ലോഞ്ചുകൾ എങ്ങനെ വിലയിരുത്താം എന്നതിനെക്കുറിച്ചും ബിസിനസിന്റെ ആരോഗ്യനില മനസ്സിലാക്കാനും ഇത് സഹായിക്കുന്നു. ഏജന്റ് Codex-പവർഡ് ടേബിൾ-തല അറിവിനെ ഉൽപ്പന്നവും സംഘടനാപരവുമായ സന്ദർഭവുമായി സംയോജിപ്പിക്കുന്നു. തുടർച്ചയായി പഠിക്കുന്ന അതിന്റെ മെമ്മറി സിസ്റ്റം ഓരോ തിരുവട്ടത്തിലും മെച്ചപ്പെടുന്നു എന്നതും അർത്ഥമാക്കുന്നു.

ഈ പോസ്റ്റിൽ, ഞങ്ങൾ എന്തുകൊണ്ട് ഒരു പ്രത്യേക AI ഡാറ്റ ഏജന്റ് ആവശ്യമായിരുന്നു, അതിന്റെ കോഡ് സമ്പുഷ്ടമായ ഡാറ്റാ സാഹചര്യവും സ്വയം പഠനവും എങ്ങനെ പ്രയോജനകരമാണ്, കൂടാതെ ഞങ്ങൾ വഴിയരികിൽ പഠിച്ച പാഠങ്ങൾ എന്നിവയെക്കുറിച്ച് വിശദീകരിക്കും.

OpenAI-യുടെ ഡാറ്റ പ്ലാറ്റ്‌ഫോം എഞ്ചിനീയറിംഗ്, ഉൽപ്പന്നം, ഗവേഷണം എന്നിവയിലുടനീളം പ്രവർത്തിക്കുന്ന 3,500 ആഭ്യന്തര ഉപയോക്താക്കൾ ക്ക് സേവനം നൽകുന്നു, 70,000 ഡാറ്റാസെറ്റുകളിലായി 600 പെറ്റാബൈറ്റ് ഡാറ്റ വ്യാപിച്ചുകിടക്കുന്നു. ആ വലുപ്പത്തിൽ, വിശകലനം നടത്തുന്നതിലെ ഏറ്റവും കൂടുതൽ സമയം എടുത്തേക്കാവുന്ന ഭാഗങ്ങളിൽ ഒന്നായി ശരിയായ പട്ടിക കണ്ടെത്തുന്നത് മാറാം.

ഒരു ആന്തരിക ഉപയോക്താവ് പറഞ്ഞതുപോലെ:

“ഞങ്ങൾക്ക് വളരെ സാമ്യമുള്ള നിരവധി പട്ടികകളുണ്ട്, അവ എങ്ങനെ വ്യത്യസ്തമാണെന്നും ഏതാണ് ഉപയോഗിക്കേണ്ടതെന്നും കണ്ടെത്താൻ ഞാൻ വളരെ സമയം ചെലവഴിക്കുന്നു. ചിലതിൽ ലോഗ് ഔട്ട് ചെയ്ത ഉപയോക്താക്കളെ ഉൾപ്പെടുത്തുന്നു, ചിലതിൽ ഉൾപ്പെടുത്തുന്നില്ല. ചില ഫീൽഡുകൾ തമ്മിൽ മൂടിക്കെട്ടിയിരിക്കുന്നു; ഏത് എന്താണെന്ന് തിരിച്ചറിയാൻ ബുദ്ധിമുട്ടാണ്.

ശരിയായ പട്ടികകൾ തിരഞ്ഞെടുക്കപ്പെട്ടാലും, ശരിയായ ഫലങ്ങൾ ഉത്പാദിപ്പിക്കുന്നത് വെല്ലുവിളിയാകാം. പരിവർത്തനങ്ങളും ഫിൽറ്ററുകളും ശരിയായി പ്രയോഗിക്കപ്പെടുന്നുവെന്ന് ഉറപ്പാക്കാൻ പരിശോധകര്‍ പട്ടിക ഡാറ്റയെയും പട്ടിക ബന്ധങ്ങളെയും കുറിച്ച് യുക്തിപൂർവ്വം ചിന്തിക്കണം. many-to-many joins, filter pushdown പിശകുകൾ, കൈകാര്യം ചെയ്യാത്ത null മൂല്യങ്ങൾ എന്നിവ ഉൾപ്പെടുന്ന സാധാരണ പരാജയ മാതൃകകൾ ഫലങ്ങളുടെ സാധുത മൗനമായി നഷ്ടപ്പെടുത്താൻ സാധ്യതയുണ്ട്. OpenAIയുടെ സ്കെയിലിൽ, വിശകലന വിദഗ്ധർ SQL സെമാന്റിക്സ് അല്ലെങ്കിൽ ക്വറി പ്രകടനം ഡീബഗ് ചെയ്യുന്നതിൽ സമയം പാഴാക്കേണ്ടതില്ല: അവരുടെ ശ്രദ്ധ മെട്രിക്കുകൾ നിർവചിക്കുന്നതിലും, അനുമാനങ്ങൾ സാധൂകരിക്കുന്നതിലും, ഡാറ്റ അടിസ്ഥാനമാക്കിയുള്ള തീരുമാനങ്ങൾ എടുക്കുന്നതിലും ആയിരിക്കണം.

നമ്മുടെ ഏജന്റ് എന്താണെന്ന്, അത് എങ്ങനെ കോൺടെക്സ്റ്റ് ക്യൂറേറ്റ് ചെയ്യുന്നു, എങ്ങനെ അത് സ്വയം മെച്ചപ്പെടുത്തുന്നു എന്നതിനെക്കുറിച്ച് നമുക്ക് പരിശോധിക്കാം.

ഞങ്ങളുടെ ഏജന്റ് GPT‑5.2 ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്നു, കൂടാതെ OpenAIയുടെ ഡാറ്റ പ്ലാറ്റ്ഫോമിൽ തർക്കം നടത്തുന്നതിനായി രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു. ഇത് ജീവനക്കാർ ഇതിനകം പ്രവര്‍ത്തിക്കുന്ന സ്പേസില്‍ എല്ലാം ലഭ്യമാണ്: Slack ഏജന്റായി, വെബ് ഇന്റർഫേസ് വഴി, IDEs-ന്റെ ഉള്ളിൽ, MCP വഴി Codex CLI-ൽ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), കൂടാതെ MCP കണക്ടർ വഴി OpenAI-യുടെ ആന്തരിക ChatGPT ആപ്പിൽ നേരിട്ട്⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു).

ഉപയോക്താക്കൾക്ക് സങ്കീർണ്ണവും തുറന്നതുമായ ചോദ്യങ്ങൾ ചോദിക്കാൻ കഴിയും, സാധാരണയായി അതിന് മാനുഷിക പര്യവേക്ഷണത്തിന്റെ പല ഘട്ടങ്ങൾ ആവശ്യമാകും. ഒരു ടെസ്റ്റ് ഡാറ്റ സെറ്റ് ഉപയോഗിക്കുന്ന ഈ ഉദാഹരണ പ്രോംപ്റ്റ് എടുത്തുനോക്കൂ: “NYC ടാക്സി യാത്രകളിൽ, സാധാരണയുടെയും ഏറ്റവും മോശം സാഹചര്യങ്ങളുടെയും യാത്രാസമയങ്ങൾക്കിടയിലെ ഏറ്റവും വലിയ വ്യത്യാസമുള്ള പിക്കപ്പ്-ടു-ഡ്രോപ്പ് ഓഫ് ZIP ജോഡികളിൽ ഏതാണ് ഏറ്റവും വിശ്വസനീയമല്ലാത്തത്, ആ വ്യതിയാനം എപ്പോൾ സംഭവിക്കുന്നു?”

ഏജന്റ് വിശകലനം മുഴുവൻ കൈകാര്യം ചെയ്യുന്നു, ചോദ്യം മനസ്സിലാക്കുന്നതിൽ നിന്ന് ഡാറ്റ പര്യവേക്ഷണം ചെയ്യുന്നതിലേക്കും, ക്വെറികൾ പ്രവർത്തിപ്പിക്കുന്നതിലേക്കും, കണ്ടെത്തലുകൾ സംശ്ലേഷിക്കുന്നതിലേക്കും.

ഏജന്റിന്റെ സൂപ്പർപവറുകളിൽ ഒന്നാണ് പ്രശ്നങ്ങളെ യുക്തിപൂർവ്വം പരിഹരിക്കുന്നതിന്റെ രീതി. ഒരു നിശ്ചിത സ്‌ക്രിപ്റ്റ് പിന്തുടരുന്നതിനുപകരം, ഏജന്റ് സ്വന്തം പുരോഗതി സ്വയം വിലയിരുത്തുന്നു. ഒരു ഇടക്കാല ഫലം തെറ്റായതായി തോന്നുകയാണെങ്കിൽ (ഉദാഹരണത്തിന്, തെറ്റായ ജോയിൻ അല്ലെങ്കിൽ ഫിൽട്ടർ കാരണം അതിൽ പൂജ്യം വരികൾ ഉണ്ടെങ്കിൽ), ഏജന്റ് എന്താണ് തെറ്റായത് എന്ന് അന്വേഷിക്കുകയും, തന്റെ സമീപനം ക്രമീകരിക്കുകയും, വീണ്ടും ശ്രമിക്കുകയും ചെയ്യും. ഈ പ്രക്രിയയിലുടനീളം, ഇത് പൂർണ്ണമായ സന്ദർഭം നിലനിർത്തുകയും, ഓരോ ഘട്ടത്തിനിടയിലും പഠനങ്ങൾ മുന്നോട്ടു കൊണ്ടുപോകുകയും ചെയ്യുന്നു. ഈ ക്ലോസ്‌ഡ്-ലൂപ്പ്, സ്വയം-പഠിക്കുന്ന പ്രക്രിയ ഉപയോക്താവിൽ നിന്നുള്ള ആവർത്തനത്തെ ഏജന്റിലേക്ക് മാറ്റുന്നു, അതിലൂടെ മാനുവൽ പ്രവൃത്തിപദ്ധതികളേക്കാൾ വേഗത്തിൽ ഫലങ്ങളും സ്ഥിരമായി ഉയർന്ന നിലവാരമുള്ള വിശകലനങ്ങളും സാധ്യമാക്കുന്നു.

ഏജന്റ് പൂർണ്ണമായ അനലിറ്റിക്സ് പ്രവൃത്തി പ്രവാഹം ഉൾക്കൊള്ളുന്നു: ഡാറ്റ കണ്ടെത്തൽ, SQL പ്രവർത്തനം, നോട്ട്‌ബുക്കുകളും റിപ്പോർട്ടുകളും പ്രസിദ്ധീകരിക്കൽ. ഇത് കമ്പനിയുടെ ആന്തരിക അറിവ് മനസ്സിലാക്കുന്നു, ഇതിന് ബാഹ്യ വിവരങ്ങൾക്കായി വെബ് തിരയാൻ കഴിയും, കൂടാതെ പഠനവും ഓർമ്മയും വഴി ക്രമേണ മെച്ചപ്പെടുന്നു.

ഉയർന്ന നിലവാരമുള്ള മറുപടികൾ സമ്പന്നവും കൃത്യവുമായ പശ്ചാത്തലത്തെ ആശ്രയിക്കുന്നു. സന്ദർഭം ശ്രിയല്ലാതെ വന്നാല്‍, ശക്തമായ മോഡലുകൾ പോലും ഉപയോക്തൃ എണ്ണങ്ങൾ വൻതോതിൽ തെറ്റായി കണക്കാക്കുകയോ ആന്തരിക പദാവലി തെറ്റായി വ്യാഖ്യാനിക്കുകയോ ചെയ്യുന്നതുപോലുള്ള തെറ്റായ ഫലങ്ങൾ സൃഷ്ടിക്കാൻ കഴിയും.

ഈ പരാജയ രീതികൾ ഒഴിവാക്കാൻ, ഏജന്റ് OpenAI-യുടെ ഡാറ്റയിലും സ്ഥാപനപരമായ അറിവിലും അതിനെ ഉറച്ച നിലയിൽ നിർത്തുന്ന സന്ദർഭത്തിന്റെ നിരവധി പാളികളെചുറ്റിപ്പറ്റിയാണ് നിർമ്മിച്ചിരിക്കുന്നത്.

• മെറ്റാഡാറ്റ ഗ്രൗണ്ടിംഗ്: ഏജന്റ് SQL എഴുതലിന് സ്കീമ മെറ്റാഡാറ്റ (കോളം പേരുകളും ഡാറ്റ തരങ്ങളും) ആശ്രയിക്കുന്നു, കൂടാതെ വ്യത്യസ്ത ടേബിളുകൾ തമ്മിലുള്ള ബന്ധം വ്യക്തമാക്കാൻ ടേബിൾ ലിനിയേജ് (ഉദാ., അപ്സ്ട്രീം, ഡൗൺസ്ട്രീം ടേബിൾ ബന്ധങ്ങൾ) ഉപയോഗിക്കുന്നു.
• Query inference: ചരിത്രപരമായ ക്വെറികൾ ഉൾക്കൊള്ളുന്നത് ഏജന്റിന് സ്വന്തം ക്വെറികൾ എങ്ങനെ എഴുതണം എന്നും സാധാരണയായി ഏത് ടേബിളുകളാണ് ഒരുമിച്ച് ചേർക്കപ്പെടുന്നത് എന്നും മനസ്സിലാക്കാൻ സഹായിക്കുന്നു.

• ഡൊമെയിൻ വിദഗ്ധർ നൽകുന്ന ടേബിളുകളുടെയും കോളങ്ങളുടെയും തിരഞ്ഞെടുത്ത വിവരണങ്ങൾ, സ്കീമകളിൽ നിന്നോ മുൻകാല ക്വറികളിൽ നിന്നോ എളുപ്പത്തിൽ അനുമാനിക്കാൻ കഴിയാത്ത ഉദ്ദേശം, അർത്ഥവ്യവസ്ഥ, ബിസിനസ് അർത്ഥം, അറിയപ്പെടുന്ന മുന്നറിയിപ്പുകൾ എന്നിവ പകർത്തുന്നു.

മെറ്റാഡാറ്റ മാത്രം മതിയാവില്ല. പട്ടികകളെ ശരിക്കും വേർതിരിച്ച് തിരിച്ചറിയാൻ, അവ എങ്ങനെ സൃഷ്ടിക്കപ്പെട്ടതും അവ എവിടെ നിന്നാണ് ഉത്ഭവിക്കുന്നതെന്നും നിങ്ങൾക്കു മനസ്സിലാക്കണം.

• ഒരു പട്ടികയുടെ കോഡ്-ലെവൽ നിർവചനം നിർമിക്കുന്നതിലൂടെ, ഏജന്റ് ഡാറ്റയിൽ യഥാർത്ഥത്തിൽ എന്താണ് അടങ്ങിയിരിക്കുന്നതെന്ന് കൂടുതൽ ആഴത്തിൽ മനസ്സിലാക്കുന്നു. 
  • പട്ടികയിൽ എന്താണ് സംഭരിച്ചിരിക്കുന്നത്, അത് ഒരു അനലിറ്റിക്സ് ഇവന്റിൽ നിന്ന് എങ്ങനെ വ്യുത്പന്നമാക്കപ്പെടുന്നു എന്നതിലെ സൂക്ഷ്മതകൾ അധിക വിവരങ്ങൾ നൽകുന്നു. ഉദാഹരണത്തിന്, ഇത് മൂല്യങ്ങളുടെ ഏകത്വത്തെക്കുറിച്ചും, പട്ടികാ ഡാറ്റ എത്ര തവണ അപ്ഡേറ്റ് ചെയ്യപ്പെടുന്നുവെന്നതിനെക്കുറിച്ചും, ഡാറ്റയുടെ വ്യാപ്തിയെക്കുറിച്ചും (ഉദാഹരണത്തിന്, പട്ടിക ചില ഫീൽഡുകൾ ഒഴിവാക്കുന്നുവെങ്കിൽ, അതിന് ഈ സൂക്ഷ്മതയുടെ നിലയുണ്ട്) തുടങ്ങിയവയെക്കുറിച്ചും പശ്ചാത്തലം നൽകാൻ കഴിയും.
• SQL-നെക്കാൾ അപ്പുറം Spark, Python, മറ്റ് ഡാറ്റ സിസ്റ്റങ്ങൾ എന്നിവയിൽ പട്ടിക എങ്ങനെ ഉപയോഗിക്കപ്പെടുന്നു എന്ന് കാണിക്കുന്നതിലൂടെ ഇത് മെച്ചപ്പെടുത്തിയ ഉപയോഗ സന്ദർഭം നൽകുന്നു.
• ഇത് അർത്ഥമാക്കുന്നത് ഏജന്റിന് സമാനമായി തോന്നുന്ന, പക്ഷേ നിർണായകമായ രീതികളിൽ വ്യത്യാസപ്പെടുന്ന പട്ടികകൾ തമ്മിൽ വേർതിരിച്ചറിയാൻ കഴിയും. ഉദാഹരണത്തിന്, ഒരു പട്ടികയിൽ first-party ChatGPT ട്രാഫിക് മാത്രമേ ഉൾപ്പെടുന്നുള്ളൂവോ എന്ന് അത് വ്യക്തമാക്കാൻ കഴിയും. ഈ സന്ദർഭവും സ്വയം പുതുക്കപ്പെടുന്നതിനാൽ, മാനുവൽ പരിപാലനം ഇല്ലാതെയും ഇത് സമകാലികമായി തുടരുന്നു.

• ഏജന്റ് Slack, Google Docs, Notion എന്നിവ ആക്‌സസ് ചെയ്യാൻ കഴിയും, അവ ലോഞ്ചുകൾ, വിശ്വാസ്യതാ സംഭവങ്ങൾ, ആന്തരിക കോഡ്‌നെയിമുകളും ഉപകരണങ്ങളും, കൂടാതെ പ്രധാന മെട്രിക്കുകൾക്കായുള്ള കാനോണിക്കൽ നിർവചനങ്ങളും കണക്കുകൂട്ടൽ ലജിക്കും പോലുള്ള നിർണായക കമ്പനി സന്ദർഭം പകർത്തുന്നു.
• ഈ ഡോക്യുമെന്റുകൾ ഇൻജെസ്റ്റ് ചെയ്യപ്പെടുന്നു, എംബെഡ് ചെയ്യപ്പെടുന്നു, മെറ്റാഡാറ്റയും അനുമതികളുമോടെ സംഭരിക്കുന്നു. ഒരു റിട്രീവൽ സേവനം റൺടൈമിൽ ആക്‌സസ് നിയന്ത്രണവും കാഷിംഗും കൈകാര്യം ചെയ്യുന്നു, ഏജന്റിനെ ഈ വിവരങ്ങൾ കാര്യക്ഷമമായും സുരക്ഷിതമായും ഉൾക്കൊള്ളാൻ പ്രാപ്തമാക്കുന്നു.

• ഏജന്റിന് ചില ഡാറ്റ ചോദ്യങ്ങളെക്കുറിച്ച് തിരുത്തലുകൾ ലഭിക്കുകയോ സൂക്ഷ്മതകൾ കണ്ടെത്തുകയോ ചെയ്യുമ്പോൾ, അടുത്ത തവണ ഉപയോഗിക്കാന്‍ ഈ പഠനങ്ങൾ സംരക്ഷിക്കാൻ കഴിയും, അതുവഴി ഉപയോക്താക്കളോടൊപ്പം ഇത് നിരന്തരം മെച്ചപ്പെടുന്നു. 
  • ഫലമായി, ഭാവിയിലെ ഉത്തരങ്ങൾ ഒരേ പ്രശ്നങ്ങൾ വീണ്ടും വീണ്ടും നേരിടുന്നതിനുപകരം, കൂടുതൽ കൃത്യമായ അടിസ്ഥാനത്തിൽ നിന്ന് ആരംഭിക്കുന്നു.
  • മെമ്മറിയുടെ ലക്ഷ്യം, ഡാറ്റയുടെ കൃത്യത നിർണായകമായെങ്കിലും മറ്റ് ലെയറുകൾ മാത്രം ആശ്രയിച്ച് അനുമാനിക്കാൻ ബുദ്ധിമുട്ടുള്ള, വ്യക്തമായതല്ലാത്ത തിരുത്തലുകൾ, ഫിൽറ്ററുകൾ, നിയന്ത്രണങ്ങൾ എന്നിവ നിലനിർത്തുകയും വീണ്ടും ഉപയോഗിക്കുകയും ചെയ്യുന്നതാണ്. 
  • ഉദാഹരണത്തിന്, ഒരു കേസിൽ, ഏജന്റിന് ഒരു പ്രത്യേക അനലിറ്റിക്സ് പരീക്ഷണത്തിനായി എങ്ങനെ ഫിൽട്ടർ ചെയ്യണമെന്ന് അറിയില്ലായിരുന്നു (അത് ഒരു പരീക്ഷണ ഗേറ്റിൽ നിർവചിച്ചിരിക്കുന്ന ഒരു പ്രത്യേക സ്ട്രിംഗുമായി പൊരുത്തപ്പെടുത്തലിനെ ആശ്രയിച്ചിരുന്നു). ഫസി ആയി സ്ട്രിംഗ് മാച്ച് ചെയ്യാൻ ശ്രമിക്കുന്നതിന് പകരം, ശരിയായി ഫിൽട്ടർ ചെയ്യാൻ കഴിയുന്നുവെന്ന് ഉറപ്പാക്കാൻ ഇവിടെ മെമ്മറി നിർണായകമായ അളവില്‍ പ്രധാനപ്പെട്ടതായിരുന്നു.
• നിങ്ങൾ ഏജന്റിന് ഒരു തിരുത്തൽ നൽകുമ്പോഴോ അല്ലെങ്കിൽ നിങ്ങളുടെ സംഭാഷണത്തിൽ നിന്ന് അത് ഒരു പഠനം കണ്ടെത്തുമ്പോഴോ, അടുത്ത തവണയ്ക്കായി ആ ഓർമ്മ സംരക്ഷിക്കാൻ അത് നിങ്ങളെ പ്രോംപ്റ്റ് ചെയ്യും. 
  • ഉപയോക്താക്കൾക്ക് ഓർമ്മകൾ മാനുവലായി സൃഷ്ടിക്കാനും തിരുത്താനും കഴിയും.
  • മെമ്മറികൾ ആഗോളതലത്തിലും വ്യക്തിഗതതലത്തിലും പരിധിനിശ്ചയിച്ചിരിക്കുന്നു, ഏജന്റിന്റെ ഉപകരണങ്ങൾ അവ എഡിറ്റ് ചെയ്യാൻ എളുപ്പമാക്കുന്നു.

• ഒരു ടേബിളിനായി മുൻകൂർ കോൺടെക്സ്റ്റ് ഒന്നും ഇല്ലാത്തപ്പോഴോ നിലവിലുള്ള വിവരങ്ങൾ പഴയത് ആകുംപോഴോ, ടേബിളിനെ നേരിട്ട് പരിശോധിക്കാനും ക്വറി ചെയ്യാനും ഏജന്റ് ഡാറ്റ വെയർഹൗസിലേക്ക് ലൈവ് ക്വെറികൾ അയയ്ക്കാം. ഇത് സ്കീമകൾ സാധൂകരിക്കാൻ, ഡാറ്റ തത്സമയത്തിൽ മനസ്സിലാക്കാൻ, അതനുസരിച്ച് പ്രതികരിക്കാൻ അനുവദിക്കുന്നു.
• ഏജന്റിന്, ആവശ്യമായപ്പോൾ, വെയർഹൗസിന് പുറത്തുള്ള വിപുലമായ ഡാറ്റാ സന്ദർഭം ലഭ്യമാക്കാൻ മറ്റ് ഡാറ്റ പ്ലാറ്റ്ഫോം സിസ്റ്റങ്ങളുമായി (metadata service, Airflow, Spark) സംസാരിക്കാനും കഴിയും.

We run a daily offline pipeline that aggregates table usage, human annotations, and Codex-derived enrichment into a single, normalized representation. This enriched context is then converted into embeddings using the OpenAI embeddings API⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) and stored for retrieval. At query time, the agent pulls only the most relevant embedded context via retrieval-augmented generation⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) (RAG) instead of scanning raw metadata or logs. This makes table understanding fast and scalable, even across tens of thousands of tables, while keeping runtime latency predictable and low. Runtime queries are issued to our data warehouse live as needed.

Together, these layers ensure the agent’s reasoning is grounded in OpenAI’s data, code, and institutional knowledge, dramatically reducing errors and improving answer quality.

One-shot answers work when the problem is clear, but most questions aren’t. More often, arriving at the correct result requires back-and-forth refinement and some course correction.

The agent is built to behave like a teammate you can reason with. It’s a conversational, always-on and handles both quick answers and iterative exploration.

It carries over complete context across turns, so users can ask follow-up questions, adjust their intent, or change direction without restating everything. If the agent starts heading down the wrong path, users can interrupt mid-analysis and redirect it, just like working with a human collaborator who listens instead of plowing ahead.

When instructions are unclear or incomplete, the agent proactively asks clarifying questions. If no response is provided, it applies sensible defaults to make progress. For example, if a user asks about business growth with no date range specified, it may assume the last seven or 30 days. These priors allow it to stay responsive and non-blocking while still converging on the right outcome.

The result is an agent that works well both when you know exactly what you want (e.g., “Tell me about this table”) and just as strong when you’re exploring (e.g., “I’m seeing a dip here, can we break this down by customer type and timeframe?”). 

After rollout, we observed that users frequently ran the same analyses for routine repetitive work. To expedite this, the agent's workflows package recurring analyses into reusable instruction sets. Examples include workflows for weekly business reports and table validations. By encoding context and best practices once, workflows streamline repeat analyses and ensure consistent results across users.

Building an always-on, evolving agent means quality can drift just as easily as it can improve. Without a tight feedback loop, regressions are inevitable and invisible. The only way to scale capability without breaking trust is through systematic evaluation.

In this section, we’ll discuss how we leverage OpenAI’s Evals API⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) to measure and protect the agent’s response quality.

Its Evals are built on curated sets of question-answer pairs. Each question targets an important metric or analytical pattern we care deeply about getting right, paired with a manually authored “golden” SQL query that produces the expected result. For each eval, we send the natural language question to its query-generation endpoint, execute the generated SQL, and compare the output against the result of the expected SQL.

Evaluation doesn’t rely on naive string matching. Generated SQL can differ syntactically while still being correct, and result sets may include extra columns that don’t materially affect the answer. To account for this, we compare both the SQL and the resulting data, and feed these signals into OpenAI’s Evals grader. The grader produces a final score along with an explanation, capturing both correctness and acceptable variation.

These evals are like unit tests that run continuously during development to identify regressions as canaries in production; this allows us to catch issues early and confidently iterate as the agent's capabilities expand.

Our agent plugs directly into OpenAI’s existing security and access-control model. It operates purely as an interface layer, inheriting and enforcing the same permissions and guardrails that govern OpenAI’s data. 

All of the agent’s access is strictly pass-through, meaning users can only query tables they already have permission to access. When access is missing, it flags this or falls back to alternative datasets the user is authorized to use.

Finally, it's built for transparency. Like any system, it can make mistakes. It exposes its reasoning process by summarizing assumptions and execution steps alongside each answer. When queries are executed, it links directly to the underlying results, allowing users to inspect raw data and verify every step of the analysis.

Building our agent from scratch surfaced practical lessons about how agents behave, where they struggle, and what actually makes them reliable at scale.

Early on, we exposed our full tool set to the agent, and quickly ran into problems with overlapping functionality. While this redundancy can be helpful for specific custom cases and is more obvious to a human when manually invoking, it’s confusing to agents. To reduce ambiguity and improve reliability, we restricted and consolidated certain tool calls.

We also discovered that highly prescriptive prompting degraded results. While many questions share a general analytical shape, the details vary enough that rigid instructions often pushed the agent down incorrect paths. By shifting to higher-level guidance and relying on GPT‑5’s reasoning to choose the appropriate execution path, the agent became more robust and produced better results.

Schemas and query history describe a table’s shape and usage, but its true meaning lives in the code that produces it. Pipeline logic captures assumptions, freshness guarantees, and business intent that never surface in SQL or metadata. By crawling the codebase with Codex, our agent understands how datasets are actually constructed and is able to better reason about what each table actually contains. It can answer “what’s in here” and “when can I use it” far more accurately than from warehouse signals alone. 

We’re constantly working to improve our agent by increasing its ability to handle ambiguous questions, improving its reliability and accuracy with stronger validations, and integrating it more deeply into workflows. We believe it should blend naturally into how people already work, instead of functioning like a separate tool.

While our tooling will keep benefiting from underlying improvements in agent reasoning, validation, and self-correction, our team’s mission remains the same: seamlessly deliver fast, trustworthy data analysis across OpenAI’s data ecosystem.