கட்டுப்பாட்டு அறை

எங்கள் மாடல்கள் மேலும் ஆற்றல் பெறும்போது, அவற்றுடன் தொடர்புடைய பாதுகாப்பு அபாயங்களும் பெரிதாகின்றன. எனவே, ஏற்படக்கூடிய சிக்கல்களைக் கண்டறிந்து, தேவைப்படும்போது மாடல்களின் செயல்பாட்டை விரைவாக நிறுத்த முடிவது மேலும் முக்கியமாகிறது. இதற்குத் தீர்வாகக் கட்டுப்பாட்டு அறையை உருவாக்கினோம்.

கட்டுப்பாட்டு அறை என்பது, எங்கள் ஆராய்ச்சி உள்கட்டமைப்பு முழுவதிலும் மாடல் பணிச்சுமைகளைக் கண்காணித்து, பாதுகாப்புச் சிக்கல்கள் எழும்போது அவற்றை விரைவாக நிறுத்தும் மைய அமைப்பாகும். மாடல் பயிற்சி மற்றும் மதிப்பீட்டுக்கான ஏஜென்ட் வழி மாதிரித் தேர்வு, தரவுச் செயலாக்கம் உள்ளிட்ட அனைத்து ஆராய்ச்சி அனுமானப் பணிச்சுமைகளையும் இது இணைக்கிறது. இது எங்கள் நோக்கங்களுடன் ஒத்துப்போகாத நடத்தையைக் கண்காணிக்கும் அமைப்புகளுடன் இணைந்து செயல்படுகிறது. ஒரு பணியை நிறுத்த அல்லது இடைநிறுத்தத் தலையிட முடிவெடுத்த 35 வினாடிகளுக்குள் மாடலின் வெளியீட்டை நிறுத்துகிறது. மற்ற அமைப்புகள் செயலிழந்தாலும் தொடர்ந்து செயல்படும் வகையிலும், கட்டுப்பாட்டு அறையே செயலிழந்தால் மாடலின் வெளியீட்டை நிறுத்தும் வகையிலும் இது உருவாக்கப்பட்டுள்ளது.

கட்டுப்பாட்டு அறைக்கான தேவை மிக அதிகமாக உள்ள எங்கள் ஆராய்ச்சி உள்கட்டமைப்பு முழுவதிலும் அது ஏற்கெனவே பயன்பாட்டில் உள்ளது. வெளிப் பயனர்களுக்கு மாடல் சேவைகளை வழங்கும் எங்கள் தொழில்நுட்ப அடுக்கு, இயல்பிலேயே அதிக அளவில் மையப்படுத்தப்பட்டுள்ளது. தேவைப்பட்டால் பயன்பாட்டிலுள்ள மாடல்களை விரைவாக நிறுத்துவதற்கான செயல்பாட்டுத் திறனும் அதில் நன்கு மேம்படுத்தப்பட்டுள்ளது.

பணிச்சுமை, அனுமான இயந்திரம், மையப்படுத்தப்பட்ட கட்டுப்பாட்டு அறை சேவை ஆகிய சில அமைப்புகளை ஒருங்கிணைத்துக் கட்டுப்பாட்டு அறை செயல்படுகிறது.

• பணிச்சுமை என்பது இயங்கிக்கொண்டிருக்கும் பணியாகும். அது ஒரு ரீஇன்ஃபோர்ஸ்மென்ட் லெர்னிங் சோதனை, மதிப்பீடு, அதிக அளவிலான மாதிரித் தேர்வு அல்லது தரவுச் செயலாக்கப் பணியாக இருக்கலாம். ஏஜென்ட் வழி அனுமானத்தை மேற்கொள்ளும் ஒவ்வொரு ஆராய்ச்சிப் பணிச்சுமையும் அங்கீகரிக்கப்பட்ட பாதுகாப்புச் சான்றாதாரத் தொகுப்புடன் இணைக்கப்பட வேண்டும் எனக் கட்டாயப்படுத்துகிறோம்.

• அனுமான இயந்திரம், அல்லது சுருக்கமாக இயந்திரம், என்பது மாடலே ஆகும். வரைகலைச் செயலிகளில் நேரடியாக இயங்கும் இந்த இயந்திரத்தை மாடலின் மூளையாகக் கருதலாம். ஒரு பணிச்சுமை பொதுவாக ஒன்று அல்லது அதற்கு மேற்பட்ட மாடல்களைப் பயன்படுத்தும். அவை ஒன்று அல்லது அதற்கு மேற்பட்ட வெவ்வேறு அனுமான இயந்திரங்களில் இயங்கலாம். ஒரே அனுமான இயந்திரத்தை ஒன்றுக்கு மேற்பட்ட வெவ்வேறு பணிச்சுமைகள் பயன்படுத்தலாம்.

• கட்டுப்பாட்டு அறை சேவை பணிகளைக் கண்காணித்து, அவை தொடர்ந்து மாடல் வெளியீட்டை உருவாக்க அனுமதிக்கப்படுமா என்பதைத் தீர்மானிக்கிறது. ஒரு கோரிக்கையை நிறைவேற்றும் முன், இயந்திரங்கள் கட்டுப்பாட்டு அறை சேவையிடம் அனுமதியைச் சரிபார்க்கின்றன. ஒரு பணி நிறுத்தப்பட்டிருந்தால், சேவை அந்தக் கோரிக்கையை மறுத்து, மேற்கொண்டு வெளியீடு உருவாவதைத் தடுக்கிறது.

கட்டுப்பாட்டு அறை பின்வருமாறு ஒருங்கிணைக்கப்பட்டுள்ளது:

• புதிய பணியைத் தொடங்கும்போது, பணிச்சுமைக் குறியீடு கட்டுப்பாட்டு அறையிடம் புதிய job_id-ஐக் கோருகிறது.

• ஒரு மாடலிலிருந்து டோக்கன்களை மாதிரியாகத் தேர்ந்தெடுக்க வேண்டியபோதெல்லாம், அந்த மாடலை இயக்கும் அனுமான இயந்திரத்திற்குப் பணிச்சுமை ஒரு கோரிக்கையை அனுப்புகிறது. அதனுடன் job_id-ஐயும் அனுப்புகிறது. அந்தக் கோரிக்கையை நிறைவேற்ற, இயந்திரம் கட்டுப்பாட்டு அறையிடம் அனுமதி கேட்கிறது. அதனுடன் job_id-ஐக் கட்டுப்பாட்டு அறைக்கு அனுப்புகிறது.

• அந்தப் பணி நிறுத்தப்பட்டுள்ளதா என்பதைக் கட்டுப்பாட்டு அறை சரிபார்க்கிறது. நிறுத்தப்பட்டிருந்தால், அனுமானக் கோரிக்கையை மறுக்கிறது. பணிச்சுமையின் அனுமானக் கோரிக்கைக்கு இயந்திரம் மறுப்பைப் பதிலாக அனுப்புகிறது. இதனால் அந்தப் பணிக்காக மேற்கொண்டு மாடல் வெளியீடு உருவாவது நிற்கிறது.

எங்கள் அதிநவீன ரீஇன்ஃபோர்ஸ்மென்ட் லெர்னிங் பணிகள் அனைத்தும் ஒரு கண்காணிப்பானுடன் இயங்குகின்றன. கண்காணிப்பான் என்பது மற்றொரு மாடலாகும். பயிற்றுவிக்கப்படும் மாடல் செய்யும் அனைத்தையும் அது ஆய்வு செய்து, சிக்கலைக் கண்டறிந்தால் எச்சரிக்கை எழுப்புகிறது. எடுத்துக்காட்டாக, அண்மையில் நடந்த களப்பெயர் அமைப்பு தொடர்பான சம்பவத்தை⁠(புதிய சாளரத்தில் திறக்கும்) ஒரு கண்காணிப்பான் கண்டறிந்தது.

கட்டுப்பாட்டு அறையும் எங்கள் கண்காணிப்பு அமைப்பும் பின்வருமாறு ஒருங்கிணைக்கப்பட்டுள்ளன:

• ஏற்படக்கூடிய சிக்கலைக் கண்காணிப்பு அமைப்பு கண்டறிந்தால், அதன் விவரங்களையும் தீவிரத்தையும் பொறுத்துப் பணியை நிறுத்த முடிவெடுக்கலாம்.

• அப்போது, பணியை நிறுத்துமாறு கண்காணிப்பு அமைப்பு கட்டுப்பாட்டு அறைக்குச் செய்தி அனுப்புகிறது. அதனுடன் job_id-ஐயும் அனுப்புகிறது. பணி நிறுத்தப்பட்டதாகக் கட்டுப்பாட்டு அறை பதிவு செய்கிறது.

• அந்த job_id கொண்ட பணி, அடுத்த முறை எந்த இயந்திரத்தில் இயங்கும் எந்த மாடலிலிருந்து மேலும் டோக்கன்களை மாதிரியாகத் தேர்ந்தெடுக்க அனுமானக் கோரிக்கையை அனுப்பினாலும், அது மறுக்கப்படும். இதனால் மேற்கொண்டு மாடல் வெளியீடு உருவாவது நிற்கிறது.

ஒரு பணியை நிறுத்துவதற்கான அறிவுறுத்தலைக் கட்டுப்பாட்டு அறை பெற்றதிலிருந்து, அந்தப் பணி மேற்கொண்டு செயல்பட முடியாத நிலையை அடைவதுவரை அதிகபட்சமாக 35 வினாடிகள் ஆகும். தேவையான அளவு கோரிக்கைகளைக் கையாள, அனுமானத்திற்கான அனுமதியைச் சரிபார்க்கும் அமைப்பில் தற்காலிகச் சேமிப்பு அடுக்கு உள்ளது. இதுவே இந்த 35 வினாடித் தாமதத்திற்குக் காரணம். பணிகளை உடனடியாக நிறுத்தும் வகையில், இந்தத் தாமதத்தைப் பூஜ்ஜியமாகக் குறைக்க முயன்று வருகிறோம்.

சோதனைகள், மதிப்பீட்டுப் பணிகள் உள்ளிட்ட பணிச்சுமைகள் பொதுவாக ஆராய்ச்சியாளர்கள் அல்லது ஆராய்ச்சிக் குழுக்களின் பொறுப்பில் இயங்குகின்றன. இதனால், பணிச்சுமைக் குறியீடு அடிக்கடி மாறுகிறது. எனவே, முக்கியமான பாதுகாப்பு ஏற்பாடுகளைச் செயல்படுத்துவதற்கு அது ஏற்ற இடமல்ல. ஆகவே, பணிச்சுமைக் குறியீட்டில் பிழைகள் இருந்தாலும், அது செயலிழந்தாலும் எங்கள் அமைப்பு தொடர்ந்து செயல்படும் வகையில் வடிவமைக்கப்பட்டுள்ளது.

பணியை நிறுத்தும் வழிமுறையை அனுமான அடுக்கில் செயல்படுத்துவதன் மூலம் இதைச் சாத்தியமாக்குகிறோம். பணிச்சுமைக் குறியீடு பல்வேறு வகைகளில் உள்ளது; அது மையப்படுத்தப்படவில்லை. மாறாக, OpenAI ஆராய்ச்சி முழுவதிலும் மிகச் சில அனுமானக் குறியீட்டுப் பாதைகளே பயன்பாட்டில் உள்ளன. அவை பயன்படுத்தப்படும் விதமும் அதிக அளவில் மையப்படுத்தப்பட்டு, ஒரே சீராக உள்ளது. எனவே, அனுமான அடுக்கு ஒரு பொதுவான கட்டுப்பாட்டுப் புள்ளியாகச் செயல்பட முடியும். ஆராய்ச்சியில் இயங்கும் அனைத்து மாடல் அனுமானங்களிலும், ஒவ்வொரு அனுமானக் கோரிக்கையும் கட்டுப்பாட்டு அறையின் அனுமதிச் சரிபார்ப்புக்கு உட்படுவதை இதன் மூலம் வலுவாக உறுதிசெய்ய முடியும். கட்டுப்பாட்டு அறை இணைக்கப்படாத அல்லது முடக்கப்பட்ட, கட்டுப்பாட்டை மீறும் இயந்திர அமைப்புகளைப் பயனர்கள் தவறுதலாகவோ தீய நோக்குடனோ தொடங்கவில்லை என்பதை உறுதிசெய்ய, ஏஜென்ட்கள் மற்றும் நிரல்கள் மூலம் தொடர்ச்சியான சோதனைகளையும் நடத்துகிறோம்.

இறுதியாக, எங்கள் அமைப்பு “செயலிழந்தால் அணுகலைத் தடுக்கும்”. அதாவது, அமைப்புப் பிழையாலோ, தீய நோக்குள்ள ஒருவர் தலையிடுவது உள்ளிட்ட வேறு எந்தக் காரணத்தால் முடக்கப்பட்டாலோ, கட்டுப்பாட்டு அறை சேவை செயலிழக்கும்போது அனைத்து அனுமானக் கோரிக்கைகளும் மறுக்கப்படும். கட்டுப்பாட்டு அறை மீண்டும் இயல்பாகச் செயல்படும்வரை இந்தத் தடை நீடிக்கும் வகையில், இயந்திரங்களில் அதன் ஒருங்கிணைப்பு அமைக்கப்பட்டுள்ளது. செயலிழந்தால் அணுகலைத் தடுக்கும் இந்த அம்சம், அனைத்து அதிநவீன மாடல் ஆராய்ச்சிப் பணிச்சுமைகளிலும் இப்போது செயல்படுத்தப்பட்டுள்ளது. மீதமுள்ள அனைத்து ஆராய்ச்சிப் பணிச்சுமைகளிலும் அடுத்த சில நாட்களுக்குள் இது செயல்படுத்தப்படும்.

அதிநவீன மாடல்களைப் பாதுகாப்பாகப் பயிற்றுவித்துப் பயன்பாட்டுக்குக் கொண்டுவருவதற்கான எங்கள் முழுமையான அணுகுமுறையில் கட்டுப்பாட்டு அறை ஒரு பகுதி மட்டுமே. நோக்கங்களுடன் ஒத்துப்போகாத நடத்தை மற்றும் பாதுகாப்பு மீறல்களைக் கண்காணிப்பதில் முதலீடு செய்வதோடு, வரும் மாதங்களில் இந்த அமைப்பைத் தொடர்ந்து வலுப்படுத்தி விரிவுபடுத்துவோம். AGI-ஐப் பாதுகாப்பாக உருவாக்கிப் பயன்பாட்டுக்குக் கொண்டுவருவதற்கான அமைப்புகளை உருவாக்க நீங்கள் உதவ விரும்புகிறீர்களா? நாங்கள்⁠ பணியமர்த்துகிறோம்⁠!