மாடல் மதிப்பீட்டின்போது ஏற்பட்ட பாதுகாப்பு சம்பவத்தை கையாள OpenAI, Hugging Face இணைகின்றன

கடந்த வாரம், Hugging Face தங்கள் உட்கட்டமைப்பை சமரசப்படுத்திய செயற்கை நுண்ணறிவு ஏஜென்டை கண்டறிந்து கட்டுப்படுத்திய பிறகு, புதிய வகை பாதுகாப்பு சம்பவத்தை வெளிப்படுத்தியது⁠(புதிய சாளரத்தில் திறக்கும்); சைபர் திறன் அதிகரிக்கும் மாடல்கள் பரவுவதால் இது மேலும் பொதுவாகும் என்று நாங்கள் எதிர்பார்க்கிறோம். விசாரணைக்குப் பிறகு, OpenAI மாடல்களின் இணைப்பால் இந்த குறிப்பிட்ட சம்பவம் ஏற்பட்டது என்பதை இப்போது அறிந்துள்ளோம் — GPT‑5.6 Sol மற்றும் இன்னும் திறன்மிக்க, வெளியீட்டுக்கு முன் உள்ள மாடல் உட்பட, அனைத்தும் மதிப்பீட்டு நோக்கங்களுக்காக சைபர் மறுப்புகள் குறைக்கப்பட்ட நிலையில் — இவை சைபர் திறன்களின் அளவுகோலில்⁠(புதிய சாளரத்தில் திறக்கும்) உள்துறையில் சோதிக்கப்பட்டன.

இந்தச் சம்பவம் முன்னெப்போதும் இல்லாத, நவீனத்தன்மை வாய்ந்த சைபர் திறன்களை உட்படுத்திய சைபர் சம்பவம் என நாங்கள் கருதி, அதற்கேற்ப பதிலளிக்கிறோம். என்ன நடந்தது என்பதை பாதுகாப்பாளர்கள் புரிந்துகொள்ளவும், மாடல்கள் இப்போது என்ன செய்யக்கூடியவை என்பதை மதிப்பிட உதவவும், இந்த கட்டத்தில் ஆரம்பகால கண்டறிதல்களைப் பகிர்கிறோம். Hugging Face உடன் இணைந்து முழுமையான விசாரணையைத் தொடர்ந்து நடத்துவோம்; எங்கள் விசாரணை முடிந்ததும் பாதிப்புகள், சம்பவம் மற்றும் கண்டறிதல்கள் பற்றிய கூடுதல் விவரங்களைப் பகிர்வோம்.

சைபர் திறன்களை அளவிடும் முயற்சியாக, சிக்கலான தாக்குதல் பாதைகள் வழியாக மேம்பட்ட பயன்படுத்திச் சுரண்டலை மேற்கொள்ள மாடல்களைத் தூண்டும் உள்மதிப்பீட்டின்போது இந்தச் சம்பவம் ஏற்பட்டது. அதிக ஆபத்துள்ள சைபர் செயல்பாடுகளை மாடல்கள் மேற்கொள்வதைத் தடுக்கும் தயாரிப்பு வகைப்படுத்திகள் இன்றி இந்த மதிப்பீட்டை இயக்குவதன் மூலம், அதிகபட்ச சைபர் திறன்களை நாங்கள் மதிப்பிடுகிறோம். எங்கள் அளவுகோல்கள் மிகத் தனிமைப்படுத்தப்பட்ட சூழலில் இயங்குகின்றன; பேக்கேஜ் ரெஜிஸ்ட்ரிகளுக்கான பிராக்ஸி மற்றும் தற்காலிகச் சேமிப்பாக செயல்படும், உள்மையாக ஹோஸ்ட் செய்யப்பட்ட மூன்றாம் தரப்பு மென்பொருள் மூலம் பேக்கேஜ்களை நிறுவும் திறனுக்கே பிணைய அணுகல் கட்டுப்படுத்தப்பட்டுள்ளது.

OpenAI-இன் ஆராய்ச்சி சூழலும் Hugging Face-இன் தயாரிப்பு உட்கட்டமைப்பு முழுவதும் உள்ள பாதிப்புகளை மாடல்கள் கண்டறிந்து ஒன்றுடன் ஒன்று இணைத்து, சோதனைத் தீர்வுகளை நேரடியாக Hugging Face-இன் தயாரிப்பு தரவுத்தளத்திலிருந்து பெற்றன. ExploitGym-க்கு தீர்வு காண்பதில் மாடல்கள் மிகுந்த கவனம் செலுத்தி, மிகவும் குறுகிய சோதனை இலக்கை அடைய மிகக் கடுமையான முயற்சிகளை எடுத்தன என்பதையே அனைத்து ஆதாரங்களும் காட்டுகின்றன.

எங்கள் சாண்ட்பாக்ஸ் சோதனைச் சூழலில் இயங்கும் போது, மதிப்பீட்டு பிரச்சினையைத் தீர்க்க திறந்த இணைய அணுகலைப் பெறும் வழியை கண்டுபிடிக்க எங்கள் மாடல்கள் கணிசமான அனுமானக் கணக்கீட்டைச் செலவிட்டன. அணுகலைப் பெற, பேக்கேஜ் ரெஜிஸ்ட்ரி தற்காலிகச் சேமிப்பு பிராக்ஸியில் இருந்த ஜீரோ நாள் பாதிப்பை மாடல்கள் கண்டறிந்து பயன்படுத்திச் சுரண்டின; அதை இப்போது விற்பனையாளருக்கு பொறுப்புடன் வெளிப்படுத்தியுள்ளோம். இந்த அணுகலைக் கொண்டு, எங்கள் ஆராய்ச்சி சோதனைச் சூழலில் இணைய அணுகல் கொண்ட ஒரு நோடை அடையும் வரை, சலுகை அதிகரிப்பு மற்றும் பக்கவாட்டு இயக்க நடவடிக்கைகளின் தொடரை எங்கள் மாடல்கள் மேற்கொண்டன.

இணைய அணுகலைப் பெற்ற பிறகு, Hugging Face-இல் ExploitGym-க்கான மாடல்கள், தரவுத்தொகுப்புகள் மற்றும் தீர்வுகள் இருக்கக்கூடும் என்று மாடல்கள் ஊகித்தன. இதை அறிந்த மாடல், மதிப்பீட்டில் ஏமாற்ற பயன்படுத்தக்கூடிய ரகசியத் தகவல்களை அணுகும் வழிகளைத் தேடி வெற்றிகரமாகக் கண்டுபிடித்தது. ஓர் எடுத்துக்காட்டில், திருடப்பட்ட உள்நுழைவுத் தகவல்கள் மற்றும் ஜீரோ நாள் பாதிப்புகளைப் பயன்படுத்தியது உட்பட பல தாக்குதல் வழிகளை மாடல் ஒன்றிணைத்து, Hugging Face சேவையகங்களில் தொலைநிலைக் கோடிங் செயல்படுத்தல் பாதையை கண்டறிந்தது. இந்த அசாதாரண செயல்பாட்டை OpenAI-இன் பாதுகாப்பு அணி நிருவனத்திற்குள்ளாகக் கண்டறிந்தது.

Hugging Face-இன் பாதுகாப்பு அணி மற்றும் ஏஜென்ட்கள் தங்கள் உட்கட்டமைப்பில் அந்தச் செயல்பாட்டைக் கண்டறிந்து நிறுத்தின; எங்கள் அணிகள் இணைவதற்குள், தங்களது ஒப்பன் சோர்ஸ் மாடல்களுடன் அடக்கி வைத்தல் மற்றும் தடயவியல் மறு உருவாக்கத்தை அவர்கள் ஏற்கனவே தொடங்கியிருந்தனர். இந்தச் சம்பவத்தை தொடர்ந்து விசாரிக்க அவர்களுடன் செயலில் இணைந்து பணிபுரிகிறோம். விசாரணை மற்றும் தீர்வுபடுத்தலில் Hugging Face வேகமாகவும் நெருக்கமாகவும் ஒத்துழைத்ததற்கு நாங்கள் நன்றியுள்ளவர்களாக இருக்கிறோம்.

1. விசாரணையின் ஒரு பகுதியாக, பாதிப்புகள் சரிசெய்யப்படும் வரை ஆராய்ச்சி வேகத்தைத் தாழ்த்தி, உட்கட்டமைப்பு உள்ளமைப்பில் கடுமையான கட்டுப்பாடுகளை அமல்படுத்துகிறோம். இந்தக் கட்டுப்பாடுகள் மற்றும் அவற்றின் தாக்கம் குறித்து எங்கள் பாதுகாப்பு மற்றும் காப்புக்கான குழுவிற்கு தொடர்ந்து விளக்கமளித்து வருகிறோம்.
2. இந்தச் சம்பவத்தை தடயவியல் முறையில் விசாரிக்க Hugging Face உடன் இணைந்து செயல்படுகிறோம்.
3. உள்மையாக ஹோஸ்ட் செய்யப்பட்ட மூன்றாம் தரப்பு மென்பொருளில் கண்டறியப்பட்ட ஜீரோ நாள் பாதிப்பை பொறுப்புடன் வெளிப்படுத்தியுள்ளோம்; அதைச் சரிசெய்ய அவர்களுடன் பணிபுரிகிறோம்.
4. Hugging Face-ஐ நம்பகமான அணுகல்⁠ திட்டத்தில் சேர்த்துள்ளோம்; அவர்களின் பாதுகாப்புகளை மேம்படுத்த எங்கள் மாடல்களின் திறன்களை விரைவாகப் பயன்படுத்த அவர்களின் அணிகளுக்கு ஆதரவு அளிக்கிறோம்.
5. எதிர்காலப் பயிற்சி மற்றும் மதிப்பீடுகளுக்கான பாதுகாப்புகளை மேலும் வலுப்படுத்தி, புதிய பாதுகாப்புகளையும் சேர்த்து வருகிறோம். இந்த வாரம், நீண்ட கால வரம்பு கொண்ட மாடல்களின் காலத்தில் பாதுகாப்பையும் ஒத்திசைவையும் மேம்படுத்துதல்⁠ குறித்த வலைப்பதிவை வெளியிட்டோம். இந்த மதிப்பீடு சைபர் பாதிப்புகளைச் சோதிப்பதற்காகவே இருந்ததால், இந்த வெளியீட்டு பாதுகாப்புகள் திட்டமிட்டு இயக்கப்படவில்லை. எங்கள் மாடலின் ஒத்திசைவு, மதிப்பீட்டு நேரத்திலான சைபர் பாதுகாப்புகள் மற்றும் உள்சோதனையின் கண்காணிப்பு ஆகியவற்றை மேலும் வலுப்படுத்த வேண்டிய தேவை இருப்பதை இந்தச் சம்பவம் காட்டுகிறது.

நாங்கள் சமீபத்தில்⁠ பகிர்ந்ததுபோல், பாதிப்புகளை கண்டறிதலையும் பயன்படுத்திச் சுரண்டலையும் செயற்கை நுண்ணறிவு வேகப்படுத்துகிறது. இந்தச் சம்பவத்தின் முதன்மைப் பாடம், வேகமாக முன்னேறும் திறன்களுக்கு மாடல் பாதுகாப்பும் காப்பு நடைமுறைகளும் இணையாக முன்னேற வேண்டும் என்பதே ஆகும். மாடல் மேம்பாட்டின்போது பயன்படுத்தப்படும் அடக்கி வைத்தல், கண்காணிப்பு, அணுகல் கட்டுப்பாடுகள் மற்றும் மதிப்பீட்டு நடைமுறைகளை நாங்கள் வலுப்படுத்துகிறோம்.

GPT‑5.6 Sol போன்ற மாடல்கள் நீண்ட கால வரம்புகளில் சிக்கலான, பல படிகளைக் கொண்ட சைபர் செயல்பாடுகளைத் தொடர்ந்து மேற்கொள்ளும் திறன் அதிகரித்து வருவதை UK AISI-இன் மதிப்பீடு காட்டுகிறது. நிஜ உலகச் சூழல்களிலும் இந்த கோட்பாட்டு திறன்கள் பொருந்துகின்றன என்பதை இந்தச் சம்பவம் உணர்த்துகிறது.

சோர்ஸ் கோடின் அணுகல் இல்லாமலேயே நிஜ உலக முறைமைகளில் புதிய தாக்குதல் பாதைகளை மேம்பட்ட மாடல்கள் கண்டறிந்து பயன்படுத்திச் சுரண்ட முடியும் என்பதையும் இந்தச் சம்பவம் தெளிவுபடுத்துகிறது. மேம்பட்ட சைபர் திறன்கள் இன்னும் வலுவான பாதுகாப்புகளுடனும் தற்காப்பு கருவிகளுடனும் சேர்ந்து உருவாக்கப்பட வேண்டும் என்பதை இது வலியுறுத்துகிறது.

மேம்பட்ட சைபர் திறன் கொண்ட மாடல்கள், தாக்குதலாளர்களுக்கு முன்னரே பலவீனங்களை கண்டறியவும், பாதிப்புகள் எவ்வாறு ஒன்றுடன் ஒன்று இணைக்கப்படலாம் என்பதைப் புரிந்துகொள்ளவும், இயந்திர வேகத்தில் அவற்றைச் சரிசெய்யவும் பாதுகாப்பு அணிகளுக்கு உதவ வேண்டும் என நாங்கள் நம்புகிறோம். உட்கட்டமைப்பு உள்ளமைப்பு மற்றும் மாடல் மதிப்பீட்டு சூழல்களைச் சுற்றியுள்ள பாதுகாப்புகளை தொடர்ந்து வலுப்படுத்த இந்த திறன்களைப் பயன்படுத்துகிறோம்; கற்றுக்கொள்வதற்கேற்ப எங்கள் கண்டறிதல்களையும் சிறந்த நடைமுறைகளையும் பகிர்வோம். மற்ற பாதுகாப்பாளர்களும் நம்பகமான அணுகலுக்கு விண்ணப்பித்து⁠, இந்த மாடல்களை இப்போதே பரிசோதிக்குமாறு ஊக்குவிக்கிறோம்; இதன் மூலம் இந்த திறன்களை மேம்பட்ட தடுப்பு, விரைவான கண்டறிதல் மற்றும் அதிக விளைவுள்ள சம்பவப் பதிலளிப்பாக மாற்றலாம்.