கடந்த சில வாரங்களில், அதிகரித்துவரும் திறனுள்ள செயற்கை நுண்ணறிவு அமைப்புகளுடன் தொடர்புடைய அபாயங்களை இரண்டு முன்னேற்றங்கள் எடுத்துக்காட்டியுள்ளன: OpenAI-Hugging Face சம்பவம் மற்றும் தனியாக, விரைவில் வரவுள்ள எங்கள் மாடல்களில் ஒன்றான Astra, எங்கள் பிரிபேர்ட்நெஸ் ஃப்ரேம்வொர்க் கீழ் உள்ள முக்கிய இணையப் பாதுகாப்புத் திறன் வரம்பை எட்டக்கூடும் என்பதற்கான தொடக்கநிலை ஆதாரம். இந்த முன்னேற்றங்களும் எங்கள் உள் ஆய்வின் விரைவான வளர்ச்சியும் சேர்ந்து, பயிற்சிச் செயல்முறையின் எல்லா நிலைகளிலும் கண்காணிப்பு, ஒருங்கிணைவு மற்றும் கட்டுப்பாட்டுப் பாதுகாப்புகளை வலுப்படுத்தும் எங்கள் பணியின் அவசரத்தன்மையை அதிகரித்துள்ளன.
மாடல்களின் திறன் அதிகரிக்கும்போது, அவற்றை உள்ளகமாக உருவாக்கிச் சோதிப்பதுடன் தொடர்புடைய அபாயங்களும் அதிகரிக்கின்றன. கண்காணிப்பு, ஒருங்கிணைவு மற்றும் பாதுகாப்புக்கான எங்கள் தரநிலைகள் அந்த அபாயங்களை முந்தியிருக்க வேண்டும். அந்தத் தரநிலைகளை அடையத் தேவையான நேரத்தை எடுத்துக்கொள்ள விரும்பியதால், அளவிடுதலின் வேகத்தைத் தற்காலிகமாகக் குறைத்தோம். எங்கள் ஆய்வுச் சூழல்களை மேலும் வலுப்படுத்தி, எதிர்த்தரப்புச் சோதனைகளை மேற்கொண்டு, கண்காணிப்பு அமைப்புகளின் பரப்பை விரிவுபடுத்தியபோது, வெளியீட்டுக்காக உருவாக்கப்பட்ட எங்களின் சமீபத்திய மாடல்களுக்கான ரீஇன்ஃபோர்ஸ்மென்ட் லெர்னிங் (RL) பயிற்சியை இரண்டு வாரங்களுக்கு நிறுத்தியதும் இதில் அடங்கும். மாடலின் நடத்தையை மதிப்பிடவும், பாதுகாப்புகளைச் சரிபார்க்கவும், தொடர்வதற்கு முன் ஒருங்கிணைவுக்கான கூடுதல் ஆதாரத்தை நிறுவவும் சிறிய அளவிலான பயிற்சிகளையும் மதிப்பீடுகளையும் நடத்திவருவதால், திட்டமிட்ட மிகப்பெரிய அதிநவீன RL பயிற்சி இன்னும் நிறுத்திவைக்கப்பட்டுள்ளது.
—செயற்கை நுண்ணறிவு அமைப்புகளை எதிர்பார்த்தபடி செயல்படச் செய்து, மனித மேற்பார்வைக்குப் பதிலளிக்க வைக்கும் பணியான—ஒருங்கிணைவு நீண்டகாலமாக எங்கள் ஆய்வுத் திட்டத்தின் மையமாக இருந்து வருகிறது. ஏற்கெனவே நடைபெற்றுவரும் ஆய்வுகள் மற்றும் மதிப்பீடுகளின் அடிப்படையில், பயிற்சியின் எல்லா நிலைகளிலும் ஒருங்கிணைந்த நடத்தைக்கான வலுவான ஆதாரத்தை இப்போது கோருகிறோம். அதிகரித்துவரும் திறனுள்ள அமைப்புகளை ஒருங்கிணைந்த நிலையில் வைத்திருப்பது, இந்தத் துறை முழுவதும் எதிர்கொள்ள வேண்டிய சவாலாகும். வரவிருக்கும் மாடல்களின் முன்னேற்றத்திலிருந்து கிடைக்கும் அறிகுறிகள்—தற்போதைய பிரிபேர்ட்நெஸ் ஃப்ரேம்வொர்க்கை அடிப்படையாகக் கொண்டு அதையும் தாண்டி விரிவடையும் பரந்த அணுகுமுறை தேவை என்பதைத் தெளிவுபடுத்துகின்றன.
எங்கள் அணுகுமுறை எவ்வாறு மாறுகிறது என்பது குறித்து வெளிப்படையாக இருப்பது முக்கியம் என்று கருதுகிறோம். எங்கள் ஆய்வுச் செயல்முறைகளிலும் உள்கட்டமைப்பிலும் ஏற்கெனவே செய்துள்ள மாற்றங்களையும், இன்னும் நடைபெற்றுவரும் பணிகளையும் கீழே விவரிக்கிறோம்.
அதிகத் திறனுள்ள மாடல்களை உருவாக்குவதற்கான எங்கள் அணுகுமுறை, ஒன்றையொன்று வலுப்படுத்தும் மூன்று பாதுகாப்புகளைச் சார்ந்துள்ளது:
- கண்காணிப்பு, கவலைக்குரிய நடத்தையைக் கண்டறிந்து அதற்கு நடவடிக்கை எடுக்க உதவுகிறது.
- ஒருங்கிணைவு, தீங்கு விளைவிக்கும் அல்லது அங்கீகரிக்கப்படாத செயல்களின் வாய்ப்பைக் குறைக்கிறது.
- பாதுகாப்பு நடவடிக்கைகள், செயற்கை நுண்ணறிவு அமைப்புகள் அணுகக்கூடிய அல்லது பாதிக்கக்கூடியவற்றைக் கட்டுப்படுத்துகின்றன.
பிற மாடல்களுக்கு எதிரான தற்காப்பு உட்பட பெரும்பாலான பாதுகாப்புப் பணிகளை விரைவில் மாடல்களே மேற்கொள்ளும் என எதிர்பார்க்கிறோம். இதனால் மூன்று பாதுகாப்புகளும் மாடலின் திறனுக்கு ஏற்ப விரிவடைய முடியும்; இதை நாங்கள் மிக முக்கியமானதாகக் கருதுகிறோம்.
ஒவ்வொரு மாடலின் திறன்கள், செயல்பாட்டுச் சூழல் மற்றும் அபாய நிலைக்கு ஏற்ப மாற்றியமைத்து, ஆய்வு முதல் வெளியீடு வரை இந்தப் பாதுகாப்புகளைப் பயன்படுத்துகிறோம்.
அதிநவீன மாடல்களின் இணையப் பாதுகாப்புத் திறன்கள் வலுப்பெறுவதால், அவற்றைப் பயிற்றுவித்து மதிப்பிடும் சூழல்களுக்கான பாதுகாப்புத் தரநிலைகளை உயர்த்திவருகிறோம். இந்தத் தரநிலைகளைப் பூர்த்திசெய்ய கணிசமான பொறியியல் பணி தேவைப்பட்டுள்ளது; அதிநவீன ஆய்வுக்கு பெரும் செலவும் தாமதமும் ஏற்பட்டுள்ளன. OpenAI-Hugging Face சம்பவம்* நிகழ்ந்தவுடன், நிரலை இயக்கக்கூடிய அல்லது இணையத்தை அணுகக்கூடிய கருவிகளைப் பயன்படுத்தக்கூடிய செயல்பாடுகளுக்காக, ஆய்வுத் தொகுதிகளில் அதிநவீன மாடல்களின் அனுமான இயக்கத்தை நிறுத்தினோம். நிரல் இயக்கத்திற்கான மிகவும் வரையறுக்கப்பட்ட, பாதுகாப்பான வழியை விரைவாக மீட்டமைத்தோம்; பின்னர் ஒவ்வொரு பணிச்சுமையும் பாதுகாப்பாகத் தொடர முடியுமா என்பதைத் தனித்தனியாக ஆய்வுசெய்தோம். சில ஆய்வுப் பணிச்சுமைகள் இந்தப் புதிய கட்டுப்பாடுகளின் கீழ் மீண்டும் தொடங்கின; மற்றவற்றுக்குக் கூடுதல் மாற்றங்கள் தேவைப்பட்டன.
அடுத்தடுத்த வாரங்களில், அதிநவீன ஆய்வுப் பணிச்சுமைகளுக்கான வலுவான பாதுகாப்புத் தேவைகளை வரையறுத்து, செயல்படுத்தத் தொடங்கியுள்ளோம். எடுத்துக்காட்டாக:
- பணிச்சுமைத் தனிமைப்படுத்தல்: மாடல் உருவாக்கிய அல்லது நம்பகமற்ற நிரலை இயக்கும் பணிச்சுமைகளுக்கு இப்போது வலுவான தனிமைப்படுத்தலை (“தனிமைப் பெட்டிகளை”), கட்டாயமாக்கியுள்ளோம். மாடல் வெளியீடுகளைச் செயலாக்கும்போது ஊடுருவலுக்கு உள்ளாகக்கூடிய மென்பொருளுக்கும் இது பொருந்தும்.
- வலையமைப்புத் தனிமைப்படுத்தல்: அதிக அபாயமுள்ள மற்றும் நம்பகமற்ற பணிச்சுமைகளை இணையத்திலிருந்து தனிமைப்படுத்தக் கூடுதல் கட்டுப்பாடுகளைச் செயல்படுத்தியுள்ளோம். ஒரு பணிச்சுமை அல்லது துணைச் சேவை மட்டும் ஊடுருவப்பட்டாலும், அதுவே இணையம் அல்லது பிற உள் வலையமைப்புகளுக்கு அங்கீகரிக்கப்படாத அணுகலை வழங்காதவாறு இந்தக் கட்டுப்பாடுகளை வடிவமைத்துள்ளோம்.
- தொடர்ச்சியான பாதுகாப்புச் சோதனை: பாதிப்புக்குள்ளாகக்கூடிய பகிரப்பட்ட சேவைகளை அகற்றவும், நிரந்தரச் சிறப்புரிமைகளைக் குறைக்கவும், பாதுகாப்பு மற்றும் நம்பிக்கை எல்லைகளை மேம்படுத்தவும் எங்கள் சூழலை மறுகட்டமைத்துள்ளோம். பாதுகாப்புப் பதிவுகளைச் சேகரித்துக் கண்காணிக்கும் எங்கள் திறனையும் மேம்படுத்திவருகிறோம். இறுதியாக, உருவகப்படுத்தப்பட்ட தாக்குதல்களுக்கு எதிராக இந்த எல்லைகளைத் தொடர்ந்து சோதிக்க, எங்கள் மாடல்களைப் பயன்படுத்தும் தானியக்கத்தில் முதலீடு செய்கிறோம்.
இந்தக் கட்டுப்பாடுகள் ஒன்றிணைந்து பல அடுக்குத் தற்காப்பை வழங்குவதுடன், தாக்குதல்களிலிருந்து எங்கள் ஆய்வுச் சூழலைப் பாதுகாக்க உதவுகின்றன. Astra மாடல்களுக்குக் குறிப்பிடத்தக்க இணையப் பாதுகாப்புத் திறன் இருக்கக்கூடும் என்று கண்டறிந்துள்ளதால், Astra அல்லது இணையப் பாதுகாப்பு மாடல்கள் தொடர்பான பணிச்சுமைகளுக்கு இன்று மிகக் கடுமையான பாதுகாப்புகளை விதிக்கிறோம். இணையப் பாதுகாப்பு தொடர்பான மற்ற எல்லாப் பணிச்சுமைகளுக்கும் இந்தப் பாதுகாப்புகள் பொருந்தும்.
சில Astra பயிற்சிகளும் மதிப்பீடுகளும் அந்தத் தேவைகளைப் பூர்த்திசெய்தாலும், புதிய பாதுகாப்புத் தரநிலையை எட்டும் வகையில் முழுமையாக மாற்றப்பட்டு மேம்படுத்தப்படும் வரை கணிசமான எண்ணிக்கையிலான பணிச்சுமைகள் நிறுத்தப்பட்டுள்ளன. இந்தப் புதிய சூழல்களுக்கு முதலில் பாதுகாப்பு மற்றும் ஒருங்கிணைவுப் பணிச்சுமைகளை மாற்றுவதற்கு முன்னுரிமை அளிக்கிறோம்.
உள் நிரலாக்க ஏஜென்ட்களைக் கண்காணிப்பது மற்றும் நீண்டநேர அமர்வுகளைக் கண்காணிப்பது உட்பட, கண்காணிப்பு நீண்டகாலமாக எங்கள் மாடல் மேம்பாட்டுச் செயல்முறையின் முக்கியப் பகுதியாக இருந்து வருகிறது. மேம்பட்ட மாடல் திறன்களுடன் கருவிகள், முக்கிய அமைப்புகள் மற்றும் உள் அல்லது வெளி வலையமைப்புகளுக்கான அணுகலை இணைக்கக்கூடியதால், மிக அதிக அபாயமுள்ள பணிச்சுமைகளாக நாங்கள் கருதிய அதிநவீன மாடல்களின் உள் வெளியீடுகள் மற்றும் அதிநவீன RL பயிற்சிகளில் எங்கள் கண்காணிப்பு முயற்சிகள் சிறப்புக் கவனம் செலுத்தின. கருவிகளைப் பயன்படுத்தும் எல்லா அனுமான மற்றும் பயிற்சி இயக்கங்களுக்கும் அவை பயன்படுத்தப்படவில்லை. எங்கள் புதிய கண்காணிப்பு அமைப்புடன் அணுகுமுறையைத் திருத்தி விரிவுபடுத்தியுள்ளோம்.
இந்தப் புதிய கண்காணிப்பு அமைப்பு பல நிலைகளைக் கொண்டது. மாதிரியாகத் தேர்ந்தெடுக்கப்படும் ஒவ்வொரு டோக்கனிலும் இயங்கும் செயல்பாட்டு வகைப்படுத்திகளிலிருந்து, அதாவது மாடலின் உள் செயல்பாட்டை ஆய்வுசெய்யும் கண்டறிவான்களிலிருந்து தொடங்கி, சாத்தியமான பிரச்சினைகளைப் படிப்படியாக மேம்பட்ட, அதிகக் கணிப்பொறித் திறன் கொண்ட தானியக்கப் புலனாய்வாளர்களுக்கு அனுப்புகிறது. அங்கீகரிக்கப்படாத அணுகல், தரவுத் திருட்டு, அழிவை ஏற்படுத்தும் நடத்தை மற்றும் பாதுகாப்புகளை முறியடிக்கும் முயற்சிகளைக் கண்டறிய, அந்த அமைப்புகள் கருவிச் செயல்கள், கிடைக்கும் ரீஸனிங் மற்றும் முழுச் செயல்பாட்டுத் தொடரை ஆய்வுசெய்கின்றன. எங்கள் கண்காணிப்பு அமைப்பு கவலைக்குரிய செயல்பாட்டைக் கண்டறிந்த 30 நிமிடங்களுக்குள் எச்சரிக்கை விடுப்பதை இலக்காகக் கொண்டுள்ளோம். முக்கியப் பாதுகாப்பு எல்லை மீறப்பட்டிருக்க வாய்ப்புள்ளதாகக் கண்காணிப்பு அமைப்பு கண்டறிந்தால், மிக உயர்ந்த முன்னுரிமையுள்ள எச்சரிக்கையை உருவாக்கும். எங்கள் தற்போதைய செயலாக்கத்தில், பாதுகாப்பு மற்றும் ஆய்வுக் குழுக்களுக்கு உடனடி அழைப்பு அனுப்பப்படுகிறது. அந்தக் குறியீடு தவறான எச்சரிக்கை என்பதை 30 நிமிடங்களுக்குள் உறுதியாகத் தீர்மானிக்க முடியாவிட்டால், அக்குழுக்கள் செயல்பாட்டை நிறுத்த வேண்டும்.
Sol அல்லது அதற்கும் அதிகமான திறனுள்ள மாடல்களுக்குக் கருவிகளைப் பயன்படுத்தும் எல்லா RL பயிற்சிகளிலும் மதிப்பீடுகளிலும் இந்தக் கண்காணிப்பு கட்டாயமாகும். ஆகஸ்ட் 7 அன்று Astra-வுக்கு முக்கிய இணையப் பாதுகாப்புத் திறன்கள் இருக்கக்கூடும் எனத் தீர்மானித்ததும், கருவிகளுடன் மேற்கொள்ளப்படும் Astra-வின் எல்லா அனுமான இயக்கங்களுக்கும், RL பயிற்சி மற்றும் மதிப்பீடுகளுக்கு மட்டுமல்லாமல், கூடுதல் கண்காணிப்புத் தேவையைச் சேர்த்தோம்.
இந்தப் பாதுகாப்புகளுக்குக் கணிசமான கணிப்பொறித் திறன் தேவைப்படுகிறது. கண்காணிப்புக்கான கூடுதல் கணிப்பொறிச் செலவு, கண்காணிக்கப்படும் அனுமானக் கணிப்பொறித் திறனில் ஏறத்தாழ 20% என எங்கள் தற்போதைய மதிப்பீடுகள் காட்டுகின்றன; இருப்பினும் பயிற்சி மற்றும் மதிப்பீட்டுப் பணிச்சுமைகளுக்கு இடையே இந்தச் செலவு பெரிதும் மாறுபடுகிறது. விரைவில் வெளியாகவுள்ள வலைப்பதிவில் இந்த அமைப்பு பற்றிய கூடுதல் விவரங்களைப் பகிர்வோம்.
ஒருங்கிணைவு ஆய்வு எங்கள் நோக்கத்தின் மையமாகும். ஆர்டிஃபிஷியல் ஜெனரல் இன்டெலிஜென்ஸ் மனிதகுலம் முழுவதற்கும் பயனளிப்பதை உறுதிசெய்வதே எங்கள் நோக்கம். மாடல்கள் இணையத் தாக்குதல் நடத்தும் திறன் போன்ற மேம்பட்ட திறன்களைப் பெற்று, மேலும் சிக்கலான சூழல்களில் செயல்படும்போது, வெகுமதி முறைமைச் சுரண்டல், அதாவது எதிர்பார்த்த முடிவை உண்மையில் அடையாமலேயே பயிற்சியில் அதிக வெகுமதியைப் பெறுவதற்கான வழிகளைக் கண்டறிதல், ஏமாற்றுதல் அல்லது அங்கீகரிக்கப்படாத அணுகல் போன்ற ஒருங்கிணைவற்ற நடத்தைகள் தீவிரமடைந்துவரும் அபாயத்தை உருவாக்கும்.
மிகத் திறனுள்ள மாடல்களுக்கான RL பயிற்சிகளில், பயிற்சிச் செயல்முறையின் கூடுதல் நிலைகளில் எங்கள் முதன்மையான ஒருங்கிணைவு நுட்பங்களை இப்போது பயன்படுத்துகிறோம். பணிகளிலும் சூழல்களிலும் பாதுகாப்பற்ற நடத்தையைச் சிறப்பாகக் கண்டறிந்து தவிர்க்கச் செய்ய வெகுமதி மாடல்களை மேம்படுத்துதல்; தங்கள் செயல்கள், திறன்கள் மற்றும் வரம்புகள் குறித்து மாடல்கள் அதிக நேர்மையுடன் இருக்கப் பயிற்றுவித்தல்; வெகுமதிகள், மதிப்பீட்டாளர்கள், கருவிகள் அல்லது மேற்பார்வையிலுள்ள பலவீனங்களைச் சுரண்டும் நடத்தைகளைக் குறைத்தல் ஆகியவை இதில் அடங்கும். மாடல்கள் வெளிப்புற அமைப்புகள் அல்லது வளங்களுடன் தொடர்புகொள்ளும்போது தீங்கு விளைவிக்கக்கூடிய நடத்தைகளுக்கான பயிற்சிப் பரப்பையும் அதிகரிக்கிறோம்.
ஒருங்கிணைவு ஆய்வில் தீவிரமாகத் தொடர்ந்து முதலீடு செய்து, மதிப்பீட்டுப் பரப்பை அதிகரித்து, கற்றவற்றைப் பயிற்சி மற்றும் பாதுகாப்புகளுக்குப் பயன்படுத்திவருகிறோம். மாடலின் நடத்தை குறித்து நாங்கள் கற்றுவருபவை மற்றும் கண்டறியும் புதிய சவால்கள் உட்பட, எங்கள் ஒருங்கிணைவு ஆய்வு பற்றிய மேலும் பல தகவல்களை விரைவில் பகிரத் திட்டமிட்டுள்ளோம்.
பயிற்சி மற்றும் வெளியீடு முழுவதும் இந்தப் பாதுகாப்புகளை ஒருங்கிணைக்கவும், எதிர்கால மாடல்களின் திறன்களையும் அவை செயல்படும் சூழல்களையும் சிறப்பாகப் பிரதிபலிக்கவும் எங்கள் பிரிபேர்ட்நெஸ் ஃப்ரேம்வொர்க்கை மேம்படுத்துவோம். அந்தத் திறன்களுக்கு ஏற்ப விரிவடையக்கூடிய முறைகளை உருவாக்க, மாடல் உதவியுடனான பாதுகாப்பு, மேலும் பயனுள்ள கண்காணிப்பு மற்றும் ஒருங்கிணைவு ஆய்வின் தொடர்ச்சியான முன்னேற்றங்களில் நீடித்த முதலீடு தேவைப்படும். எங்கள் அணுகுமுறை வளரும்போது வெளி நிறுவனங்களை ஈடுபடுத்தி, கற்றுக்கொள்வதில் மேலும் பலவற்றைப் பகிர உத்தேசித்துள்ளோம்.
அதிநவீன மாடல்களின் திறன்கள் வேகமாக அதிகரித்துவருகின்றன. அவற்றைப் புரிந்துகொண்டு, ஒருங்கிணைத்து, பாதுகாக்கும் எங்கள் திறன் அவற்றை முந்தியிருக்க வேண்டும்.
*வரும் வாரங்களில் நாங்கள் கற்றுக்கொண்டவற்றைப் பற்றிய தொழில்நுட்ப அறிக்கையை வெளியிடுவோம்.
