OpenAI நுட்பத்தால் Block AI பாதுகாப்பை உருவாக்குவது எப்படி

Square, Cash App மற்றும் Afterpay ஆகியவற்றின் பின்னணியில் உள்ள Block நிறுவனத்தின் பாதுகாப்புக் குழு OpenAI Defense Factory-ஐ (பாதுகாப்புத் தொழிற்சாலை) பயன்படுத்துகிறது: இதில் எந்த மனிதக் குழுவாலும் ஈடுகொடுக்க முடியாத அளவில் பாதிப்புகளைக் கண்டறிதல், அடையாளம் காணுதல் மற்றும் அவற்றுக்கு நடவடிக்கை எடுத்தல் ஆகிய பணிகளை AI கையாளுகிறது. OpenAI Daybreak உள்ளிட்ட AI அமைப்புகளைக் கொண்டு, முன்பு பல வாரங்கள் எடுத்த பணிகளை இப்போது சில மணிநேரங்களிலேயே Block செய்து முடிக்கிறது.

Block-இன் பாதுகாப்புக் குழு, குறியீடு உருவாக்கம் ஆகட்டும் அல்லது பாதுகாப்புச் செயல்பாடுகளாகட்டும், பல்வேறு பணிப்பாய்வுகளில் AI-ஐப் பொறுப்புடன் ஏற்றுக்கொள்வதில் கவனம் செலுத்தி வருகிறது. “இதன் முக்கிய நோக்கம், உங்களுடன் சேர்ந்து வளரக்கூடிய ஒரு புதிய குழு உறுப்பினரைப் பெறுவதுதான்,” என்கிறார் தலைமைத் தகவல் பாதுகாப்பு அதிகாரியான James Nettesheim. “படிப்படியாகச் செயல்பட வேண்டிய பாரம்பரிய தானியக்க முறையைப் போன்றதல்ல இது. மிகவும் தனிப்பயனாக்கப்பட்ட, தெளிவற்ற ஒரு சிக்கலை இதனிடம் ப்ராம்ப்ட் செய்து, அதை ஒன்றாகச் சேர்ந்து தீர்க்கலாம்.”

மென்பொருள் பிழையை மதிப்பாய்வு செய்வது அல்லது ஒரு பதிவேட்டை பார்சிங் (அலகிடல்) செய்வது போன்ற ப்ராஜெக்டுகளை முடிக்க நாட்களோ வாரங்களோ ஆகும். ஒவ்வொரு முடிவும் தொடர்ந்து ஒரு மனிதரால் சரிபார்க்கப்படும் நிலையில், இப்போது குழுவால் அந்தப் பணிகளை முன்பைவிட மிகக் குறைந்த நேரத்தில் முடிக்க முடிகிறது.

எடுத்துக்காட்டாக, கண்டறிதல் ட்யூனிங்கில் ஒவ்வொரு விசாரணையிலும் அதன் தோராய வினவல் ஆதாரங்கள் சேமிக்கப்படுகின்றன. இதனால், முன்மொழியப்பட்ட கண்டறிதல் மாற்றத்தை உற்பத்திச் சூழலின் ஏழு மாத டெலிமெட்ரி தரவுகளில் இப்போது ஒரு மணி நேரத்திற்குள் ரீப்ளே செய்து குழுவால் சரிபார்க்க முடிகிறது. முன்பு, இதற்காக நூற்றுக்கணக்கான பழைய கேஸ்களை ஒவ்வொன்றாகக் கைமுறையில் ரீ-க்வெரி செய்ய வேண்டியிருந்தது. அது அதிக நேரம் எடுத்ததால் நடைமுறையில் பெரும்பாலும் அரிதாகவே இருந்தது.

எந்தப் பணிக்கு எந்த மாடலைப் பயன்படுத்துவது என்பதில் குழு இப்போது அதிக கவனம் செலுத்துகிறது. “முன்பு சமீபத்திய மாடலைப் பயன்படுத்தி வந்தோம், ஆனால் இனி அவ்வாறு செய்ய வேண்டியதில்லை,” என்று அவர் கூறுகிறார். “வெவ்வேறு பணிகளுக்கு வெவ்வேறு மாடல்களைத் தேர்ந்தெடுப்பது ஒரு கற்றல் அனுபவமாக இருந்துள்ளது.” சரியான மாடலுக்குப் பணிகளை வழிமாற்ற உதவுவதற்காக, Block-இன் பாதுகாப்புச் சூழல் பணி அமைவு, Daybreak-ஐ அடிப்படையாகக் கொண்டு உருவாக்கப்பட்டுள்ளது. மேலும், பணிகளை மனிதர்கள் ஏற்றுக்கொள்வதற்கும், ஏஜெண்டுகள் ஒருவருக்கொருவர் செய்த வேலையைச் சரிபார்ப்பதற்கும் தேவையான ஹூக்குகளும் இதில் உள்ளன. இந்த அமைப்புகளை உள்நிலை அளவுகோல்கள் மற்றும் நிஜ உலகச் செயல்திறன் ஆகியவற்றின் அடிப்படையில் குழு தொடர்ந்து மதிப்பீடு செய்கிறது மற்றும் பொறுப்பான வழியாக இருக்கும்போது பணிகளை மனித மதிப்பாய்வுக்கு வழிமாற்றுவது உட்பட தேவைப்படும்போது தனது அணுகுமுறையைச் சரிசெய்துக்கொள்கிறது.

தானியங்கித் தேர்ந்தாய்வு (ட்ரையேஜ்) அமைப்பால் பணிகள் விரைவாகவும் (அதிக அளவிலும்) முடிக்கப்படுகின்றன. Block-ன் பாதுகாப்புக் குழுவில் தேர்ந்தாய்வு த்ரூபுட் 50% அதிகரித்துள்ளது, நுண்ணறிவு சேகரிப்பு மற்றும் விசாரணைகள் 50% அதிகரித்துள்ளன, மேலும் முற்றிலும் புதிய தன்னாட்சி அச்சுறுத்தல் தேடல் திறனும் கிடைத்துள்ளது. Nettesheim கூறுகிறார், “இது ஒவ்வொரு காலாண்டிலும் ~1,100 பகுப்பாளர்-மணிநேர விசாரணைப் பணிகளைச் செய்கிறது, ஏனெனில் இப்போது ஒவ்வொரு எச்சரிக்கையும் அது தொடர்புடைய அனைத்து அம்சங்களையும் உள்ளடக்கிய முழுமையான, ஆழமான விசாரணைக்கு உட்படுத்தப்படுகிறது. ஒவ்வொரு நாளும் எங்களுக்கு கிடைத்த ஒரே எச்சரிக்கை இதுதான் என்பதுபோல் எங்கள் அமைப்பு ஒவ்வொரு எச்சரிக்கையையும் கையாள்கிறது.”

பாரம்பரிய ஸ்கேனிங் கருவிகள் ஒரு பாதிப்பைத் தனித்துப் பிரித்துக் காட்டுகின்றன. ஆனால் Daybreak மூலம் Block-இன் பாதுகாப்புக் குழு இதைவிடப் பலவற்றைச் செய்ய முடியும். தாக்குதல் முறைகள் குறித்து மாடல் கருதுகோள்களை உருவாக்க உதவுகிறது; மேலும், தொடர்ச்சியான தாக்குதல்களைத் தொடக்கம் முதல் இறுதி வரையிலான சமரச பாதையாக இணைத்து பல ஆண்டுகளாக இருக்கக்கூடிய பாதிப்புகளை வெளிக்கொணருகிறது.

ஒரு நிகழ்வில், ஒரு ஒற்றை மடிக்கணினியில் வந்த எச்சரிக்கை, தனிப்பட்ட வகையில் சிறிய கொள்கைச் சிக்கலாகத் தோன்றியது. ஆனால், சக மதிப்பாய்வின்போது, ஆதாரங்களில் தற்செயலாக மட்டுமே இடம்பெற்றிருந்த ஒரு இண்டிகேட்டரை மாடல் பின்தொடர்ந்து, அதை Block-இன் அடையாளப் பதிவுகளுடன் பொருத்திப் பார்த்து, மிகப் பெரிய அளவிலான சிக்கல்களை வெளிக்கொணர்ந்தது. “ஒரு வழக்கமான எண்ட்பாயிண்ட் எச்சரிக்கை, ஒரு பிரச்சாரத்தை முறியடிக்கும் நடவடிக்கையாக மாறியது. எந்த ஒரு கருவியும் மட்டும் இந்தப் பொருத்தத்தை ஏற்படுத்தாது. இரண்டு தயாரிப்புகளின் பதிவுகளிலும் இருந்தால்தான் அந்தச் சிக்னல் கிடைக்கும்,” என்கிறார் ஜேம்ஸ்.

சமீபத்திய ரெட் டீம் பயிற்சியின்போது Daybreak உதவிய மற்றொரு எடுத்துக்காட்டு இது. ஒரு உள் அமைப்பைப் பற்றிய சில குறிப்புகள் மாடலுக்கு வழங்கப்பட்டன; பின்னர் அது SQL இன்ஜெக்ஷன், பிரிவிலேஜ் எஸ்கலேஷன், ஒரு ஃபுட்ஹோல்ட், நற்சான்றிதழ்களின் பட்டியல், பிற அமைப்புகளுக்கு த் தாவுதல் ஆகியவற்றை உள்ளடக்கிய முழுமையான தாக்குதல் பாதையைச் சுமார் இரண்டு மணி நேரத்தில் ஒன்றிணைத்தது. இதற்கு பொதுவாக மனித ரெட் டீமருக்கு பல நாட்கள் ஆகும். சமீபத்திய ரெட் டீம் பயிற்சிகளில், உயர்நிலைப் பாதிப்பைச் சமர்ப்பித்ததிலிருந்து தானியங்கி முறையில் முன்மொழியப்பட்ட பேட்ச் கிடைப்பதற்கு 18 நிமிடங்கள் ஆனது.

பாதிப்புகளைக் கண்டறிவது, அவற்றைச் சரிசெய்யும் திறனைப் பொறுத்தே பயனுள்ளதாக இருக்கும். Nettesheim, ஒவ்வொரு கண்டறிதலுக்கும் தனது குழு பின்பற்றும் செயல்முறையை விளக்குகிறார்: நிரலில் சிக்கல் எங்கு உள்ளது என்பதைக் கண்டறிந்து, அதற்குப் பொறுப்பானவர் யார் என்பதை அடையாளம் கண்டு, பின்னர் அதைச் சரிசெய்யும் பணிக்கு செல்வது. “ஒரு மனிதர் வழிநடத்தி நிரல் மாற்றங்களை செயல்படுத்துவதுடன் கூடி நீங்கள் ஒரு பேட்ச்-ஐ முன்மொழிகிறீர்கள், அதை அனுகூலமாக்கிக்கொள்ள முடியுமா என்பதை உறுதிப்படுத்துகிறீர்கள், பின்னர் அதைச் சரிசெய்துவிட்டீர்கள் என்பதை உறுதிபடுத்துகிறீர்கள்.”

ஏஜென்ட்கள் தொழில்நுட்ப ரீதியாகத் திறன் கொண்டிருந்தாலும், ஒரு நிறுவனத்தின் கான்டெக்ஸ்ட்டையோ முந்தைய முடிவுகளுக்குப் பின்னுள்ள தருக்கரீதியையோ அவை கொண்டிருப்பதில்லை. அந்த கான்டெக்ஸ்ட்டையும் உத்தியையும் ஒரு மனிதர்தான் வழங்குகிறார். மனிதர்கள் மேற்கொள்ளும் மதிப்பாய்வை வழங்குவதற்காகவே அவரது குழு இதில் பங்காற்றுகிறது. நடைமுறையில் AI-இன் முடிவெடுக்கும் திறன் நிரூபணமாகும்போது, “அதிக சென்சிடிவ் அமைப்புகளிலும் அதைப் பயன்படுத்தும் வகையில், இடர் அளவைப் படிப்படியாக உயர்த்துவோம்” என்று Nettesheim கூறுகிறார்.

• ஏழு மாத டெலிமெட்ரி தரவுகளுக்கு எதிராக முன்மொழியப்பட்ட கண்டறிதல் மாற்றத்தை மீண்டும் இயக்க ஒரு மணி நேரத்திற்கும் குறைந்த நேரம்.

• சமீபத்திய ரெட் டீம் பயிற்சிகளில், உயர்நிலைப் பாதிப்பைச் சமர்ப்பித்ததிலிருந்து தானியங்கி முறையில் முன்மொழியப்பட்ட பேட்ச் கிடைப்பதற்கு 18 நிமிடங்கள் ஆனது.

• ஒரு காலாண்டுக்கு சுமார் 600 ஆய்வாளர்-மணிநேரங்கள் போலியான நேர்மறை முடிவுகளைத் தேர்ந்தாய்வு செய்யும் பணியிலிருந்து சேமிக்கப்பட்டன.

• ஒவ்வொரு காலாண்டிலும் சுமார் 1,100 ஆய்வாளர்-மணிநேர விசாரணைப் பணிகள் நிறைவுசெய்யப்படுகின்றன.

• ட்ரையேஜ் த்ரூபுட்டில் 50% அதிகரிப்பு.

• நுண்ணறிவு சேகரிப்பு மற்றும் விசாரணைகளில் 50% அதிகரிப்பு.

கண்டறிதல் மற்றும் நடவடிக்கை பணிகள் மூலமாக மட்டுமே போலியான எச்சரிக்கைகளை மதிப்பிட்டு வகைப்படுத்துவதற்குச் செலவிடப்பட்டு வந்த சுமார் 600 பகுப்பாய்வாளர் மணிநேரங்கள் ஒவ்வொரு காலாண்டிலும் சேமிக்கப்பட்டுள்ளன. இவ்வாறு சேமிகப்பட்ட நேரத்தைக் கொண்டு, குழு இப்போது ஆழமான விசாரணைகளை மேற்கொள்வதிலும் கூடுதல் தானியக்கச் செயல்முறைகளைப் பொறுப்புடன் உருவாக்குவதிலும் அதிக நேரம் செலவிடுகிறது.

தாக்குதல்களின் வேகம் அதிகரித்து, AI மாடல்கள் தொடர்ந்து நவீனமடைந்து வரும் நிலையில், தொடக்கத்திலேயே அறிமுகமாகும் பாதிப்புகளின் எண்ணிக்கையைக் குறைக்கலாம் என Nettesheim கருதுகிறார். இதனால், பாதுகாப்புக் குழுக்கள் பேட்ச் செய்வதில் குறைந்த நேரத்தையும், தடுப்பு நடவடிக்கைகள் மற்றும் உத்திசார் பணிகளில் அதிக நேரத்தையும் செலவிட முடியும்.

“இந்த மேம்பட்ட திறன்களை அனைவரின் கைகளிலும் வழங்குவதன் மூலம், OpenAI சாதகநிலையைப் டிபென்டர்களின் பக்கம் திருப்புகிறது,” என்று அவர் கூறுகிறார். “இதுவரை, மிகவும் பிரபலமான தொழில்நுட்ப நிறுவனங்கள் மற்றும் அரசாங்கத்தின் கைகளில் மட்டுமே இந்தத் தொழில்நுட்பம் இருந்துள்ளது. ஆனால், முக்கிய உள்கட்டமைப்புகள், பள்ளிகள், சிறு வணிகங்கள் உட்பட அனைவரும் இப்போது தங்கள் நெட்வொர்க்குகளைப் பாதுகாக்க இந்தத் தொழில்நுட்பத்தைப் பயன்படுத்தத் தொடங்கலாம்.”