OpenAI ரெட் டீமிங் வலையமைப்பு

OpenAI ரெட் டீமிங் வலையமைப்பில் சேரப் பொது அழைப்பு விடுக்கிறோம். OpenAI மாடல்களின் பாதுகாப்பை மேம்படுத்துவதில் ஆர்வமுள்ள துறை நிபுணர்களை எங்கள் முயற்சிகளில் இணைய அழைக்கிறோம். எங்கள் செயற்கை நுண்ணறிவு மாடல்களைக் கடுமையாக மதிப்பீடு செய்யவும் ரெட் டீமிங் மேற்கொள்ளவும் எங்களுடன் இணைந்து பணியாற்றப் பல்வேறு துறைகளைச் சேர்ந்த நிபுணர்களைத் தேடுகிறோம்.

எங்கள் படிப்படியாக மேம்படுத்திப் பயன்பாட்டுக்குக் கொண்டுவரும் செயல்முறையில்⁠ ரெட் டீமிங்^A ஓர் இன்றியமையாத பகுதியாகும். கடந்த சில ஆண்டுகளில், எங்கள் ரெட் டீமிங் முயற்சிகள் விரிவடைந்துள்ளன. தொடக்கத்தில் OpenAI-க்குள் எதிர்மறைத் தாக்குதல்களை உருவகப்படுத்தும் சோதனைகளில் கவனம் செலுத்தினோம். தற்போது வெளிப்புற நிபுணர் குழுவுடன்^B இணைந்து, துறைசார் அபாய வகைப்பாடுகளை உருவாக்க உதவுவதுடன், புதிய அமைப்புகளில் தீங்கு விளைவிக்கக்கூடிய திறன்களையும் மதிப்பிடுகிறோம். DALL·E 2⁠(புதிய சாளரத்தில் திறக்கும்) மற்றும் GPT‑4⁠(புதிய சாளரத்தில் திறக்கும்) போன்ற மாடல்களில் நாங்கள் மேற்கொண்ட முந்தைய ரெட் டீமிங் முயற்சிகள் பற்றியும், வெளிப்புற நிபுணர்களுடன் இணைந்து செய்த பணிகள் பற்றியும் மேலும் படிக்கலாம்.^C

இந்த அடித்தளங்களை மேலும் வலுப்படுத்தும் வகையில், இன்று இன்னும் முறைப்படுத்தப்பட்ட முயற்சியைத் தொடங்குகிறோம். எங்கள் மாடல்களை மேலும் பாதுகாப்பானதாக்க, வெளிப்புற நிபுணர்களுடனான ஒத்துழைப்பை ஆழப்படுத்தவும் விரிவுபடுத்தவும் விரும்புகிறோம். தனிப்பட்ட நிபுணர்கள், ஆராய்ச்சி நிறுவனங்கள் மற்றும் குடிமைச் சமூக அமைப்புகளுடன் இணைந்து பணியாற்றுவது எங்கள் செயல்முறையின் முக்கியப் பகுதியாகும். மூன்றாம் தரப்புத் தணிக்கைகள் போன்ற, வெளிப்புறத்தில் வரையறுக்கப்பட்ட நிர்வாக நடைமுறைகளுக்கு இந்தப் பணி துணைபுரிவதாகக் கருதுகிறோம்.

OpenAI ரெட் டீமிங் வலையமைப்பு என்பது நம்பகமான, அனுபவமுள்ள நிபுணர்களின் சமூகமாகும். முக்கிய மாடல்களைப் பயன்பாட்டுக்குக் கொண்டுவரும் முன் மட்டும் நிபுணர்களைத் தேர்வு செய்து ஒருமுறை அவர்களுடன் பணியாற்றுவதற்குப் பதிலாக, எங்கள் அபாய மதிப்பீடு மற்றும் தணிப்பு முயற்சிகளுக்குப் பரந்த அளவில் வழிகாட்ட இந்தச் சமூகம் உதவும். மாடல் மற்றும் தயாரிப்பு உருவாக்கத்தின் பல்வேறு கட்டங்களில் ரெட் டீமிங்கிற்கு உதவ, உறுப்பினர்கள் தங்கள் நிபுணத்துவத்தின் அடிப்படையில் அழைக்கப்படுவார்கள். ஒவ்வொரு புதிய மாடல் அல்லது தயாரிப்பிலும் அனைத்து உறுப்பினர்களும் பங்கேற்க மாட்டார்கள். ஒவ்வொரு உறுப்பினரும் ஒதுக்க வேண்டிய நேரம் அவருடன் கலந்தாலோசித்துத் தீர்மானிக்கப்படும்; இது ஆண்டுக்கு வெறும் 5–10 மணிநேரமாகக்கூட இருக்கலாம்.

OpenAI ஏற்பாடு செய்யும் ரெட் டீமிங் முயற்சிகளுக்கு அப்பாலும், பொதுவான ரெட் டீமிங் நடைமுறைகள் மற்றும் கண்டறிதல்கள் குறித்து உறுப்பினர்கள் ஒருவருடன் ஒருவர் கலந்துரையாட வாய்ப்பு கிடைக்கும். பல்வேறு கண்ணோட்டங்களிலிருந்து தொடர்ச்சியாகக் கருத்துகளைப் பெறுவதும், ரெட் டீமிங்கை மீண்டும் மீண்டும் மேற்கொண்டு மேம்படுத்தும் செயல்முறையாக ஆக்குவதுமே இதன் நோக்கம். எங்கள் ஆராய்ச்சியாளர் அணுகல் திட்டம்⁠ மற்றும் திறந்த மூல மதிப்பீடுகள்⁠(புதிய சாளரத்தில் திறக்கும்) உள்ளிட்ட, செயற்கை நுண்ணறிவுப் பாதுகாப்பில் இணைந்து செயல்படும் பிற வாய்ப்புகளுக்கு இந்த வலையமைப்பு துணைபுரிகிறது.

பாதுகாப்பான செயற்கை நுண்ணறிவுத் தொழில்நுட்பங்களையும் கொள்கைகளையும் உருவாக்குவதில் பங்களிக்க இந்த வலையமைப்பு ஒரு தனித்துவமான வாய்ப்பை வழங்குகிறது. நாம் வாழும், பணியாற்றும், ஒருவரோடு ஒருவர் தொடர்புகொள்ளும் விதங்களில் செயற்கை நுண்ணறிவு ஏற்படுத்தக்கூடிய தாக்கத்தை வடிவமைக்கவும் இது உதவும். இந்த வலையமைப்பில் சேரும்போது, எங்கள் துறைசார் நிபுணர் குழுவில் நீங்களும் இடம்பெறுவீர்கள். எங்கள் மாடல்கள் மற்றும் அமைப்புகளைப் பயன்பாட்டுக்குக் கொண்டுவரும் பல்வேறு கட்டங்களில் அவற்றை மதிப்பிட நீங்கள் அழைக்கப்படலாம்.

செயற்கை நுண்ணறிவு அமைப்புகளை மதிப்பிட, பல்வேறு துறைகள், மாறுபட்ட கண்ணோட்டங்கள் மற்றும் வாழ்வனுபவங்கள் பற்றிய புரிதல் தேவை. உலகெங்கிலும் உள்ள நிபுணர்களிடமிருந்து விண்ணப்பங்களை வரவேற்கிறோம். எங்கள் தேர்வுச் செயல்முறையில் பல்வேறு புவியியல் பகுதிகள் மற்றும் துறைகளின் பிரதிநிதித்துவத்திற்கு முன்னுரிமை அளிக்கிறோம். 

நாங்கள் ஆர்வம் காட்டும் துறைகளில் சில கீழே உள்ளன; இவை மட்டுமின்றிப் பிற துறைகளையும் வரவேற்கிறோம்:

செயற்கை நுண்ணறிவு அமைப்புகள் அல்லது மொழி மாடல்களில் முன் அனுபவம் தேவையில்லை; இருந்தால் உதவியாக இருக்கும். செயற்கை நுண்ணறிவு அமைப்புகளின் தாக்கங்களை நாங்கள் மதிப்பிடும் விதத்தில், ஆர்வத்துடன் பங்கேற்று உங்கள் கண்ணோட்டத்தைப் பகிர்ந்துகொள்ளும் விருப்பத்தையே நாங்கள் மிக முக்கியமாகக் கருதுகிறோம்.

OpenAI ரெட் டீமிங் வலையமைப்பின் உறுப்பினர்கள் ரெட் டீமிங் திட்டத்தில் பங்கேற்கும்போது, அவர்களின் பங்களிப்புகளுக்கு ஊதியம் வழங்கப்படும். இந்த வலையமைப்பில் உறுப்பினராக இருப்பது உங்கள் ஆய்வுகளை வெளியிடுவதையோ பிற வாய்ப்புகளை நாடுவதையோ கட்டுப்படுத்தாது. எனினும், ரெட் டீமிங் மற்றும் பிற திட்டங்களில் பங்கேற்பது பெரும்பாலும் ரகசியக் காப்பு ஒப்பந்தங்களுக்கு உட்பட்டதாகவோ, காலவரையின்றி ரகசியமாக வைத்திருக்க வேண்டியதாகவோ இருக்கும் என்பதை நீங்கள் கருத்தில் கொள்ள வேண்டும்.

விண்ணப்பங்கள் பெறுவது தற்போது முடிவடைந்துவிட்டது.

கே: வலையமைப்பில் சேர்ந்தால் என்ன செய்ய வேண்டியிருக்கும்?

ப: வலையமைப்பில் உறுப்பினராக இருந்தால், புதிய மாடலைச் சோதிப்பதற்கான வாய்ப்புகள் குறித்தோ, ஏற்கெனவே பயன்பாட்டில் உள்ள மாடலில் உங்களுக்கு ஆர்வமுள்ள ஒரு பகுதியைச் சோதிப்பது குறித்தோ உங்களைத் தொடர்புகொள்ளலாம். வலையமைப்பின் ஒரு பகுதியாக மேற்கொள்ளப்படும் பணிகள் ரகசியக் காப்பு ஒப்பந்தத்தின் கீழ் நடைபெறும். இருப்பினும், இதுவரை எங்கள் ரெட் டீமிங் கண்டறிதல்களில் பலவற்றை அமைப்பு விவர அட்டைகளிலும் வலைப்பதிவுகளிலும் வெளியிட்டுள்ளோம். ரெட் டீமிங் திட்டங்களுக்காக நீங்கள் செலவிடும் நேரத்திற்கு ஊதியம் வழங்கப்படும்.

கே: வலையமைப்பில் பங்கேற்க எவ்வளவு நேரம் ஒதுக்க வேண்டும்? 

ப: நீங்கள் ஒதுக்கும் நேரத்தை உங்கள் அட்டவணைக்கு ஏற்ப மாற்றிக்கொள்ளலாம். ஒவ்வொரு வாய்ப்புக்கும் வலையமைப்பில் உள்ள அனைவரும் தொடர்புகொள்ளப்பட மாட்டார்கள் என்பதை நினைவில் கொள்ளவும். குறிப்பிட்ட ரெட் டீமிங் திட்டத்திற்குப் பொருத்தமானவர்களை OpenAI தேர்வு செய்யும்; அடுத்தடுத்த ரெட் டீமிங் முயற்சிகளில் புதிய கண்ணோட்டங்களுக்கு முக்கியத்துவம் அளிக்கும். ஆண்டுக்கு வெறும் 5 மணிநேரம் ஒதுக்கினாலும் அது எங்களுக்கு மதிப்புமிக்க பங்களிப்பாக இருக்கும். எனவே, ஆர்வம் இருந்தும் நேரம் குறைவாக இருப்பதால் விண்ணப்பிக்கத் தயங்க வேண்டாம்.

கே: விண்ணப்பதாரர்கள் தேர்வு செய்யப்பட்ட விவரம் எப்போது தெரிவிக்கப்படும்?

ப: விண்ணப்பங்கள் வரவர OpenAI வலையமைப்பின் உறுப்பினர்களைத் தேர்வு செய்யும். டிசம்பர் 1, 2023 வரை நீங்கள் விண்ணப்பிக்கலாம். இந்த விண்ணப்பக் காலம் முடிந்ததும், எதிர்காலத்தில் மீண்டும் விண்ணப்பிக்கும் வாய்ப்புகளை வழங்குவது குறித்து மறுபரிசீலனை செய்வோம்.

கே: வலையமைப்பில் உறுப்பினராக இருந்தால், ஒவ்வொரு புதிய மாடலிலும் ரெட் டீமிங் மேற்கொள்ள அழைக்கப்படுவேனா?

ப: இல்லை. குறிப்பிட்ட ரெட் டீமிங் திட்டத்திற்குப் பொருத்தமானவர்களை OpenAI தேர்வு செய்யும். ஒவ்வொரு புதிய மாடலையும் சோதிக்கும் வாய்ப்பு கிடைக்கும் என்று எதிர்பார்க்க வேண்டாம்.

கே: வலையமைப்பின் உறுப்பினர்களிடம் நீங்கள் எதிர்பார்க்கும் தகுதிகள் என்ன?

ப: நாங்கள் எதிர்பார்க்கும் சில தகுதிகள்:

• ரெட் டீமிங்கிற்குத் தொடர்புடைய குறிப்பிட்ட துறையில் நிரூபிக்கப்பட்ட நிபுணத்துவம் அல்லது அனுபவம்

• செயற்கை நுண்ணறிவின் பாதுகாப்பை மேம்படுத்துவதில் தீவிர ஆர்வம்

• நலன் முரண்பாடுகள் இல்லாமை

• பல்வேறு பின்னணிகள் மற்றும் வழக்கமாகப் போதிய பிரதிநிதித்துவம் பெறாத குழுக்களைச் சேர்ந்தவர்கள்

• பல்வேறு புவியியல் பகுதிகளின் பிரதிநிதித்துவம் 

• ஒன்றுக்கும் மேற்பட்ட மொழிகளில் சரளமாகப் பேசும் திறன்

• தொழில்நுட்பத் திறன் (கட்டாயமில்லை)

கே: பாதுகாப்புப் பணிகளில் இணைந்து செயல்பட வேறு என்ன வாய்ப்புகள் உள்ளன?

ப: வலையமைப்பில் சேர்வதைத் தாண்டி, செயற்கை நுண்ணறிவின் பாதுகாப்புக்குப் பங்களிக்க வேறு கூட்டு முயற்சி வாய்ப்புகளும் உள்ளன. எடுத்துக்காட்டாக, செயற்கை நுண்ணறிவு அமைப்புகளுக்கான பாதுகாப்பு மதிப்பீடுகளை உருவாக்குவது அல்லது நடத்துவது, அவற்றின் முடிவுகளைப் பகுப்பாய்வு செய்வது ஒரு வழியாகும்.

OpenAI-இன் திறந்த மூல Evals⁠(புதிய சாளரத்தில் திறக்கும்) ரிபாசிட்டரி (GPT‑4 அறிமுகத்தின்⁠ ஒரு பகுதியாக வெளியிடப்பட்டது), இந்தச் செயல்முறையை எளிதாகத் தொடங்கப் பயனருக்கு ஏற்ற வார்ப்புருக்களையும் மாதிரி முறைகளையும் வழங்குகிறது.

மதிப்பீடுகள் எளிய கேள்வி-பதில் சோதனைகள் முதல் சிக்கலான உருவகப்படுத்துதல்கள் வரை இருக்கலாம். செயற்கை நுண்ணறிவின் நடத்தைகளைப் பல்வேறு கோணங்களில் மதிப்பிட OpenAI உருவாக்கிய சில மாதிரி மதிப்பீடுகள் இங்கே உள்ளன:

இணங்கச் செய்தல்

• MakeMeSay⁠(புதிய சாளரத்தில் திறக்கும்): ஒரு செயற்கை நுண்ணறிவு அமைப்பு, மற்றொரு செயற்கை நுண்ணறிவு அமைப்பை ஏமாற்றி ஒரு ரகசியச் சொல்லைச் சொல்ல வைப்பதில் எவ்வளவு திறனுடன் செயல்படுகிறது?

• MakeMePay⁠(புதிய சாளரத்தில் திறக்கும்): ஒரு செயற்கை நுண்ணறிவு அமைப்பு, மற்றொரு செயற்கை நுண்ணறிவு அமைப்பைப் பணம் நன்கொடையாக வழங்கச் சம்மதிக்க வைப்பதில் எவ்வளவு திறனுடன் செயல்படுகிறது?

• வாக்கெடுப்பு முன்மொழிவு⁠(புதிய சாளரத்தில் திறக்கும்): ஒரு அரசியல் முன்மொழிவுக்கு மற்றொரு செயற்கை நுண்ணறிவு அமைப்பு அளிக்கும் ஆதரவில், ஒரு செயற்கை நுண்ணறிவு அமைப்பு எந்த அளவுக்குத் தாக்கத்தை ஏற்படுத்த முடிகிறது?

தகவல் மறைப்பியல் (மறைவான செய்திப் பரிமாற்றம்)

• தகவல் மறைப்பியல்⁠(புதிய சாளரத்தில் திறக்கும்): மற்றொரு செயற்கை நுண்ணறிவு அமைப்பிடம் பிடிபடாமல் ரகசியச் செய்திகளைப் பரிமாறுவதில் ஒரு செயற்கை நுண்ணறிவு அமைப்பு எவ்வளவு திறனுடன் செயல்படுகிறது?

• உரைச் சுருக்கம்⁠(புதிய சாளரத்தில் திறக்கும்): ரகசியச் செய்திகளை மறைக்க உதவும் வகையில், செய்திகளைச் சுருக்கி மீண்டும் விரித்தெடுப்பதில் ஒரு செயற்கை நுண்ணறிவு அமைப்பு எவ்வளவு திறனுடன் செயல்படுகிறது?

• ஷெல்லிங் புள்ளி⁠(புதிய சாளரத்தில் திறக்கும்): நேரடித் தகவல்தொடர்பு இல்லாமல், மற்றொரு செயற்கை நுண்ணறிவு அமைப்புடன் ஒருங்கிணைந்து செயல்படுவதில் ஒரு செயற்கை நுண்ணறிவு அமைப்பு எவ்வளவு திறனுடன் செயல்படுகிறது?

செயற்கை நுண்ணறிவு அமைப்புகளை மதிப்பிடுவதில் படைப்பாற்றலையும் புதிய முறைகளைச் சோதித்துப் பார்ப்பதையும் ஊக்குவிக்கிறோம். மதிப்பீட்டை முடித்ததும், பரந்த செயற்கை நுண்ணறிவுச் சமூகத்தினர் பயன்படுத்தும் வகையில், திறந்த மூல Evals⁠(புதிய சாளரத்தில் திறக்கும்) ரிபாசிட்டரியில் அதைச் சேர்க்க உங்களை வரவேற்கிறோம்.

எங்கள் ஆராய்ச்சியாளர் அணுகல் திட்டத்திற்கும்⁠ நீங்கள் விண்ணப்பிக்கலாம். செயற்கை நுண்ணறிவைப் பொறுப்புடன் பயன்பாட்டுக்குக் கொண்டுவருதல் மற்றும் அதனுடன் தொடர்புடைய அபாயங்களைக் குறைத்தல் ஆகிய துறைகளை எங்கள் தயாரிப்புகளைப் பயன்படுத்தி ஆய்வு செய்யும் ஆராய்ச்சியாளர்களுக்கு ஆதரவாக இத்திட்டம் கிரெடிட்களை வழங்குகிறது.