OpenAI பாதுகாப்பு பக் பவுண்டி திட்டத்தை அறிமுகம் செய்கிறது

இன்று, OpenAI எங்கள் தயாரிப்புகள் முழுவதும் AI தவறான பயன்பாடுகள் மற்றும் பாதுகாப்பு ஆபத்துகளை கண்டறிவதில் கவனம் செலுத்தும் பொதுமக்கள் Safety பக் பவுண்டி⁠(புதிய சாளரத்தில் திறக்கும்) திட்டத்தை அறிமுகப்படுத்துகிறது. AI தொழில்நுட்பம் வேகமாக முன்னேற்றமடைந்து வருவதால், அதை தவறாகப் பயன்படுத்தக்கூடிய சாத்தியமான வழிகளும் அதிகரித்து வருகின்றன. உண்மையான சேதத்திற்கு வழிவகுக்கக்கூடிய தவறான பயன்பாடு அல்லது துஷ்பிரயோகத்திலிருந்து எங்கள் அமைப்புகள் பாதுகாப்பாக இருப்பதை உறுதி செய்வதே எங்கள் நோக்கம். 

இந்த புதிய திட்டம், பாதுகாப்பு குறைபாட்டிற்கான அளவுகோல்களை பூர்த்தி செய்யாவிட்டாலும் கூட, குறிப்பிடத்தக்க தவறான பயன்பாடு மற்றும் பாதுகாப்பு அபாயங்களை ஏற்படுத்தும் பிரச்சினைகளை ஏற்றுக்கொள்வதன் மூலம் OpenAI-இன் பாதுகாப்பு பக் பவுண்டி⁠(புதிய சாளரத்தில் திறக்கும்) திட்டத்திற்கு துணையாக இருக்கும். இந்தத் திட்டத்தின் மூலம், வழக்கமான பாதுகாப்புப் பாதிப்புகளின் வரம்புக்கு வெளியே உள்ள சிக்கல்களாக இருந்தாலும் உண்மையான அபாயங்களை அடையாளம் கண்டு அவற்றைச் சமாளிக்க எங்களுக்கு உதவுவதற்காக, பாதுகாப்பு ஆராய்ச்சியாளர்களுடன் தொடர்ந்து கூட்டாண்மையில் செயல்பட ஆவலாக உள்ளோம். சமர்ப்பிப்புகள் OpenAI-யின் பாதுகாப்பு மற்றும் பாதுகாப்பு பக் பவுண்டி குழுக்களால் முதற்கட்ட மதிப்பீடு செய்யப்படும்; மேலும், வரம்பு மற்றும் பொறுப்புரிமையைப் பொறுத்து அவை இரண்டு திட்டங்களுக்கிடையில் மாற்றி அனுப்பப்படலாம்.

புதிய பாதுகாப்பு பக் பவுண்டி⁠(புதிய சாளரத்தில் திறக்கும்) திட்டம் கீழே பட்டியலிடப்பட்டுள்ள AI-சார்ந்த பாதுகாப்பு சூழ்நிலைகளில் கவனம் செலுத்துகிறது:

MCP உட்பட ஏஜென்டிக் அபாயங்கள்

• மூன்றாம் தரப்பு ப்ராம்ப்ட் இன்ஜெக்ஷன் மற்றும் தரவு வெளியேற்றம்: தாக்குதலாளரின் உரை, பாதிக்கப்பட்டவரின் ஏஜென்ட்டை (உதாரணமாக, Browser, ChatGPT ஏஜென்ட் மற்றும் இதற்கு ஒத்த ஏஜென்டிக் தயாரிப்புகள்) நம்பகமாக கைப்பற்றி, அதனை தீங்கு விளைவிக்கும் செயலைச் செய்யவோ அல்லது பயனரின் நுணுக்கமான தகவலை கசியவிடவோ ஏமாற்றும் நிலை. அந்த நடத்தை குறைந்தது 50% நேரங்களில் மீண்டும் உருவாக்கக்கூடியதாக இருக்க வேண்டும். 
• ஒரு செயல்திறன் கொண்ட OpenAI தயாரிப்பு OpenAI-இன் இணையதளத்தில் அனுமதிக்கப்படாத செயலை பெரிய அளவில் செய்கிறது.
• ஒரு ஏஜென்ட் போல சுயமாக செயல்படும் OpenAI தயாரிப்பு, மேலே பட்டியலிடப்படாத தீங்கு விளைவிக்கக்கூடிய எந்தவொரு செயலை மேற்கொள்கிறது. இங்கே செல்லுபடியாகும் அறிக்கைகள், நம்பத்தகுந்த மற்றும் கணிசமான தீங்கை சுட்டிக்காட்ட வேண்டும்.
• MCP அபாயத்திற்கான எந்தச் சோதனையும் எந்த மூன்றாம் தரப்பினரின் சேவை விதிமுறைகளுக்கும் இணங்க வேண்டும்.

OpenAI சொந்தமான தகவல்

• ரீஸனிங் தொடர்பான தனியுரிமத் தகவலை வழங்கும் மாடல் உருவாக்கங்கள்.
• OpenAI-க்கு சொந்தமான பிற தகவல்களை வெளிப்படுத்தக்கூடிய பாதிப்புகள்.

கணக்கு மற்றும் தள நேர்மை

• கணக்கு ஒருமைப்பாடு மற்றும் தள ஒருமைப்பாட்டு சிக்னல்களில் உள்ள பலவீனங்கள். உதாரணமாக, தானியக்கமயமாக்கல்-எதிர்ப்பு கட்டுப்பாடுகளை மீறுவது, கணக்கு நம்பிக்கை சிக்னல்களை கையாள்வது, கணக்கு கட்டுப்பாடுகள்/இடைநீக்கங்கள்/தடைகளை தவிர்ப்பது, மற்றும் இதே போன்ற சிக்கல்கள்.
• பயனர்கள் அங்கீகரிக்கப்பட்ட அனுமதிகளுக்கு அப்பால் அம்சங்கள், தரவு அல்லது செயல்பாடுகளை அணுக அனுமதிக்கும் பிரச்சினைகள் Security Bug Bounty⁠(புதிய சாளரத்தில் திறக்கும்)-க்கு புகாரளிக்கப்பட வேண்டும்.

ஜெயில்பிரேக்குகள் இந்த திட்டத்தின் வரம்பிற்கு உட்பட்டவை அல்ல என்றாலும், ChatGPT Agent⁠ மற்றும் GPT‑5⁠ இல் உள்ள உயிரியல் அபாய உள்ளடக்கச் சிக்கல்கள் போன்ற குறிப்பிட்ட தீங்கு வகைகளில் கவனம் செலுத்தும் தனிப்பட்ட பக் பவுண்டி பிரச்சாரங்களை நாங்கள் அவ்வப்போது நடத்துகிறோம். இந்த திட்டங்கள் கிடைக்கும்போது, ஆர்வமுள்ள ஆராய்ச்சியாளர்கள் அவற்றிற்கு விண்ணப்பிக்குமாறு நாங்கள் அழைக்கிறோம். 

மேலே பட்டியலிடப்பட்டுள்ள வகைகளுக்கு அப்பால், பயனருக்கு நேரடி சேதம் ஏற்படும் வழிகளை எளிதாக்கும் குறைபாடுகளையும், நடைமுறையில் செயல்படுத்தக்கூடிய, தெளிவாக வரையறுக்கப்பட்ட சரிசெய்தல் நடவடிக்கைகளையும் ஆராய்ச்சியாளர்கள் அடையாளம் கண்டால், அவை ஒவ்வொரு நிகழ்வின் அடிப்படையிலும் வெகுமதிக்கான வரம்பிற்குள் பரிசீலிக்கப்படலாம். பாதுகாப்பு அல்லது துஷ்பிரயோகத்தில் நிரூபிக்கக்கூடிய தாக்கம் இல்லாத பொதுவான உள்ளடக்கக் கொள்கையை மீறிச் செல்லும் செயல்கள் இந்த திட்டத்தின் வரம்பிற்கு உட்பட்டவை அல்ல. உதாரணமாக, “ஜெயில்பிரேக்குகள்” மாடல் மரியாதையற்ற மொழியைப் பயன்படுத்துவதற்கோ அல்லது தேடல் இயந்திரங்கள் மூலம் எளிதில் கண்டுபிடிக்கக்கூடிய தகவலைத் திருப்பி வழங்குவதற்கோ வழிவகுக்கும் வரம்பிற்குள் வராது.

பங்கேற்க ஆர்வமுள்ள ஆராய்ச்சியாளர்கள் எங்களுடைய Safety பக் பவுண்டி⁠(புதிய சாளரத்தில் திறக்கும்) திட்டத்தின் மூலம் விண்ணப்பிக்கலாம். பாதுகாப்பான AI சூழலமைப்பை உருவாக்கும் முயற்சியில், ஆராய்ச்சியாளர்கள், நெறிமுறை ஹேக்கர்கள், மற்றும் பாதுகாப்பு சமூகத்துடன் இணைந்து பணியாற்றுவதை நாங்கள் ஆவலுடன் எதிர்நோக்குகிறோம்.