OpenAI సేఫ్టీ బగ్ బౌంటీ ప్రోగ్రామ్ను పరిచయం చేస్తున్నాము
OpenAI అంతటా సేఫ్టీ మరియు దుర్వినియోగ సమస్యలను పరీక్షించడం
ఈ రోజు, OpenAI మా ప్రోడక్ట్స్ అంతటా AI అబ్యూస్ మరియు సేఫ్టీ రిస్క్లను గుర్తించడంపై దృష్టి పెట్టిన పబ్లిక్ సేఫ్టీ బగ్ బౌంటీ(కొత్త విండోలో తెరుచుకుంటుంది) ప్రోగ్రామ్ను ప్రారంభిస్తోంది. AI సాంకేతికత వేగంగా అభివృద్ధి చెందుతున్న కొద్దీ, అది దుర్వినియోగం చేయబడే సంభావ్య మార్గాలు కూడా అలాగే పెరుగుతున్నాయి. తప్పుగా ఉపయోగించడం లేదా దుర్వినియోగం వల్ల వాస్తవిక హాని కలగకుండా, మా వ్యవస్థలు సురక్షితంగా మరియు భద్రంగా ఉండేలా నిర్ధారించడం మా లక్ష్యం.
ఈ కొత్త ప్రోగ్రామ్, OpenAI యొక్క సెక్యూరిటీ బగ్ బౌంటీ(కొత్త విండోలో తెరుచుకుంటుంది) ను పూర్తి చేస్తూ, సెక్యూరిటీ వల్నరబిలిటీ ప్రమాణాలకు సరిపోకపోయినా గణనీయమైన అబ్యూస్ మరియు సేఫ్టీ రిస్క్లను కలిగించే ఇష్యూలను స్వీకరిస్తుంది. ఈ కార్యక్రమం ద్వారా, సాంప్రదాయిక సెక్యూరిటీ దుర్బలతల పరిధికి బయట ఉన్నప్పటికీ వాస్తవమైన రిస్క్లను కలిగించే సమస్యలను గుర్తించి పరిష్కరించడంలో మాకు సహాయపడేందుకు భద్రత మరియు సెక్యూరిటీ పరిశోధకులతో భాగస్వామ్యం కొనసాగించడానికి మేం ఎదురుచూస్తున్నాం. సమర్పణలు OpenAI యొక్క సేఫ్టీ మరియు సెక్యూరిటీ బగ్ టీమ్లు ట్రయాజ్ చేస్తాయి, మరియు స్కోప్ మరియు ఓనర్షిప్ ఆధారంగా ఈ రెండు ప్రోగ్రామ్ల మధ్య మళ్లించబడవచ్చు.
కొత్త సేఫ్టీ బగ్ బౌంటీ(కొత్త విండోలో తెరుచుకుంటుంది) ప్రోగ్రామ్ క్రింద జాబితా చేయబడిన AI-నిర్దిష్ట భద్రతా సందర్భాలపై దృష్టి సారిస్తుంది:
MCP సహా ఏజెంటిక్ ప్రమాదాలు
- మూడవ పక్ష ప్రాంప్ట్ ఇంజెక్షన్ మరియు డేటా ఎక్స్ఫిల్ట్రేషన్: అటాకర్ టెక్స్ట్ ఒక యూజర్ యొక్క ఏజెంట్ను (Browser, ChatGPT Agent మరియు ఇలాంటి ఏజెంటిక్ ప్రోడక్ట్స్ సహా) నమ్మకంగా హైజాక్ చేసి, హానికరమైన చర్య చేయించడానికి లేదా యూజర్ సెన్సిటివ్ సమాచారాన్ని లీక్ చేయించడానికి మోసం చేసే సందర్భాలు. ఆ ప్రవర్తన కనీసం 50% సందర్భాల్లో పునరుత్పత్తి చేయగలిగేలా ఉండాలి.
- ఒక ఏజెంటిక్ OpenAI ప్రోడక్ట్, OpenAI వెబ్సైట్లో అనుమతించని చర్యను పెద్ద స్థాయిలో నిర్వహించడం.
- ఒక ఏజెంటిక్ OpenAI ప్రోడక్ట్, పైగా పేర్కొనని కానీ హానికరంగా ఉండే అవకాశం ఉన్న చర్యను నిర్వహించడం. ఇక్కడ చెల్లుబాటు అయ్యే రిపోర్ట్లు సంభావ్యమైన మరియు గణనీయమైన హానిని సూచించాలి.
- MCP రిస్క్కు సంబంధించిన ఏ పరీక్షలు అయినా థర్డ్-పార్టీల సేవా నిబంధనలను తప్పనిసరిగా పాటించాలి.
OpenAI ప్రొప్రైటరీ సమాచారం
- రిజనింగ్కు సంబంధించిన ప్రొప్రైటరీ సమాచారాన్ని తిరిగి అందించే మోడల్ జనరేషన్స్.
- OpenAI యొక్క ఇతర ప్రొప్రైటరీ సమాచారాన్ని బహిర్గతం చేసే లోపాలు.
అకౌంట్ మరియు ప్లాట్ఫారమ్ ఇంటిగ్రిటీ
- అకౌంట్ ఇంటిగ్రిటీ మరియు ప్లాట్ఫారమ్ ఇంటిగ్రిటీ సిగ్నల్స్లోని వల్నరబిలిటీస్, ఉదాహరణకు యాంటీ-ఆటోమేషన్ కంట్రోల్స్ను బైపాస్ చేయడం, అకౌంట్ ట్రస్ట్ సిగ్నల్స్ను మానిప్యులేట్ చేయడం, అకౌంట్ పరిమితులు/సస్పెన్షన్స్/బ్యాన్స్ను తప్పించుకోవడం వంటి సమస్యలు.
- యూజర్లు అనుమతించబడిన పరిమితులను మించి ఫీచర్లు, డేటా లేదా ఫంక్షనాలిటీలను యాక్సెస్ చేయడానికి అనుమతించే సమస్యలను సెక్యూరిటీ బగ్ బౌంటీ(కొత్త విండోలో తెరుచుకుంటుంది)కు నివేదించాలి.
ఈ ప్రోగ్రామ్ పరిధిలో జైల్బ్రేక్స్ ఉండకపోయినా, మేము తరచుగా కొన్ని నిర్దిష్ట హానికర కేటగిరీలపై దృష్టి పెట్టిన ప్రైవేట్ బగ్ బౌంటీ క్యాంపెయిన్లను నిర్వహిస్తాము, ఉదాహరణకు ChatGPT Agent మరియు GPT‑5 లోని బియోరిస్క్ కంటెంట్ సమస్యలు. ఈ ప్రోగ్రామ్లు అందుబాటులోకి వచ్చినప్పుడు, ఆసక్తి ఉన్న పరిశోధకులు వాటికి అప్లై చేయాలని మేము ఆహ్వానిస్తున్నాము.
పైన పేర్కొన్న వర్గాలకు వెలుపల, పరిశోధకులు వినియోగదారులకు నేరుగా హాని కలిగించే మార్గాలను సులభతరం చేసే లోపాలను, అలాగే అమలు చేయగల, నిర్దిష్ట పరిష్కార చర్యలను గుర్తిస్తే, ఇవి కేసు-వారీగా రివార్డుల పరిధిలో పరిగణించబడవచ్చు. భద్రత లేదా దుర్వినియోగంపై స్పష్టమైన ప్రభావం లేకుండా ఉండే సాధారణ కంటెంట్ పాలసీ బైపాస్లు ఈ ప్రోగ్రామ్ పరిధిలోకి రావు. ఉదాహరణకు, మోడల్ అసభ్యకరమైన భాషను ఉపయోగించేలా చేయడం లేదా సెర్చ్ ఇంజిన్ల ద్వారా సులభంగా కనుగొనగల సమాచారాన్ని తిరిగి అందించడం వంటి “జైల్బ్రేక్స్” ఈ ప్రోగ్రామ్ పరిధిలోకి రావు.
పాల్గొనడానికి ఆసక్తి ఉన్న పరిశోధకులు మా సేఫ్టీ బగ్ బౌంటీ(కొత్త విండోలో తెరుచుకుంటుంది) కార్యక్రమం ద్వారా దరఖాస్తు చేసుకోవచ్చు. సురక్షితమైన AI ఎకోసిస్టమ్ లక్ష్యంతో పరిశోధకులు, ఎథికల్ హ్యాకర్లు మరియు సేఫ్టీ & సెక్యూరిటీ కమ్యూనిటీతో కలిసి పని చేయడానికి మేము ఎదురు చూస్తున్నాము.
