AI సిస్టమ్లు మరింత క్లిష్టమైన పనులను చేపట్టేకొద్దీ—ప్రత్యేకించి వెబ్ మరియు కనెక్టెడ్ యాప్స్తో కూడిన పనులు—భద్రతా పరమైన సవాళ్లు మారుతున్నాయి.
ఒక కొత్త ప్రమాదం ప్రత్యేకంగా ముఖ్యమైనదిగా మారింది: ప్రాంప్ట్ ఇంజెక్షన్. ఈ దాడులలో, ఒక తృతీయపక్షం సంభాషణాత్మక AI వ్యవస్థను తప్పుదోవ పట్టించి, హానికరమైన సూచనలను పాటించేలా లేదా సున్నితమైన సమాచారాన్ని వెల్లడించేలా చేయడానికి ప్రయత్నిస్తుంది.
ప్రాంప్ట్ ఇంజెక్షన్ దాడుల ప్రభావాన్ని తగ్గించడంలో వినియోగదారులకు మరియు సంస్థలకు సహాయపడటానికి, రిస్క్ పట్ల మరింత స్పష్టత మరియు బలమైన నియంత్రణలతో కూడిన రెండు కొత్త రక్షణలను ఈ రోజు మేం పరిచయం చేస్తున్నాం.
- ChatGPTలో లాక్డౌన్ మోడ్, అధిక ప్రమాదంలో ఉన్న వినియోగదారుల కోసం ఒక ఆధునిక, ఐచ్ఛిక భద్రతా సెట్టింగ్
- ChatGPT, ChatGPT Atlas, మరియు Codexలో అదనపు ప్రమాదం కలిగించే కొన్ని సామర్థ్యాల కోసం “అధిక ప్రమాదం” లేబుళ్లు కేటాయించబడతాయి.
ఈ అదనాలు మోడల్, ఉత్పత్తి, మరియు సిస్టమ్ స్థాయిలలో ఉన్న మా ప్రస్తుత రక్షణలను మరింత బలోపేతం చేస్తాయి. ఇందులో సాండ్బాక్సింగ్, URL ఆధారిత డేటా ఎక్స్ఫిల్ట్రేషన్కు రక్షణలు, మానిటరింగ్ మరియు అమలు, రోల్-బేస్డ్ యాక్సెస్ మరియు ఆడిట్ లాగ్ల వంటి ఎంటర్ప్రైజ్ నియంత్రణలు ఉన్నాయి.
లాక్డౌన్ మోడ్ ఐచ్ఛిక, అధునాతన భద్రతా సెట్టింగ్, ఇది అధునాతన బెదిరింపుల నుండి ఎక్కువ రక్షణ అవసరమైన, భద్రతపై అత్యంత శ్రద్ధగల కొద్దిమంది వినియోగదారుల కోసం—ఉదాహరణకు ప్రముఖ సంస్థలలోని ఎగ్జిక్యూటివ్లు లేదా భద్రతా బృందాలు—కోసం రూపొందించారు. చాలా మంది వినియోగదారులకు ఇది అవసరం లేదు. లాక్డౌన్ మోడ్, ప్రాంప్ట్ ఇంజెక్షన్–ఆధారిత డేటా ఎక్స్ఫిల్ట్రేషన్ ప్రమాదాన్ని తగ్గించడానికి, ChatGPT బాహ్య సిస్టమ్లతో ఎలా పరస్పరం చర్యలు చేయగలదనే దానిని కఠినంగా పరిమితం చేస్తుంది.
లాక్డౌన్ మోడ్, ప్రత్యర్థి ప్రాంప్ట్ ఇంజెక్షన్ల వంటి దాడుల ద్వారా యూజర్ల సంభాషణలు లేదా కనెక్ట్ చేసిన యాప్ల నుంచి సున్నితమైన డేటాను బయటకు తీసుకెళ్లడానికి ప్రయత్నించగల కొన్ని టూల్స్ మరియు సామర్థ్యాలను ChatGPT లో నిర్దిష్టంగా నిలిపివేస్తుంది.
ఉదాహరణకు, లాక్డౌన్ మోడ్లో వెబ్ బ్రౌజింగ్ కాష్ చేసిన కంటెంట్కు పరిమితం చేయబడింది, కాబట్టి లైవ్ నెట్వర్క్ అభ్యర్థనలు OpenAI నియంత్రిత నెట్వర్క్ను విడిచిపెట్టవు. ఈ పరిమితి బ్రౌజింగ్ ద్వారా సున్నితమైన డేటా దాడి చేసేవారికి బయటకు తరలించకుండా నిరోధించడానికి రూపొందించబడింది. మేము డేటా భద్రతపై బలమైన నిర్దిష్ట హామీలను ఇవ్వలేనప్పుడు కొన్ని ఫీచర్లు పూర్తిగా నిలిపివేయబడతాయి.
లాక్డౌన్ మోడ్ కొత్త నిర్ణయాత్మక సెట్టింగ్, ఇది కొన్ని బాహ్య వ్యవస్థలతో ChatGPT ఎలా పరస్పర చర్య చేయాలనే ఖచ్చితంగా పరిమితం చేయడం ద్వారా, తెలియకుండానే డేటా తృతీయ పక్షాలతో పంచుకోకుండా రక్షించడానికి సహాయపడుతుంది.
ChatGPT వ్యాపార ప్రణాళికలు ఇప్పటికే ఎంటర్ప్రైజ్-గ్రేడ్ డేటా భద్రతను అందిస్తున్నాయి. లాక్డౌన్ మోడ్ ఆ రక్షణలపై ఆధారపడి రూపొందించబడింది మరియు ChatGPT Enterprise, ChatGPT Edu, హెల్త్కేర్ కోసం ChatGPT, మరియు టీచర్ల కోసం ChatGPT లభ్యమవుతుంది. అడ్మిన్లు కొత్త రోల్ ను సృష్టించడం ద్వారా వర్క్స్పేస్ సెట్టింగ్స్(కొత్త విండోలో తెరుచుకుంటుంది)లో దీన్ని ఎనేబుల్(కొత్త విండోలో తెరుచుకుంటుంది) చేయవచ్చు. ప్రారంభించినప్పుడు, లాక్డౌన్ మోడ్ ఇప్పటికే ఉన్న అడ్మిన్ సెట్టింగ్లపై అదనపు పరిమితులను అమలు చేస్తుంది.
లాక్డౌన్ మోడ్ గురించి మా హెల్ప్ సెంటర్(కొత్త విండోలో తెరుచుకుంటుంది)లో మరింత తెలుసుకోండి.
కొన్ని కీలకమైన వర్క్ఫ్లోలు యాప్లపై ఆధారపడి ఉంటాయి కాబట్టి, వర్క్స్పేస్ అడ్మిన్లు మరింత వివరణాత్మక కంట్రోల్స్ ఉంటాయి. లాక్డౌన్ మోడ్లో వినియోగదారులకు ఏ యాప్లు అందుబాటులో ఉన్నాయో - ఆ యాప్లలో ఏ నిర్దిష్ట చర్యలు అందుబాటులో ఉన్నాయో వారు ఖచ్చితంగా ఎంచుకోగలరు. అదనంగా, మరియు లాక్డౌన్ మోడ్ కాకుండా, కాంప్లయన్స్ API లాగ్స్ ప్లాట్ఫామ్(కొత్త విండోలో తెరుచుకుంటుంది) యాప్ వినియోగం, పంచుకోబడ్డ డేటా మరియు కనెక్ట్ చేసిన మూలాల గురించి వివరణాత్మక దృశ్యమానతను అందిస్తుంది, అడ్మిన్లు పర్యవేక్షణను నిర్వహించడంలో సహాయపడుతుంది.
మేం రాబోయే నెలల్లో వినియోగదారులకు లాక్డౌన్ మోడ్ అందుబాటులోకి తీసుకురావాలని యోచిస్తున్నాం.
మీ యాప్లు మరియు వెబ్కు కనెక్ట్ చేసినప్పుడు AI ఉత్పత్తులు మరింత సహాయకారిగా ఉంటాయి, మేం కనెక్ట్ చేసిన డేటాను సురక్షితంగా ఉంచడంలో భారీగా పెట్టుబడి పెట్టాం. అదే సమయంలో, కొన్ని నెట్వర్క్-సంబంధిత సామర్థ్యాలు కొత్త ప్రమాదాలను పరిచయం చేస్తాయి, వాటిని పరిశ్రమ భద్రత మరియు భద్రతా తగ్గింపులు ఇంకా పూర్తిగా పరిష్కరించలేదు. కొంతమంది వినియోగదారులు ఈ ప్రమాదాలను తీసుకోవడం సౌకర్యవంతంగా ఉండవచ్చు మరియు వినియోగదారులు వాటిని ఎలా ఉపయోగించాలనేది మరియు ఎలా ఉపయోగించాలని నిర్ణయించే సామర్థ్యం ఉండటం చాలా ముఖ్యం అని మేం నమ్ముతున్నాం, ముఖ్యంగా వారి ప్రైవేట్ డేటాతో పనిచేసేటప్పుడు.
అదనపు ప్రమాదాన్ని ప్రవేశపెట్టే లక్షణాల కోసం ఉత్పత్తిలో మార్గదర్శకత్వం అందించడమే మా విధానం. ఇది మరింత స్పష్టంగా మరియు సుసంగతంగా ఉండేలా, మేము ఇప్పటికే ఉన్న సామర్థ్యాల చిన్న జాబితాను లేబుల్ చేసే విధానాన్ని ప్రామాణీకరిస్తున్నాము. ఈ ఫీచర్లు ఇప్పుడు ChatGPT, ChatGPT Atlas, మరియు Codex అంతటా ఒకే విధమైన “Elevated Risk” లేబల్ను ఉపయోగిస్తాయి, తద్వారా వినియోగదారులు వాటిని ఎక్కడ ఎదుర్కొన్నా అదే మార్గదర్శకత్వం పొందుతారు.
ఉదాహరణకు, మా కోడింగ్ అసిస్టెంట్ Codexలో, డెవలపర్లు Codexకు నెట్వర్క్ యాక్సెస్ ఇవ్వవచ్చు, తద్వారా అది డాక్యుమెంటేషన్ను వెతకడం వంటి వెబ్లో చర్యలు తీసుకోగలదు. సంబంధిత సెట్టింగ్ల స్క్రీన్లో “Elevated Risk” అనే లేబుల్ ఉంటుంది, మరియు ఏమి మార్పులు జరుగుతాయి, ఏ ప్రమాదాలు ప్రవేశపెట్టబడవచ్చు, మరియు ఆ యాక్సెస్ ఎప్పుడు తగినదో అనే విషయాలపై స్పష్టమైన వివరణ ఉంటుంది.
Codex ఉన్న నెట్వర్క్ యాక్సెస్ను వినియోగదారులు కాన్ఫిగర్ చేయగల Codex సెట్టింగ్ల స్క్రీన్ స్క్రీన్షాట్.
కొత్తగా ఉద్భవిస్తున్న లేదా పెరుగుతున్న రిస్క్లతో సహా, మరిముఖ్యంగా కొత్త, ఉద్భవిస్తున్న లేదా పెరుగుతున్న రిస్క్ల కోసం మా భద్రత మరియు సెక్యూరిటీ రక్షణ చర్యలను బలోపేతం చేయడంలో మేం పెట్టుబడి పెట్టడం కొనసాగిస్తున్నాం. ఈ ఫీచర్ల కోసం మేం రక్షణ చర్యలను బలోపేతం చేస్తున్నందున, భద్రతా పురోగతులు సాధారణ ఉపయోగం కోసం ఆ ప్రమాదాలను తగినంతగా తగ్గించాయని మేం నిర్ధారించిన తర్వాత “ఎలివేటెడ్ రిస్క్” లేబుల్ను తొలగిస్తాం. వినియోగదారులకు రిస్క్ను ఉత్తమంగా తెలియజేయడానికి, కాలక్రమేణా ఈ లేబుల్ ఉన్న ఫీచర్లను మేం అప్డేట్ చేస్తూనే ఉంటాం.
రచయిత
చదవడం కొనసాగించండి
