జీరో డేటా రిటెన్షన్ అర్హులైన API వినియోగదారులకు స్పష్టమైన హామీ ఇస్తుంది: అభ్యర్థన ప్రాసెస్ అయిన తర్వాత వారి ప్రాంప్ట్లను లేదా మోడల్ స్పందనలను OpenAI నిల్వ చేయదు. సమీక్ష కోసం వినియోగదారుల కంటెంట్ OpenAI సిబ్బందికి అందుబాటులో ఉండదు1. సంస్థాగత వినియోగదారులు స్పష్టంగా సమ్మతిస్తే తప్ప, వారి డేటాను మా మోడళ్ల శిక్షణకు ఉపయోగించము.
మోడళ్లు మరింత సుదీర్ఘమైన, సంక్లిష్టమైన పనులు చేపడుతున్నప్పుడు, కొన్ని తీవ్రమైన ప్రమాదాలు అనేక పరస్పర చర్యలను కలిపి పరిశీలిస్తేనే కనిపించవచ్చు. ప్రస్తుత ZDR-అనుకూల భద్రతా వ్యవస్థలు ప్రతి పరస్పర చర్యను విడిగా మూల్యాంకనం చేస్తాయి. OpenAI సిబ్బందికి అసలు కంటెంట్ను అందుబాటులో ఉంచకుండానే సంబంధిత పరస్పర చర్యల్లోని ధోరణులను గుర్తించేందుకు రూపొందించిన ప్రైవేట్ భద్రతా ప్రాసెసింగ్ను నేడు ముందస్తుగా పరిచయం చేస్తున్నాం.
ZDR అమలుల్లో వినియోగదారుల కంటెంట్ వారి నియంత్రణలోని మౌలిక సదుపాయాల్లోనే ఉంటుంది. వినియోగదారు నియంత్రించే కీలతో ఎన్క్రిప్ట్ చేసి, కంటెంట్ను OpenAI మౌలిక సదుపాయాల్లో నిల్వ చేసే ఎంపికను కూడా అభివృద్ధి చేస్తున్నాం. రెండు సందర్భాల్లోనూ, అసలు ప్రాంప్ట్లు లేదా స్పందనలను OpenAI సిబ్బందికి వెల్లడించకుండా స్వయంచాలక వ్యవస్థలు సంభావ్య దుర్వినియోగాన్ని గుర్తించి, పరిమిత భద్రతా సంకేతాలను అందించగలవు.
అత్యంత తీవ్రమైన AI భద్రతా ప్రమాదాలు ఎల్లప్పుడూ ఒకే పరస్పర చర్యలో కనిపించవు. అనేక పరస్పర చర్యలను కలిపి పరిశీలించినప్పుడే హాని కలిగించే సంభావ్య ఉద్దేశాలు తరచూ స్పష్టమవుతాయి. దురుద్దేశంతో వ్యవహరించే వ్యక్తులు రక్షణలను పదేపదే పరీక్షించినప్పుడు, వేర్వేరు ఖాతాల ద్వారా సమన్వయం చేసుకున్నప్పుడు లేదా సాధారణ పరిశోధనగా ముప్పులను దాచినప్పుడు కూడా ఇలాంటి ప్రమాదాలు తలెత్తవచ్చు. స్వయంచాలక ఏజెంట్ పని కొనసాగుతున్నప్పుడు కూడా ప్రమాదాలు తలెత్తవచ్చు. ఉదాహరణకు, ఆపమని చెప్పినా వ్యవస్థ చర్యలను కొనసాగించి, వినియోగదారు ఉద్దేశానికి విరుద్ధంగా మారవచ్చు.
AI వ్యవస్థలు మరింత సుదీర్ఘమైన, సంక్లిష్టమైన పనులను చేపడుతున్న కొద్దీ, చట్టబద్ధమైన కార్యకలాపాలను దుర్వినియోగం నుంచి వేరు చేయడానికి, AI ఏజెంట్లు తమకు ఉద్దేశించిన అధికార పరిధిలోనే ఉండేలా చూడటానికి ఈ విస్తృత సందర్భం మరింత కీలకమవుతుంది.
ఇటీవల కొన్ని అత్యాధునిక మోడళ్ల అమలుల్లో, భద్రతా పర్యవేక్షణ కోసం సున్నితమైన కంటెంట్ను AI సేవా ప్రదాత నిల్వ చేసేందుకు వినియోగదారులు అనుమతించాల్సి వచ్చింది. అనేక సంస్థలకు ఇలాంటి నిబంధనలు వారి భద్రతా బాధ్యతలకు లేదా వారు సేవలందించే వ్యక్తులకు ఇచ్చిన హామీలకు విరుద్ధంగా ఉంటాయి.
మేము ZDRను అందించడం కొనసాగించగలిగేలా ప్రైవేట్ భద్రతా ప్రాసెసింగ్ రూపొందించబడింది.
ZDRతో పాటు ఇతర అమలుల్లో ఇప్పటికే ఉపయోగిస్తున్న స్వయంచాలక రక్షణలను ప్రైవేట్ భద్రతా ప్రాసెసింగ్ మరింత విస్తరిస్తుంది. ప్రస్తుత ZDR-అనుకూల భద్రతా వ్యవస్థలు పరస్పర చర్యలను విడివిడిగా మూల్యాంకనం చేస్తాయి. నిల్వ చేసిన వినియోగదారుల కంటెంట్ OpenAI సిబ్బందికి అందుబాటులో లేకుండానే, సంబంధిత పరస్పర చర్యల్లోని ధోరణులను స్వయంచాలక వ్యవస్థలు గుర్తించేలా ప్రైవేట్ భద్రతా ప్రాసెసింగ్ ఆ రక్షణలను విస్తరిస్తుంది.
వినియోగదారుల నియంత్రణలోని మౌలిక సదుపాయాల్లో అయినా (ZDR అమలులు), OpenAI అందించే నిల్వలో అయినా, కంటెంట్ ఎక్కడ నిల్వ ఉన్నప్పటికీ ప్రైవేట్ భద్రతా ప్రాసెసింగ్ దాన్ని ఉపయోగిస్తుంది. OpenAI అందించే నిల్వలో, వినియోగదారు నియంత్రించే కీలతో వారి కంటెంట్ ఎన్క్రిప్ట్ చేయబడుతుంది. ఆ కీల ప్రతులు OpenAI సిబ్బంది వద్ద ఉండవు కాబట్టి, వారు అసలు కంటెంట్ను పొందలేరు.
ప్రమాదాన్ని గుర్తించినప్పుడు, ప్రస్తుత భద్రతా వ్యవస్థల మాదిరిగానే సంబంధిత కార్యకలాప రకాన్ని సూచించే, నిర్దిష్టంగా పరిమితమైన సంకేతం OpenAIకి అందుతుంది. నిబంధనల అమలు అవసరమా కాదా నిర్ణయించడానికి ఆ సంకేతాన్ని ఉపయోగించవచ్చు. వినియోగదారుల కంటెంట్పై హెచ్చరిక వచ్చినప్పటికీ, OpenAI సిబ్బందికి అది అందుబాటులో ఉండదు.
తమ సొంత వ్యవస్థల్లో అందుబాటులో ఉన్న సమాచారంతో వినియోగదారులు హెచ్చరికలు, నిబంధనల అమలు నిర్ణయాలను పరిశీలించవచ్చు. వారు అప్పీల్ చేయాలనుకున్నా, చట్టబద్ధమైన కార్యకలాపంపై వివరణ ఇవ్వాలనుకున్నా లేదా నిర్ధారిత దుర్వినియోగ దర్యాప్తుకు సహకరించాలనుకున్నా, సంబంధిత సమాచారాన్ని OpenAIతో పంచుకోవచ్చు.
ప్రైవేట్ భద్రతా ప్రాసెసింగ్ను ప్రస్తుతం ప్రారంభ వినియోగదారులతో పరీక్షిస్తున్నాం. AI వ్యవస్థల సామర్థ్యం పెరుగుతున్నప్పుడు తమ కంటెంట్ ఎలా రక్షించబడుతుందో ముందుగానే స్పష్టంగా తెలియాలని మా వినియోగదారులు బలంగా కోరుతున్నందున, ఈ ముందస్తు సమాచారాన్ని ఇప్పుడు పంచుకుంటున్నాం.
ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ మొత్తం మానవాళికి ప్రయోజనం చేకూర్చేలా చూడటమే మా లక్ష్యం. సమర్థమైన రక్షణలను రూపొందించే మా విధానంలో వినియోగదారులు, భాగస్వాములతో సహకారం అత్యవసరం. మా సూత్రాలు స్పష్టం చేస్తున్నట్లుగా, కొత్తగా తలెత్తే ప్రమాదాలను ఏ ఒక్క AI ప్రయోగశాలా ఒంటరిగా పరిష్కరించలేదు. ప్రైవేట్ భద్రతా ప్రాసెసింగ్ ఈ విధానాన్ని ప్రతిబింబిస్తుంది. వివిధ పరిశ్రమలు, ప్రాంతాలు, పరిమాణాలకు చెందిన కంపెనీల వినియోగదారులు దీనిని తీర్చిదిద్దుతున్నారు.
మాతో కలిసి పనిచేసే సంస్థలు తమ రంగాల్లోని అత్యంత సున్నితమైన సమాచారాన్ని నిర్వహిస్తాయి. ఇందులో ఆర్థిక రికార్డులు, ఆరోగ్య డేటా, గోప్యమైన వ్యాపార ప్రణాళికలు, యాజమాన్య పరిశోధన ఉన్నాయి. నియంత్రణపరమైన బాధ్యతలను నెరవేర్చడానికి, వినియోగదారుల విశ్వాసాన్ని నిలబెట్టడానికి, వారి పోటీ ప్రయోజనాన్ని కాపాడటానికి ఆ సమాచారాన్ని రక్షించడం అత్యవసరం.
వారి సమాచారంపై నియంత్రణ వారికే ఉండేలా చూస్తూ, మరింత పటిష్ఠమైన రక్షణలను రూపొందించడానికి వారి అభిప్రాయాలు మాకు తోడ్పడుతున్నాయి.
“ఎంచుకున్న సేవకు మించి డేటాను ప్రత్యక్షంగా లేదా పరోక్షంగా ఉపయోగించకుండా, దానిపై పూర్తి నియంత్రణ వినియోగదారులకే ఉండటంపైనే సంస్థల్లో AI స్వీకరణ ఆధారపడి ఉంటుంది. శిక్షణకు డేటాను ఉపయోగించబోమన్న OpenAI నిబద్ధత, ZDR కారణంగా OpenAIతో పరిష్కారాలను రూపొందించగలమనే నమ్మకం గ్లీన్కు కలుగుతోంది. మోడళ్ల సామర్థ్యం పెరుగుతున్నా, సంస్థల విశ్వాసానికి ఆధారమైన గోప్యత, నియంత్రణకు భంగం కలగకుండా భద్రతను మెరుగుపరచవచ్చని OpenAI చూపుతోంది.”
—సునీల్ అగర్వాల్, ప్రధాన సమాచార భద్రతా అధికారి, గ్లీన్
మా విధానంలోని సాంకేతిక, కార్యాచరణ వివరాలపై వినియోగదారులతో కలిసి పనిచేయడం కొనసాగిస్తాం. సెప్టెంబర్లో ప్రైవేట్ భద్రతా ప్రాసెసింగ్ను దశలవారీగా ప్రారంభించి, సాంకేతిక శ్వేతపత్రాన్ని విడుదల చేయాలని భావిస్తున్నాం. ప్రతి దశలోనూ వినియోగదారులకు ముందుగానే తాజా సమాచారాన్ని అందిస్తాం, ప్రస్తుత నిబద్ధతలకు దాని అర్థమేమిటో వివరిస్తాం, ముందస్తు ప్రణాళికకు అవసరమైన సమయం, మద్దతు ఇస్తాం.
రచయిత
- 1
ఇతర అత్యాధునిక మోడల్ ప్రదాతల మాదిరిగానే, కనిపించే బాలల లైంగిక వేధింపుల కంటెంట్ను (CSAM) నివేదించడం OpenAIకి చట్టపరంగా తప్పనిసరి(కొత్త విండోలో తెరుచుకుంటుంది). ప్రస్తుతం చేస్తున్నట్లే, సంభావ్య CSAMగా గుర్తించిన చిత్రాలను జీరో డేటా రిటెన్షన్ అమలుల్లో కూడా మానవ సమీక్ష, నివేదన కోసం నిల్వ చేయడం కొనసాగుతుంది.
