జూన్‌లో అంతర్గత శిక్షణ, మూల్యాంకన సమయంలో మా మోడళ్లు ఆస్ట్రేలియా ప్రభుత్వ వెబ్‌సైట్‌లలోకి అనుమతి లేని పద్ధతుల్లో ప్రవేశించాయి. దీనికి మా ప్రతిస్పందన కూడా మరింత మెరుగ్గా ఉండాల్సింది. మేము క్షమాపణలు కోరుతున్నాం. భవిష్యత్తులో మెరుగ్గా పనిచేసేందుకు కృషి చేస్తున్నాం.
మాకు తెలిసిన విషయాలు, మేము చేసిన మార్పులు, ఆస్ట్రేలియా ప్రజల నమ్మకాన్ని తిరిగి పొందేందుకు చేయబోయే పనులను ఈ వ్యాసంలో వివరిస్తున్నాం. ఇది కొత్త తరహా సైబర్ ఘటన. ప్రపంచవ్యాప్తంగా తలెత్తుతున్న ఒక సవాలుకు ఇది నిదర్శనం. ఈ పరిస్థితికి బాధ్యత వహించడంలో భాగంగా ఆస్ట్రేలియాతో నిబద్ధతతో కలిసి పనిచేయాలని భావిస్తున్నాం. దురుద్దేశపూర్వకమైనా, అనుకోకుండా జరిగినదైనా, ఏఐ సైబర్ ప్రవర్తనను ఏఐ అభివృద్ధిదారులు, ప్రభుత్వాలు గుర్తించి, వెల్లడించి, స్పందించేందుకు ఆచరణాత్మక విధానాలను రూపొందించడంలో సహాయపడతాం.
జూలైలో జరిగిన హగ్గింగ్ ఫేస్ ఘటన తర్వాత, ఇతర ప్రభావిత సంస్థలను గుర్తించేందుకు అంతకుముందు జరిగిన శిక్షణ, మూల్యాంకన కార్యకలాపాలను సమీక్షించడం ప్రారంభించాం. ఆగస్టు మధ్యలో, కింద పేర్కొన్న ఆస్ట్రేలియా ప్రభుత్వ వెబ్‌సైట్‌లను ప్రభావితం చేసిన చర్యలను ఆ సమీక్ష గుర్తించింది.
ఆధారాలను బట్టి మాకు తెలిసిన విషయాలు ఇవి:
సర్వీసెస్ ఆస్ట్రేలియా: ఒక OpenAI మోడల్ ఆ సేవలో ప్రజలకు అందుబాటులో లేని ప్రవేశాన్ని పొందే మార్గాన్ని కనుగొంది. ఆదేశాలను అమలు చేసింది, అంతర్గత ఫైళ్లను, ప్రవేశ ధృవీకరణ వివరాలను, సమగ్ర గణాంకాలను పొందింది, ఫైళ్లను రాసింది. అయితే, రోగులు లేదా సేవలు పొందేవారి వ్యక్తిగత రికార్డులను చూడలేదు. ఈ ఘటనను కింద మరింత వివరంగా వివరిస్తున్నాం.
న్యూ సౌత్ వేల్స్ నేర గణాంకాలు, పరిశోధన విభాగం (బీఓసీఎస్‌ఏఆర్): బహిరంగ నేర గణాంకాలను పరిశోధించడానికి ఒక OpenAI మోడల్ ఈ విభాగం అందించే బహిరంగ నేర మ్యాపింగ్ సాధనాన్ని ఉపయోగించింది. (మోడళ్లు వివిధ సమాచార పరిశోధన పనులు ఎందుకు చేస్తాయో కింద మరింత వివరిస్తున్నాం.) బ్రౌజర్ ఏపీఐ అభ్యర్థనలకు ప్రవేశ ధృవీకరణ వివరాలను అందించే బీఓసీఎస్‌ఏఆర్ బహిరంగ సాధనం ద్వారా మోడల్ ఏపీఐ, వెబ్‌సైట్ మెటాడేటా అభ్యర్థనలను పంపింది. బీఓసీఎస్‌ఏఆర్ వ్యవస్థ అనువర్తన కాన్ఫిగరేషన్‌ను, నిర్వహణ పనులు, లాగ్‌లను, వెబ్‌సైట్ మెటాడేటాను తిరిగి పంపింది. వ్యక్తుల నేర రికార్డులను చూడలేదు.
విక్టోరియా ఆరోగ్య శాఖ: విక్టోరియా ఆరోగ్య సమాచార సంస్థ నివేదిక వ్యవస్థను ప్రశ్నించడానికి, నివేదికల కాన్ఫిగరేషన్‌ను, సమగ్ర సర్వే గణాంకాలను పొందడానికి వీలు కల్పించే బహిర్గతమైన ప్రవేశ కీని OpenAI ఏజెంట్లు కనుగొన్నారు. ఈ సమాచారం ఎంతవరకు అందుబాటులో ఉండాల్సిందనేది స్పష్టంగా లేదు. అది విక్టోరియా ఆరోగ్య సమాచార సంస్థ ప్రవేశ విధానాలపై ఆధారపడి ఉంటుంది. వ్యక్తిగత వైద్య రికార్డులను లేదా వ్యక్తులను గుర్తించగల సర్వే సమాధానాలను చూడలేదు.
ఆస్ట్రేలియా ఆరోగ్య, సంక్షేమ సంస్థ: మూడవ పక్ష బ్రౌజింగ్, డౌన్‌లోడ్ సేవల ద్వారా OpenAI ఏజెంట్లు ఈ సంస్థ వెబ్‌సైట్‌తో సహా పలు వనరుల నుంచి సమగ్ర గణాంకాలను పొందారు. చార్ట్ డేటా కోసం నేరుగా అభ్యర్థనలు పంపారు. ప్రవేశ నియంత్రణలను దాటవేయడానికి వేరుగా చేసిన ప్రయత్నాలు విఫలమయ్యాయి. డౌన్‌లోడ్ చేసిన సమాచారం బహిరంగంగా అందుబాటులో ఉన్నదిగా కనిపిస్తోంది. వ్యవస్థ భద్రతకు భంగం కలగలేదు. వ్యక్తిగత వైద్య రికార్డులను చూడలేదు.
ఆగస్టు మధ్యలో ఈ చర్యల గురించి తెలిసిన వెంటనే దర్యాప్తులు ప్రారంభించాం. సెప్టెంబర్ 10న సర్వీసెస్ ఆస్ట్రేలియాకు, విక్టోరియా ఆరోగ్య శాఖకు, సెప్టెంబర్ 18న న్యూ సౌత్ వేల్స్ నేర గణాంకాలు, పరిశోధన విభాగానికి సమాచారం అందించాం. ఆస్ట్రేలియా ఆరోగ్య, సంక్షేమ సంస్థకు సంబంధించిన సమాచారాన్ని పొందిన తీరు బహిరంగ వినియోగానికి అనుగుణంగానే కనిపించింది. అందువల్ల అది మా వెల్లడింపు ప్రమాణాల పరిధిలోకి రాలేదు. అయినా, మా పరిశీలన ఫలితాలను పంచుకోవడానికి, వివరణాత్మక సమావేశాన్ని ప్రతిపాదించడానికి సెప్టెంబర్ 24న ఆ సంస్థకు తెలియజేశాం.
దర్యాప్తు పూర్తయ్యాక ప్రభావిత సంస్థలకు సమగ్ర వివరాలు అందించాలనేది మా ఉద్దేశం. అయితే, ప్రాథమిక పరిశీలన ఫలితాలను మరింత ముందుగానే పంచుకుని, కొత్త విషయాలు తెలిసేకొద్దీ ఆస్ట్రేలియా సంస్థలకు తాజా సమాచారం అందించాల్సింది.
అప్పటి నుంచి ఇప్పటివరకు తెలుసుకున్న విషయాలను పంచుకోవడానికి ఆస్ట్రేలియా ప్రభుత్వ సంస్థలతో సన్నిహితంగా పనిచేస్తున్నాం. మరిన్ని ప్రభావిత సంస్థలను గుర్తిస్తే, అందుబాటులో ఉన్న సమాచారంతో వాటికి వెంటనే నేరుగా తెలియజేస్తాం. మరిన్ని వాస్తవాలు వెలుగులోకి వచ్చినప్పుడు తాజా సమాచారం అందిస్తాం.
జూన్‌లో అంతర్గత శిక్షణ, మూల్యాంకన సమయంలో, అంతర్గత వినియోగానికి మాత్రమే ఉద్దేశించిన ఒక ప్రయోగాత్మక OpenAI మోడల్‌ను నడుపుతున్నాం. దాన్ని ప్రజలకు విడుదల చేసే ఉద్దేశం లేదు. మా బహిరంగ ఉత్పత్తుల్లో ఉండే భద్రతా చర్యలన్నీ అందులో లేవు. ఈ శిక్షణ, మూల్యాంకన సమయంలో అది సర్వీసెస్ ఆస్ట్రేలియా వారి మెడికేర్ గణాంకాల నివేదిక సేవలోకి ప్రవేశించింది. ఇప్పటివరకు మా సమీక్షలో ఎవరి వైద్య రికార్డులనైనా చూసినట్లు ఆధారాలు లభించలేదు.
మా మోడళ్లకు అంతర్గత శిక్షణ, మూల్యాంకనం చేసేటప్పుడు, అనేక అంశాలపై విస్తృతంగా సేకరించిన పరిశోధన ప్రశ్నల నుంచి పనులను అప్పగిస్తాం. ఇవి వినియోగదారులు అడగగల వివరణాత్మక ప్రశ్నల తరహాలో ఉంటాయి. ప్రజలకు మరింత ఉపయోగపడేలా, బహిరంగంగా అందుబాటులో ఉన్న సమాచారాన్ని కనుగొనడం, అర్థం చేసుకోవడం, విశ్లేషించడంలో ఇది మోడల్‌కు శిక్షణనిస్తుంది. మా మోడళ్లు బహిరంగంగా ప్రచురించిన గణాంకాలను ఉపయోగించి ఈ ప్రశ్నలకు సమాధానాలు ఇవ్వాల్సి ఉంటుంది.
ఈ సందర్భంలో, విక్టోరియా ప్రాంతాల్లో చర్మ వ్యాధుల మందులపై ప్రభుత్వం తలసరి ఎంత ఖర్చు చేస్తోందో పరిశోధించడం మోడల్‌కు అప్పగించిన పనుల్లో ఒకటి. ఆ సమాచారం పొందడం మోడల్‌కు కష్టమైంది. దాంతో మేము అనుమతించని చర్యలను అది చేపట్టింది. సర్వీసెస్ ఆస్ట్రేలియా వారి మెడికేర్ గణాంకాల నివేదిక సేవలో ఈ సమాచారం కోసం వెతుకుతూ, ప్రజలకు అందుబాటులో లేని ప్రవేశాన్ని పొందే మార్గాన్ని అది కనుగొంది. ఆ ప్రవేశాన్ని ఉపయోగించి, ఆ సేవకు సంబంధించిన సాంకేతిక వ్యవస్థ సమాచారాన్ని, మూల కోడ్‌ను పరిశీలించింది. ఇవన్నీ మొదట వెతుకుతున్న సమాచారాన్ని కనుగొనాలనే లక్ష్యంతోనే చేసింది. ఇలా జరగాలని మేము ఉద్దేశించలేదు. ఆ సేవలోకి ప్రవేశించడం, ఆ తర్వాతి చర్యలు జరగకూడనివి.
హగ్గింగ్ ఫేస్ ఘటన తర్వాత, అదనపు నెట్‌వర్క్ పరిమితులు, విస్తృత పర్యవేక్షణతో సహా మా పరిశోధన భద్రతా చర్యలను బలోపేతం చేశాం. ఈ పరిశోధన పరిసరాల్లో ఇంటర్నెట్‌కు నేరుగా అనుసంధానం కాకుండా నియంత్రణలు అమలు చేశాం. వెబ్ సమాచారాన్ని ముందుగా నిల్వ చేసిన కంటెంట్ ద్వారా అందిస్తున్నాం. భద్రతను మరింత పెంచే మా ప్రస్తుత పర్యవేక్షణ వ్యవస్థలు అప్పట్లో ఉంటే, ఈ చర్యలను గుర్తించి, మనుషులు తక్షణమే సమీక్షించేలా మా బృందాన్ని అప్రమత్తం చేసి ఉండేవి. ఉదాహరణకు, ఇటీవలి శిక్షణ ప్రక్రియలో(కొత్త విండోలో తెరుచుకుంటుంది) ఒక మోడల్ ఇంటర్నెట్‌కు నేరుగా అనుసంధానమైనప్పుడు, మా పర్యవేక్షణ వ్యవస్థ ఆ చర్యను గుర్తించి, సమీక్షకుడిని అప్రమత్తం చేసింది. మేము ఆ ప్రక్రియను ఆపివేశాం. ఈ రక్షణలను పరీక్షించడం, లోపాలను సరిదిద్దడం కొనసాగిస్తున్నాం. మేము గమనించిన ఘటనల్లో హగ్గింగ్ ఫేస్ ఘటనే ఇప్పటికీ అత్యంత తీవ్రమైనది.
ఏఐని సురక్షితంగా అభివృద్ధి చేస్తున్నారని ప్రజలు తెలుసుకోవాలనుకుంటున్నారు. అందుకు మాలాంటి సంస్థలు స్వయంగా తీసుకునే చర్యలే తొలి అడుగు. మా అత్యంత సామర్థ్యవంతమైన మోడళ్లలో సాధనాల వినియోగంతో కూడిన శిక్షణ, మూల్యాంకనాన్ని నిలిపివేశామని ఇటీవల తెలియజేశాం(కొత్త విండోలో తెరుచుకుంటుంది). అదనపు భద్రతా చర్యలు అమల్లో ఉన్నాయని నమ్మకం కలిగినప్పుడే వాటికి శిక్షణను తిరిగి ప్రారంభిస్తాం. ప్రస్తుతం ఆ చర్యలపైనే పనిచేస్తున్నాం.
మొత్తంగా ఏఐ వ్యవస్థల సామర్థ్యం పెరుగుతున్న కొద్దీ, బలహీనతలను గుర్తించి సరిదిద్దుకునేలా సంస్థలకు సహాయం చేయడానికి ఉన్న సమయం కూడా తగ్గుతోందని మేము గమనిస్తున్నాం. ఇందుకు ప్రపంచవ్యాప్తంగా సైబర్ రక్షకులతో కలిసి సమష్టిగా పనిచేయాలి.
సాంకేతికత, సైబర్ భద్రత, కీలక మౌలిక సదుపాయాల రంగాల్లోని సంస్థలతో కలిసి మేము సైబర్ రక్షణ కోసం సమష్టి చర్యలకు పిలుపునిచ్చాం. పటిష్ఠమైన భద్రతా చర్యలు, సకాలంలో సమాచారం వెల్లడించడం, ప్రభావిత సంస్థలకు ఆచరణాత్మక సహాయం అందించడం వంటి మా సొంత బాధ్యతలతోనే ఆ పిలుపు మొదలవుతుంది. అత్యవసర సేవలను రక్షించే బృందాలపై పెట్టుబడి పెట్టాలని కూడా ఇది కోరుతోంది. తద్వారా ఆ బృందాలు భద్రతా లోపాలను కనుగొనగలవు, పరిష్కారాలను ధృవీకరించగలవు, ఫలితాలనిచ్చే పద్ధతులను పంచుకోగలవు.
ఆస్ట్రేలియాలో ప్రభావిత సంస్థలకు మద్దతుగా, ఈ సూత్రాలను ఆచరణలో పెట్టేలా సైబర్ రక్షకులకు సహాయపడేందుకు వనరులను, నైపుణ్యాన్ని అందించడానికి కట్టుబడి ఉన్నాం. ఇందులో భాగంగా:
ప్రభావిత సంస్థలకు ప్రత్యేక సహాయం. ఏం జరిగిందో అర్థం చేసుకుని, ప్రభావాన్ని అంచనా వేసేలా ప్రభావిత సంస్థలకు సహాయపడేందుకు అవసరమైన వనరులను కేటాయిస్తాం. ఇందులో సంబంధిత సాంకేతిక పరిశీలన ఫలితాలను పంచుకోవడం, తగిన సమాచార మార్పిడి ఏర్పాట్ల ద్వారా మా ప్రతిస్పందన బృందాలతో సంప్రదింపులను ఏర్పాటు చేయడం ఉంటాయి.
సైబర్ రక్షణలను బలోపేతం చేసేందుకు నిధులు, సహాయం. కీలక మౌలిక సదుపాయాలు, ఇతర సున్నితమైన వ్యవస్థల్లో సైబర్ రక్షణలను బలోపేతం చేసేందుకు ఆస్ట్రేలియా ప్రభుత్వాలకు, పరిశ్రమలకు సాంకేతిక సహాయం అందిస్తాం. మా 1 బిలియన్ డాలర్ల ముందువరుస రక్షకుల కోసం డేబ్రేక్ నిధి నుంచి క్రెడిట్స్ కూడా అందిస్తాం. ప్రభుత్వాలు, కీలక మౌలిక సదుపాయాల నిర్వాహకులతో మా సహకారాన్ని విస్తరిస్తూ, పెరుగుతున్న ఏఐ ఏజెంట్ల సామర్థ్యాల వల్ల వచ్చే ముప్పులను సంస్థలు మెరుగ్గా అర్థం చేసుకోవడానికి, గుర్తించడానికి, ఎదుర్కోవడానికి ఈ పని తోడ్పడుతుంది.
ఆస్ట్రేలియా కార్యదళం. సామర్థ్యం పెరుగుతున్న ఏఐ ఏజెంట్ల వల్ల వచ్చే ముప్పుల నిర్వహణకు ఆచరణాత్మక విధాన సిఫార్సులను రూపొందించేందుకు, ఆస్ట్రేలియా స్వతంత్ర నిపుణులతో ఒక కార్యదళాన్ని ఏర్పాటు చేస్తాం. ఈ ఘటనల నుంచి నేర్చుకున్న పాఠాల ఆధారంగా, సమాచారం తెలియజేసే ప్రక్రియలను మెరుగుపరచడం, ఏఐ అభివృద్ధిదారులకు ప్రభుత్వానికి మధ్య సమన్వయాన్ని బలోపేతం చేయడం, ప్రభుత్వ వ్యవస్థలను మరింత రక్షించే చర్యలను గుర్తించడంపై ఇది దృష్టి పెడుతుంది. ఈ కార్యదళం సిఫార్సులు OpenAI విధానాన్ని రూపొందించడంలో మార్గదర్శకంగా ఉంటాయి. ఏఐ భద్రత, సైబర్ భద్రతపై ఆస్ట్రేలియా ప్రభుత్వాలు చేసే కృషికి తోడ్పడతాయి. ఈ ఏడాది చివరికల్లా పని పూర్తిచేస్తుందని భావిస్తున్న ఈ కార్యదళం, ఇలాంటి ఘటనల ముప్పును తగ్గించేందుకు ఏఐ సంస్థలు తీసుకోగల ఆచరణాత్మక చర్యలను కూడా సిఫార్సు చేస్తుంది.
ఆస్ట్రేలియా ప్రభుత్వాలు, పరిశ్రమలు, పౌరులు OpenAIకి ఎప్పటి నుంచో అమూల్యమైన భాగస్వాములుగా ఉన్నారు. ఈ భాగస్వామ్యం విలువ మాకు తెలుసు. జరిగిన తప్పును సరిదిద్దాలని మేము సంకల్పించాం.
OpenAI ముఖ్య వ్యూహాధికారి జేసన్ క్వాన్, అమెరికాలోని OpenAI ప్రధాన కార్యాలయం నుంచి వచ్చి, అక్టోబర్ 6, మంగళవారం సిడ్నీలో కృత్రిమ మేధపై సంయుక్త ఎంపిక కమిటీ ఎదుట హాజరవుతారు. మాకు తెలిసిన విషయాలు, మేము స్పందించిన తీరు, తీసుకున్న చర్యలు, భవిష్యత్తులో మా పనితీరును ఎలా మెరుగుపరుస్తాం అనే అంశాలపై ఆయన ప్రశ్నలకు సమాధానమిస్తారు.
ధృవీకరించిన పరిశీలన ఫలితాలను ప్రభావిత సంస్థలకు, సంబంధిత ప్రభుత్వాలకు తెలియజేస్తూనే ఉంటాం. మా కొనసాగుతున్న సమీక్షపై తాజా సమాచారాన్ని, ఈ హామీల అమలులో సాధించిన పురోగతిని ప్రచురిస్తాం. నమ్మకాన్ని తిరిగి పొందడానికి మేము ఇంకా ఎంతో చేయాల్సి ఉందని మాకు తెలుసు. అర్థవంతమైన మార్పులు చేస్తున్నామని, ఇచ్చిన హామీలను నిలబెట్టుకుంటున్నామని ఆస్ట్రేలియా ప్రజలకు నిరూపించాల్సిన బాధ్యత మాదే.
