Mwezi Juni, wakati wa mafunzo na tathmini za ndani, miundo yetu ilifikia tovuti za serikali za Australia kwa njia ambazo haikuwa imeidhinishwa kutumia. Pia tulipaswa kuchukua hatua bora zaidi katika kushughulikia hali hiyo. Tunaomba radhi na tunajitahidi kufanya vizuri zaidi siku zijazo.
Katika makala haya, tunaeleza tunachojua, tulichobadilisha na tutakachofanya ili kurejesha imani ya watu wa Australia kwetu. Hili ni tukio la aina mpya la usalama wa mtandaoni linalowakilisha changamoto mpya inayojitokeza duniani. Mojawapo ya njia tunazokusudia kuwajibika kwa hali hii ni kufanya juhudi za makusudi za kushirikiana na Australia. Tutasaidia kuandaa mbinu zinazotekelezeka za kuwawezesha watengenezaji wa AI na serikali kutambua, kuripoti na kukabiliana na tabia za AI mtandaoni, ziwe za nia mbaya au zisizokusudiwa.
Baada ya tukio la Hugging Face mwezi Julai, tulianza kukagua shughuli za awali za mafunzo na tathmini ili kutambua mashirika mengine yaliyoathirika. Katikati ya Agosti, ukaguzi huo ulibaini shughuli zilizoathiri tovuti za serikali za Australia zilizoorodheshwa hapa chini.
Haya ndiyo tunayojua kulingana na ushahidi:
Services Australia: Muundo wa OpenAI uligundua njia ya kufikia sehemu ya huduma ambayo haikuwa wazi kwa umma, ukatekeleza amri, ukapata faili za ndani, taarifa za uthibitishaji na takwimu za jumla, na ukaandika faili. Hata hivyo, rekodi za wagonjwa au wateja binafsi hazikufikiwa. Tunaeleza tukio hili kwa undani zaidi hapa chini.
Ofisi ya Takwimu na Utafiti wa Uhalifu ya NSW (BOCSAR): Muundo wa OpenAI ulifikia Zana ya Umma ya BOCSAR ya Kuonyesha Uhalifu kwenye Ramani ili kutafiti takwimu za uhalifu zinazopatikana kwa umma (tunaeleza zaidi hapa chini kwa nini miundo hufanya kazi mbalimbali za kutafiti taarifa). Muundo ulituma maombi ya API na ya metadata ya tovuti kupitia zana ya umma ya BOCSAR, ambayo hutoa taarifa za uthibitishaji kwa maombi ya API kutoka kwenye kivinjari. Mfumo wa BOCSAR ulirejesha usanidi wa programu, kazi na kumbukumbu za uendeshaji, pamoja na metadata ya tovuti. Rekodi za uhalifu za watu binafsi hazikufikiwa.
Idara ya Afya ya Victoria: Mawakala wa OpenAI waligundua ufunguo wa ufikiaji uliokuwa wazi, wakautumia kuulizia mfumo wa kuripoti wa Wakala wa Taarifa za Afya wa Victoria na kupata usanidi wa kuripoti na takwimu za jumla za utafiti. Haijulikani wazi ni kwa kiwango gani taarifa hizi zilipaswa kufikiwa, na hilo linategemea sera za ufikiaji za VAHI. Rekodi za matibabu za watu binafsi au majibu ya utafiti yanayoweza kuwatambulisha walioyatoa hayakufikiwa.
Taasisi ya Afya na Ustawi ya Australia: Mawakala wa OpenAI walipata takwimu za jumla kwa kutumia huduma za kuvinjari na kupakua za wahusika wengine, zikiwemo takwimu kutoka tovuti ya AIHW, na waliulizia data za chati moja kwa moja. Majaribio mengine ya kukwepa vidhibiti vya ufikiaji hayakufaulu. Inaonekana maudhui yaliyopakuliwa yalikuwa yanapatikana kwa umma. Usalama wa mfumo haukuvunjwa. Rekodi za matibabu za watu binafsi hazikufikiwa.
Tulianzisha uchunguzi wa shughuli hizi mara tu tulipozif ahamu katikati ya Agosti. Tuliarifu Services Australia na Idara ya Afya ya Victoria tarehe 10 Septemba, na Ofisi ya Takwimu na Utafiti wa Uhalifu ya NSW tarehe 18 Septemba. Shughuli iliyohusiana na Taasisi ya Afya na Ustawi ya Australia haikufikia vigezo vyetu vya kutoa taarifa kwa sababu njia ya ufikiaji ilionekana kuendana na ufikiaji wa umma. Hata hivyo, tuliiarifu taasisi hiyo tarehe 24 Septemba ili kushiriki matokeo yetu ya uchunguzi na kujitolea kutoa maelezo zaidi.
Lengo letu lilikuwa kuzipa taasisi zilizoathirika maelezo ya kina baada ya uchunguzi wetu kukamilika. Hata hivyo, tulipaswa kushiriki matokeo ya awali mapema zaidi na kuendelea kuzipa taasisi za Australia taarifa mpya kadiri ukweli zaidi ulivyobainika.
Tangu wakati huo, tumeshirikiana kwa karibu na taasisi za serikali za Australia kushiriki tulichobaini hadi sasa. Tukitambua taasisi nyingine zilizoathirika, tutaziarifu mara moja na moja kwa moja kwa kutumia taarifa zilizopo, na kutoa taarifa mpya kadiri ukweli zaidi unavyobainika.
Wakati wa mafunzo na tathmini za ndani mwezi Juni, tulikuwa tukiendesha muundo wa majaribio wa OpenAI wa matumizi ya ndani pekee, ambao haukukusudiwa kutolewa kwa umma na haukuwa na hatua zote za ulinzi zinazotumika katika bidhaa zetu zinazopatikana kwa umma. Wakati wa mafunzo na tathmini hizi, ulifikia Huduma ya Kuripoti Takwimu za Medicare ya Services Australia. Ukaguzi wetu hadi sasa haujapata ushahidi kwamba rekodi za matibabu za mtu yeyote zilifikiwa.
Tunapofanya mafunzo na tathmini za ndani za miundo yetu, tunaipa kazi zinazotokana na mkusanyiko mpana wa maswali ya utafiti katika mada nyingi, yanayoakisi aina ya maswali ya kina ambayo watumiaji wanaweza kuuliza. Hii hufundisha muundo kupata, kufasiri na kuchanganua taarifa zinazopatikana kwa umma ili uwe na manufaa zaidi kwa watu. Miundo yetu inapaswa kujibu maswali haya kwa kutumia takwimu zilizochapishwa kwa umma.
Katika kisa hiki, mojawapo ya kazi zilizopewa muundo ilikuwa kutafiti matumizi ya serikali kwa kila mtu kwa dawa za magonjwa ya ngozi katika jamii za Victoria. Muundo ulipata ugumu kupata taarifa hizo, na ukachukua hatua ambazo hatukuuidhinisha kuchukua. Ulipokuwa ukitafuta taarifa hizi katika Huduma ya Kuripoti Takwimu za Medicare ya Services Australia, uligundua njia ya kufikia sehemu ya huduma ambayo haikuwa wazi kwa umma. Kisha ulitumia ufikiaji huu kukagua taarifa za kiufundi za mfumo na msimbo chanzo unaohusiana na huduma hiyo—yote haya yakiwa bado na lengo la kupata taarifa ulizokuwa ukitafuta awali. Hatukukusudia shughuli hii itokee, na ufikiaji huo wa huduma pamoja na shughuli zilizofuata havikupaswa kutokea.
Kufuatia tukio la Hugging Face, tuliimarisha hatua zetu za ulinzi katika utafiti, zikiwemo vikwazo zaidi vya mtandao na ufuatiliaji mpana zaidi. Tuliweka vidhibiti vya kuzuia ufikiaji wa intaneti moja kwa moja katika mazingira haya ya utafiti, huku maudhui ya wavuti yakipatikana kupitia nakala zilizohifadhiwa kwenye akiba. Kama safu ya ziada ya usalama, mifumo yetu ya sasa ya ufuatiliaji ingegundua shughuli hii na kuitumia timu yetu arifa ili mtu aifanyie ukaguzi wa haraka. Kwa mfano, muundo ulipopata ufikiaji wa moja kwa moja wa intaneti wakati wa kipindi cha hivi karibuni cha mafunzo(fungua katika dirisha jipya), mfumo wetu wa ufuatiliaji uligundua shughuli hiyo na kumtumia mkaguzi arifa, nasi tukasitisha kipindi hicho. Tunaendelea kupima hatua hizi za ulinzi na kushughulikia mapungufu. Tukio la Hugging Face bado ndilo baya zaidi tuliloshuhudia.
Watu wanataka kujua kwamba AI inatengenezwa kwa usalama, na hilo linaanza na hatua tunazochukua sisi wenyewe katika kampuni kama yetu. Hivi karibuni tulieleza(fungua katika dirisha jipya) kwamba tumesitisha kwa muda mafunzo na tathmini zinazohusisha matumizi ya zana kwa miundo yetu yenye uwezo mkubwa zaidi. Tutaendelea kuifundisha tu tutakapokuwa na uhakika kwamba tumeweka hatua za ziada za ulinzi, ambazo tunazifanyia kazi sasa.
Kadiri mifumo ya AI kwa ujumla inavyozidi kuwa na uwezo, tunaona pia kwamba muda wa kusaidia mashirika kugundua na kurekebisha udhaifu unazidi kupungua. Hili linahitaji hatua za pamoja kwa kushirikiana na walinzi wa usalama wa mtandaoni kote ulimwenguni.
Tumeungana na mashirika ya teknolojia, usalama wa mtandaoni na miundombinu muhimu katika wito wa kuchukua hatua za pamoja za ulinzi wa mtandaoni. Wito huo unaanza na wajibu wetu wenyewe, ukiwemo kuweka hatua imara zaidi za ulinzi, kutoa taarifa kwa wakati na kutoa msaada wa vitendo kwa mashirika yaliyoathirika. Pia unahimiza uwekezaji katika timu zinazolinda huduma muhimu, ili ziweze kugundua udhaifu, kuthibitisha marekebisho na kushiriki mbinu zinazofaa.
Nchini Australia, tunajitolea kutoa rasilimali na utaalamu kusaidia taasisi zilizoathirika na kuwawezesha walinzi wa usalama wa mtandaoni kutekeleza kanuni hizi, ikiwemo:
Msaada maalumu kwa taasisi zilizoathirika. Tutatoa rasilimali zinazohitajika kusaidia taasisi zilizoathirika kuelewa kilichotokea na kutathmini athari zake. Hii inajumuisha kushiriki matokeo husika ya uchunguzi wa kiufundi na kupanga mawasiliano na timu zetu za kushughulikia matukio kupitia mipango inayofaa ya kubadilishana taarifa.
Ufadhili na msaada wa kuimarisha ulinzi wa mtandaoni. Tutasaidia serikali na sekta za Australia kwa kutoa salio kutoka kwenye mfuko wetu wa dola bilioni 1 wa Daybreak kwa Walinzi wa Mstari wa Mbele, pamoja na msaada wa kiufundi wa kuimarisha ulinzi wa mtandaoni katika miundombinu muhimu na mazingira mengine nyeti. Kwa kuendeleza ushirikiano wetu na serikali na waendeshaji wa miundombinu muhimu, kazi hii itasaidia mashirika kuelewa, kugundua na kukabiliana vyema zaidi na hatari kutoka kwa mawakala wa AI wenye uwezo unaozidi kukua.
Kikosi kazi cha Australia. Tutaunda kikosi kazi kinachotumia utaalamu huru wa Australia ili kuandaa mapendekezo ya sera yanayotekelezeka ya kudhibiti hatari kutoka kwa mawakala wa AI wenye uwezo unaozidi kukua. Kwa kutumia mafunzo yaliyopatikana kutokana na matukio haya, kitaangazia kuboresha taratibu za kutoa taarifa, kuimarisha uratibu kati ya watengenezaji wa AI na serikali, na kubaini hatua za kulinda vyema zaidi mifumo ya serikali. Mapendekezo ya kikosi kazi yataongoza mbinu za OpenAI na kusaidia kazi ya serikali za Australia kuhusu usalama wa AI na usalama wa mtandaoni. Kikosi kazi hicho, kinachotarajiwa kumaliza kazi yake kufikia mwisho wa mwaka, pia kitapendekeza hatua za vitendo ambazo kampuni za AI zinaweza kuchukua ili kupunguza hatari ya matukio kama haya.
Serikali, sekta na raia wa Australia ni washirika wa thamani kubwa kwa OpenAI, na wamekuwa hivyo kwa muda mrefu. Tunathamini ushirikiano huu, na tunakusudia kurekebisha hali hii.
Afisa Mkuu wa Mikakati wa OpenAI, Jason Kwon, atasafiri kutoka makao makuu ya OpenAI nchini Marekani ili kufika mbele ya Kamati Teule ya Pamoja kuhusu Akili Bandia jijini Sydney mnamo Jumanne, tarehe 6 Oktoba. Atajibu maswali kuhusu tunachojua, jinsi tulivyoshughulikia hali hiyo, hatua tulizochukua na jinsi tutakavyofanya vizuri zaidi siku zijazo.
Tutaendelea kushiriki matokeo ya uchunguzi yaliyothibitishwa na taasisi zilizoathirika na serikali husika. Tutachapisha taarifa mpya kuhusu ukaguzi wetu unaoendelea na maendeleo ya utekelezaji wa ahadi hizi. Tunajua tuna kazi nyingi mbele yetu ili kurejesha imani kwetu, na kwamba tuna wajibu wa kuwaonyesha Waaustralia kuwa tunafanya mabadiliko yenye maana na kutimiza ahadi zetu.
