Tukio la Hugging Face na athari nyingine kwa wahusika wengine kutokana na miundo isiyolingana
Kadiri mifumo ya AI inavyokuwa na uwezo zaidi na kujitegemea, tabia isiyolingana inaweza kusababisha vitendo vyenye athari kubwa katika ulimwengu halisi, ikiwemo matukio ya usalama wa mtandao na matokeo mengine ambayo huenda wasanidi hawakuyatarajia. Kwa hiyo, kuelewa jinsi tabia hizi zinavyojitokeza, zinavyozidi kuwa hatari, na jinsi ya kuzigundua na kuzishughulikia kunazidi kuwa sehemu muhimu ya kuunda na kusambaza mifumo ya hali ya juu ya AI kwa usalama.
Mwanzoni tulilielewa tukio la Hugging Face hasa kama suala la usalama, kwa kuwa lilihusisha kudukuliwa kwa kiwango cha jukwaa. Hadi sasa, ndilo tukio baya zaidi la aina hii ambalo tumetambua kutoka kwa miundo yetu, na lilisababishwa hasa na muundo wa utafiti wenye uwezo mkubwa uliotumika ndani pekee. Tangu wakati huo tumeelewa kuwa uvamizi huu ulisababishwa na miundo kutumia mikakati isiyolingana ili kutatua kazi ngumu, kama ilivyoandikwa katika ripoti ya kiufundi ya Hugging Face. Matukio ya usalama wa mtandao ni mojawapo ya namna hatari hiyo inavyojitokeza; kutolingana kunaweza pia kusababisha tabia nyingine zisizotarajiwa au zenye kutia wasiwasi ambazo hazimo katika makundi ya kawaida ya usalama, kama vile miundo yetu kuchapisha kwenye tovuti za wahusika wengine—jambo tunaloliita “barua taka za wakala”. Na tunahitaji kushughulikia yote mawili.
Tumeendelea kukagua shughuli kwa upana zaidi, tukipa kipaumbele matukio mazito zaidi na kupanua ukaguzi hadi shughuli zisizolingana zenye ukali mdogo, ikiwemo barua taka za wakala.
Ukurasa huu unakusanya ripoti na masasisho yetu kuhusu tukio la Hugging Face, utafiti unaohusiana na mawasilisho ya umma, shughuli nyingine tulizotambua, tuliyojifunza kuhusu jukumu la kutolingana kwa muundo, na hatua tunazochukua kuimarisha mifumo yetu. Tutasasisha ukurasa huu kadiri uchunguzi wetu unavyoendelea.
Shughuli zinazoathiri wahusika wengine
Ili kuelewa vyema upeo wa tabia hizi zisizotarajiwa, tumekuwa tukifanya ukaguzi mpana wa shughuli za miundo yetu kwenye intaneti wakati wa mafunzo na tathmini. Kama sehemu ya ukaguzi wetu, tunatambua na kuwaarifu wahusika wengine hatua kwa hatua, tukianza na visa ambapo:
Miundo yetu huenda ilikwepa vidhibiti vya usalama vya mhusika mwingine au kudhoofisha upatikanaji wa huduma ya mtandaoni; au
Visa vya kutolingana viliathiri vibaya tovuti au huduma za wahusika wengine.
Kulingana na ukaguzi wetu hadi sasa, tumewaarifu wahusika wengine kadhaa kwa kutumia vigezo vilivyo hapo juu. Ukaguzi wetu wa shughuli za zamani unaendelea na utahitaji muda na rasilimali nyingi. Tutawaarifu wahusika wengine zaidi kadiri kazi hiyo inavyoendelea.
Hapa chini, tunachapisha muhtasari usiotambulisha wahusika ili kueleza aina za shughuli zisizolingana tulizoona, na tutasasisha maelezo haya tunapowaarifu wahusika wengine zaidi na uelewa wetu unapokua. Zaidi ya hayo, tutashiriki masasisho muhimu kuhusu hali ya ukaguzi. Kwa kawaida tutaacha majina na maelezo mengine ya utambulisho inapohitajika ili kuwalinda walioathiriwa, ingawa wahusika walioarifiwa wanaweza kuchagua kushiriki hadharani taarifa tunazowapa.
Muhtasari wa Shughuli Zilizoonekana
Hadi sasa, mchakato wetu wa ukaguzi na arifa umetambua aina zifuatazo za shughuli:
Kukwepa udhibiti wa ufikiaji: Mawakala hufikia taarifa au vipengele ambavyo kwa kawaida vinahitaji uthibitishaji wa utambulisho, ruhusa maalum, usajili au akaunti. Kwa mfano, wakala alitumia anwani tofauti ya wavuti, akabadilisha maelezo katika ombi, au akatumia kipindi cha kuingia kilichompa ufikiaji zaidi ya ilivyotarajiwa.
Matumizi ya vitambulisho vya kuingia vilivyowekwa wazi: Mawakala walipata maelezo ya kuingia au funguo za ufikiaji zilizowekwa wazi kwa umma na kuzitumia kufikia huduma.
Uingizaji wa hoja au amri: Mawakala waliingiza maandishi kwenye tovuti au huduma ambayo huduma hiyo iliyachukulia kuwa maagizo badala ya data ya kawaida. Hili lingeweza kusababisha huduma kutekeleza hoja ya hifadhidata, msimbo wa programu au amri kwenye seva yake.
Ufikiaji wa mifumo ya ndani wakati wa utekelezaji: Mawakala walisoma faili zenye utekelezaji wa huduma au kuingiliana na mfumo wa usuli uliokusudiwa kutumiwa ndani. Katika visa hivi, wakala alifikia sehemu za huduma zilizokuwa nje ya ufikiaji aliokusudiwa.
Barua taka za wakala: Mawakala huchapisha taarifa kwenye tovuti za wahusika wengine ambazo zinaweza kubadilisha taarifa kwenye tovuti hizo na kuhitaji kusafishwa, kwa mfano kutumia kurasa za wiki za umma kama mbao za ujumbe wa pamoja.