L-inċident ta’ Hugging Face u impatt ieħor fuq partijiet terzi minn mudelli mhux allinjati
Hekk kif is-sistemi tal-IA jsiru aktar kapaċi u awtonomi, imġiba mhux allinjata tista’ twassal għal azzjonijiet serji fid-dinja reali, inklużi inċidenti taċ-ċibersigurtà u eżiti oħra li l-iżviluppaturi jaf ma kinux antiċipaw. Għalhekk, li nifhmu kif tinbet din l-imġiba, kif teskala u kif niskopruha u nirreaġixxu għaliha qed isir parti dejjem aktar importanti mill-bini u l-iskjerament sikur ta’ sistemi avvanzati tal-IA.
Fil-bidu, qiesna l-inċident ta’ Hugging Face primarjament bħala kwistjoni ta’ sigurtà, peress li kien jinvolvi kompromess fil-livell tal-pjattaforma. Sal-lum, din għadha l-aktar attività serja ta’ dan it-tip li identifikajna mill-mudelli tagħna u kienet xprunata primarjament minn mudell ta’ riċerka kapaċi ħafna u għall-użu intern biss. Minn dak iż-żmien fhimna li din l-intrużjoni kienet xprunata minn mudelli li rrikorrew għal strateġiji mhux allinjati biex isolvu kompiti diffiċli, kif dokumentat fir-rapport tekniku ta’ Hugging Face. L-inċidenti taċ-ċibersigurtà huma manifestazzjoni waħda ta’ dak ir-riskju; in-nuqqas ta’ allinjament jista’ jwassal ukoll għal imġiba oħra mhux mistennija jew inkwetanti li ma taqax fil-kategoriji tradizzjonali tas-sigurtà, bħal meta l-mudelli tagħna jippubblikaw fuq siti ta’ partijiet terzi—xi ħaġa li qed insejħulha “spam tal-aġenti”. U rridu nindirizzaw it-tnejn.
Komplejna nirrevedu attività usa’, filwaqt li tajna prijorità lill-inċidenti aktar serji u estendejna r-rieżami għal attività mhux allinjata ta’ severità aktar baxxa, inkluż l-ispam tal-aġenti.
Din il-paġna tiġbor ir-rapporti u l-aġġornamenti tagħna dwar l-inċident ta’ Hugging Face, ir-riċerka u l-preżentazzjonijiet pubbliċi relatati, attività addizzjonali li identifikajna, dak li tgħallimna dwar ir-rwol tan-nuqqas ta’ allinjament tal-mudelli u l-miżuri li qed nieħdu biex insaħħu s-sistemi tagħna. Se naġġornaw din il-paġna hekk kif javvanzaw l-investigazzjonijiet tagħna.
Attività li taffettwa lil partijiet terzi
Biex nifhmu aħjar l-ambitu ta’ din l-imġiba mhux mistennija, qed inwettqu reviżjoni wiesa’ tal-attivitajiet tal-mudelli tagħna fuq l-internet matul it-taħriġ u l-evalwazzjoni. Bħala parti mir-reviżjoni tagħna, qed nidentifikaw u ninnotifikaw lil partijiet terzi fuq bażi kontinwa, billi nibdew b’każijiet fejn:
Il-mudelli tagħna setgħu qabżu l-kontrolli tas-sigurtà ta’ parti terza jew setgħu fixklu d-disponibbiltà ta’ servizz online; jew
Każijiet ta’ nuqqas ta’ allinjament kellhom impatt negattiv fuq siti web jew servizzi ta’ partijiet terzi.
Abbażi tar-reviżjoni tagħna sal-lum, innotifikajna għexieren ta’ partijiet terzi bl-użu tal-kriterji ta’ hawn fuq. Ir-reviżjoni tagħna tal-attività tal-passat għadu għaddej u se jirrikjedi ħafna ħin u riżorsi. Se ninnotifikaw partijiet terzi oħra hekk kif ikompli dan ix-xogħol.
Hawn taħt qed nippubblikaw sommarji anonimizzati biex niddeskrivu t-tipi ta’ attività mhux allinjata li osservajna,u se naġġornaw dawn id-deskrizzjonijiet hekk kif ninnotifikaw partijiet terzi oħra u jiżviluppa l-fehim tagħna. Barra minn hekk, se naqsmu aġġornamenti rilevanti dwar l-istat tar-reviżjoni. Ġeneralment se nħallu barra l-ismijiet u dettalji oħra ta’ identifikazzjoni fejn ikun meħtieġ biex nipproteġu lill-partijiet affettwati, għalkemm il-partijiet infurmati jistgħu jagħżlu li jaqsmu pubblikament l-informazzjoni li nipprovdulhom.
Sommarji tal-Attivitajiet Osservati
Sal-lum, il-proċess tagħna ta’ reviżjoni u notifika identifika l-kategoriji ta’ attività li ġejjin:
Qbiż tal-kontroll tal-aċċess: L-aġenti jilħqu informazzjoni jew karatteristiċi li normalment jirrikjedu verifika tal-identità, permess speċifiku, abbonament jew kont. Pereżempju, uża indirizz tal-web differenti, biddel dettalji f’talba jew ibbaża ruħu fuq sessjoni ta’ login li tatu aktar aċċess milli kien mistenni.
Użu ta’ kredenzjali esposti: L-aġenti sabu dettalji tal-login jew kodiċi tal-aċċess li kienu saru disponibbli pubblikament u użawhom biex jaċċessaw servizz.
Injezzjoni ta’ mistoqsija jew kmand: L-aġenti daħħlu test f’sit web jew servizz li s-servizz ittratta bħala struzzjoni minflok bħala input ordinarju. Dan seta’ jwassal lis-servizz biex iħaddem mistoqsija f’bażi tad-dejta, kodiċi tal-applikazzjoni jew kmand fuq is-server tiegħu.
Aċċess għall-komponenti interni waqt it-tħaddim: L-aġenti qraw fajls li kien fihom l-implimentazzjoni ta’ servizz jew interaġixxew ma’ sistema fl-isfond maħsuba għall-użu intern. F’dawn il-każijiet, l-aġent laħaq partijiet tas-servizz li kienu barra mill-aċċess maħsub għalih.
Spam tal-aġenti: L-aġenti jippubblikaw informazzjoni fuq siti ta’ partijiet terzi li tista’ tibdel l-informazzjoni fuq dawk is-siti u tirrikjedi tindif, pereżempju billi jużaw paġni wiki pubbliċi bħala bordijiet tal-messaġġi kondiviżi.