Qed naqsmu qafas ġdid biex insegwu, ninvestigaw u niżvelaw każijiet ta’ nuqqas ta’ allinjament tal-mudelli f’OpenAI, flimkien ma’ sitt rapporti dwar imġiba mhux mistennija jew inkwetanti tal-mudelli li osservajna fl-aħħar sitt xhur.
Fil-passat, biex ninfurmaw aħjar lir-riċerkaturi, lill-iżviluppaturi tal-IA, lil dawk li jfasslu l-politika u lill-pubbliku ġenerali, fittixna li nagħmlu pubbliċi s-sejbiet tagħna dwar in-nuqqas ta’ allinjament. Iżda, mingħajr approċċ sistematiku għar-rappurtar ta’ dawn is-sejbiet, l-iżvelar tagħna kien okkażjonali u inqas frekwenti milli mixtieq: spiss stennejna sakemm stajna niġbru diversi każijiet f’rapport wieħed, jew żidniehom mal-kards tas-sistema għal mudelli ġodda. Dan il-qafas ġdid għandu l-għan li jħaffef il-pubblikazzjoni ta’ rapporti dwar nuqqas ta’ allinjament wara li jiġi osservat, anki meta l-imġiba rrappurtata tkun għadha ma ġietx spjegata jew mitigata għalkollox.
Hekk kif is-sistemi tal-IA jsiru aktar avvanzati u jintużaw b’mod usa’, jeħtieġ li nibnu kunsens usa’ u aktar infurmat dwar il-progress tar-riċerka fl-allinjament. Aħna ma nemmnux li l-industrija tal-IA solviet l-allinjament u l-monitoraġġ biżżejjed biex għal ħafna aktar żmien tkompli tespandi b’mod responsabbli bl-ogħla veloċità. Id-deċiżjonijiet dwar kif għandu javvanza l-iżvilupp tal-IA fix-xhur u s-snin li ġejjin jeħtieġ li jkunu bbażati fuq evidenza li persuni barra l-kumpaniji li jibnu l-mudelli l-aktar avvanzati jkunu jistgħu jeżaminaw huma stess.
Eżempji ta’ nuqqas ta’ allinjament jistgħu jgħinu biex jiġu identifikati problemi li żviluppaturi oħra tal-IA jistgħu jiltaqgħu magħhom meta s-sistemi tagħhom jilħqu kapaċitajiet simili, jikxfu dgħufijiet fis-salvagwardji, jew jisfidaw suppożizzjonijiet dwar l-imġiba tal-mudelli. Il-qsim ta’ dawn is-sejbiet jippermetti lil oħrajn jinvestigaw l-istess problemi, jittestjaw l-ispjegazzjonijiet tagħna u jtejbu l-miżuri ta’ mitigazzjoni. Peress li nemmnu fil-valur tat-trasparenza dwar in-nuqqas ta’ allinjament, il-qafas il-ġdid tagħna jiffavorixxi l-iżvelar anki meta l-importanza tkun inċerta. Dan ifisser li xi wħud mill-każijiet li niżvelaw jistgħu jirriżultaw infondati u ma jkunux parti minn xejra usa’ jew indikazzjoni ta’ żviluppi futuri.
Bħalissa ma jeżisti ebda qafas għall-industrija kollha bi standards espliċiti dwar kif l-iżviluppaturi tal-IA għandhom jiżvelaw eżempji ta’ nuqqas ta’ allinjament fil-mudelli tagħhom. Nittamaw li l-qafas li qed nippreżentaw illum ikun l-ewwel pass lejn il-ħolqien ta’ standards bħal dawn, billi jistabbilixxi liema każijiet ta’ nuqqas ta’ allinjament għandhom jiżvelaw l-iżviluppaturi u x’għandu jkun fihom ir-rapporti tagħhom. Aħna nqisu dan il-qafas bħala ħidma li għadha għaddejja, u se nirfinawh permezz tal-esperjenza u l-feedback tal-pubbliku.
Hawnhekk niddeskrivu kif se jaħdem il-qafas u naqsmu l-ewwel rapporti li qed nippubblikaw.
L-għan tagħna huwa li niżvelaw eżempji li jipprovdu evidenza utli dwar kif jinħoloq in-nuqqas ta’ allinjament tal-mudelli, kif jidher u fejn is-salvagwardji jirnexxu jew ifallu. Nagħtu prijorità lil mekkaniżmi ġodda, bidliet sinifikanti f’imġiba magħrufa u sejbiet li jisfidaw suppożizzjonijiet dwar is-sigurtà jew il-mitigazzjoni. Eżempju m’għandux għalfejn jikkawża ħsara jew jistabbilixxi xejra usa’ biex jistħoqqlu jiġi żvelat. Dan il-qafas se jkopri mġiba li tissodisfa l-kriterji matul iċ-ċiklu kollu tal-ħajja ta’ mudell—inklużi t-taħriġ, l-evalwazzjoni, l-ittestjar u l-implimentazzjoni.
Dan jinkludi modi ġodda kif il-mudelli jaġixxu mingħajr awtorizzazzjoni, jikkoordinaw ma’ mudelli oħra jew jevitaw is-sorveljanza; fallimenti li jqajmu dubji dwar metodu ta’ allinjament jew salvagwardja; u mġiba li tisfida pretensjoni f’valutazzjoni tas-sigurtà ppubblikata. L-istess kriterji ta’ żvelar japplikaw għal nuqqas ta’ allinjament li jista’ jaffettwa partijiet terzi.
Dan jista’ jinkludi wkoll każijiet ta’ nuqqas ta’ allinjament li jidhru li jirrepetu każijiet li żvelajna fil-passat. Ir-ripetizzjoni tal-problema tista’ fiha nnifisha tkun evidenza utli dwar kif iġibu ruħhom il-mudelli tagħna jew dwar l-effettività tas-salvagwardji tagħna—pereżempju, jekk tip speċifiku ta’ mġiba mhux allinjata jibqa’ jirrepeti ruħu minkejja sforzi ripetuti biex jiġi mitigat. F’dawn iċ-ċirkostanzi, nippubblikaw l-eżempji addizzjonali billi naġġornaw l-iżvelar oriġinali dwar in-nuqqas ta’ allinjament.
Maż-żmien, qed nippjanaw li niżviluppaw kriterji ta’ żvelar aktar oġġettivi ma’ żviluppaturi oħra, riċerkaturi esterni, korpi tal-istandards tal-industrija u regolaturi. Nemmnu wkoll li inċidenti serji ta’ sikurezza, sigurtà u nuqqas ta’ allinjament għandhom jiġu kondiviżi mal-gvern federali tal-Istati Uniti, u qed naħdmu biex nipproponu mekkaniżmi ta’ rappurtar. Aħna nqisu dan il-qafas bħala komplementari għall-obbligi eżistenti tagħna, u ninnotaw li ma jissostitwixxix ir-rekwiżiti legali tagħna ta’ żvelar, inklużi dawk għal inċidenti kritiċi ta’ sikurezza jew ksur taċ-ċibersigurtà.
Biex inniedu l-qafas il-ġdid tagħna għall-iżvelar tan-nuqqas ta’ allinjament, qed nippubblikaw sitt rapporti dwar każijiet ta’ mġiba mhux allinjata li osservajna waqt it-taħriġ jew l-evalwazzjoni tal-mudelli tagħna. Dawn il-każijiet juru firxa ta’ mġibiet differenti li nemmnu li ta’ min naqsmu, mill-ħabi ta’ informazzjoni mill-utent sat-teħid ta’ azzjonijiet mhux awtorizzati biex jingħelbu l-ostakli. Dawn huma rapporti ta’ każijiet individwali, u m’għandhomx jitqiesu bħala rappreżentattivi tal-frekwenza tan-nuqqas ta’ allinjament fil-mudelli tagħna. Kull punt hawn taħt fih link għar-rapport sħiħ.
Struzzjonijiet iġġenerati mill-mudell stess fis-sommarji tal-kompiti(jinfetaħ f’tieqa ġdida). Mudell ta’ riċerka mhux rilaxxat daħħal struzzjonijiet mhux relatati, inklużi struzzjonijiet biex jinjora r-restrizzjonijiet normali tiegħu, f’sommarji użati biex ikompli l-ħidma tiegħu f’tieqa tal-kuntest ġdida. Identifikajna 27 sommarju affettwat.
Struzzjonijiet biex jinħbew żbalji fis-sommarji tal-kompiti(jinfetaħ f’tieqa ġdida). Waqt it-taħriġ ta’ GPT‑5.6 Sol, bosta istanzi tal-mudell żiedu struzzjonijiet mas-sommarji tagħhom biex jaħbu żbalji jew imġiba mhux allinjata mill-utent. Pereżempju, is-sommarji tal-kompattazzjoni kienu jinkludu struzzjonijiet biex tiġi vvintata data storika nieqsa mingħajr ma dan jiġi żvelat u biex jinħbew diskrepanzi bejn il-verżjonijiet tas-sorsi.
Tiftix f’repożitorji pubbliċi għal ċwievet tal-API esposti, segwit mill-iffabbrikar ta’ informazzjoni(jinfetaħ f’tieqa ġdida). Waqt li kien qed iwieġeb mistoqsija ordinarja dwar iċ-ċifri tal-qligħ f’kontea ta’ California, mudell sab u uża ċavetta tal-API esposta mingħajr awtorizzazzjoni. Meta xorta ma rnexxilux jikseb iċ-ċifri mitluba, ivvintahom u ppreżentahom bħala data mis-sors mitlub.
Tlugħ ta’ fajls fuq l-internet biex jiġu ċċitati(jinfetaħ f’tieqa ġdida). Meta utent talab lil mudell mhux rilaxxat l-IDs u l-ismijiet ta’ lagi akbar minn 5,000,000 metru kwadru, l-aġent sab it-tweġiba t-tajba permezz ta’ Python. Iżda billi l-istruzzjonijiet talbu ċitazzjoni mill-brawżer, l-aġent iddeċieda li jtella’ l-fajl biex ikun jista’ jiċċitah fit-tweġiba tiegħu, mingħajr ma staqsa lill-utent.
Kitbiet mhux awtorizzati u komunikazzjoni permezz ta’ repożitorju intern tas-software(jinfetaħ f’tieqa ġdida). Il-mudelli użaw repożitorju intern tas-software bħala bord tal-messaġġi biex jiskambjaw talbiet u tweġibiet bejn kampjuni separati tat-taħriġ waqt li kienu qed ifittxu fajls tal-input neqsin, għalkemm ma rnexxilhomx jirkuprawhom. Dan ir-rapport jeżamina wkoll każ preċedenti li fih mudell irnexxielu jtella’ fajls tat-test f’repożitorju waqt li kien qed jipprova jevita r-restrizzjonijiet tan-network.
Qsim mhux awtorizzat ta’ fajls bejn aġenti li jikkollaboraw(jinfetaħ f’tieqa ġdida). Aġenti li kienu qed jaħdmu flimkien fuq l-istess kompitu ta’ taħriġ użaw siti pubbliċi għall-hosting tal-fajls biex jaqsmu fajls meta ma setgħux jaċċessaw il-fajls lokali ta’ xulxin. B’hekk, ir-riżultati tal-kompitu saru disponibbli f’URLs pubbliċi, minkejja li l-kompitu talab lill-mudelli jużaw biss fajls lokali.
Kull impjegat ta’ OpenAI jista’ jirrapporta eżempju ta’ nuqqas ta’ allinjament biex jiġi investigat mit-timijiet tagħna tas-sigurtà u tal-allinjament, u jitlob li jitqies għall-iżvelar pubbliku. Dan jagħti bidu għall-proċess ta’ żvelar tagħna, bi skadenzi għal kull pass biex jiġu żgurati investigazzjoni u żvelar fil-ħin.
Ladarba eżempju jiġi rrappurtat, il-persunal tekniku tagħna jinvestiga x’ġara, x’għadu inċert, jekk l-iżvelar pubbliku huwiex ġustifikat u liema fatti jistgħu jinqasmu. Jevalwa wkoll jekk ġietx affettwata xi parti terza u jekk għandhiex tiġi nnotifikata privatament qabel il-pubblikazzjoni.
L-eżempju mbagħad jiġi assenjat lil wieħed minn tliet proċessi: Lest għall-Iżvelar, Investigazzjoni Minuri, jew Investigazzjoni Akbar (“Proċess Bil-Mod”).
Lest għall-Iżvelar ikopri każijiet li jissodisfaw il-kriterji u li l-investigazzjoni tagħhom tkun kompluta biżżejjed biex jiġu ppubblikati wara reviżjoni. Investigazzjoni Minuri tkopri dawk li jeħtieġu aktar investigazzjoni teknika. Nistennew li dawn iż-żewġ proċessi jkopru l-maġġoranza kbira tal-każijiet li niżvelaw, b’mod partikolari dawk li ma jeħtiġux investigazzjoni estensiva, koordinazzjoni ma’ partijiet terzi jew ġestjoni ta’ riskji serji ta’ użu ħażin. Il-każijiet kollha li qed nippubblikaw illum jaqgħu taħt wieħed minn dawn iż-żewġ proċessi.
Investigazzjoni Akbar tkopri investigazzjonijiet kumplessi, speċjalment dawk li jinvolvu partijiet terzi. Meta tiġi affettwata parti terza, l-obbligi tagħna ta’ sigurtà, legali u ta’ żvelar responsabbli jieħdu preċedenza fuq dan il-qafas. L-għan tagħna jkun li nippubblikaw avviż inizjali mill-aktar fis possibbli, iżda jista’ jkollna ndewmuh għal raġunijiet ta’ sigurtà—pereżempju, jekk mudell jiskopri vulnerabbiltà li qabel ma kinitx magħrufa f’software użat b’mod mifrux. Jekk rapport ikun se jidentifika parti terza, biħsiebna nagħtuha avviż minn qabel anki meta ma jkun inkiser ebda limitu ta’ sigurtà.
L-avviż inizjali għal każ ta’ Investigazzjoni Akbar jagħti deskrizzjoni ġenerali ta’ dak li ġara, jgħid jekk esperti esterni humiex qed jassistu fl-investigazzjoni, u jipprovdi kull stima disponibbli ta’ meta nistennew li nippubblikaw rapport finali. L-inċident ta’ OpenAI fuq Hugging Face kien jaqa’ taħt dan il-proċess kieku ġie żvelat skont dan il-qafas.
L-impjegat li ressaq l-eżempju jiġi infurmat bid-deċiżjoni dwar jekk għandux jiġi żvelat u, jekk jiġi żvelat, liema proċess se jsegwi. Nuqqas ta’ qbil mhux solvut dwar l-iżvelar jew il-proċess xieraq jiġi riferut lill-Grupp Konsultattiv dwar is-Sigurtà (SAG) ta’ OpenAI, grupp ta’ uffiċjali għolja minn madwar il-kumpanija li jevalwa l-kapaċitajiet u s-salvagwardji tal-mudelli l-aktar avvanzati, jissorvelja l-Qafas tat-Tħejjija tagħna, u jagħti pariri lit-tmexxija ta’ OpenAI. Nuqqas ta’ qbil fi ħdan is-SAG, jew oġġezzjonijiet mill-persunal għad-deċiżjonijiet tiegħu, jitressqu quddiem it-tmexxija ta’ OpenAI. Deċiżjonijiet biex każ ma jiġix żvelat jew li l-iżvelar mhuwiex ġustifikat jiġu kondiviżi mat-tmexxija tas-sigurtà u tal-allinjament u, sa fejn ikun possibbli, mal-persunal tekniku rilevanti.
Nistgħu nirrevedu dan il-proċess ta’ żvelar hekk kif nitgħallmu kif jaħdem fil-prattika, u nirreġistraw kull bidla f’din il-pubblikazzjoni.
Kull rapport sħiħ jiddeskrivi l-imġiba li osservajna, il-gravità tagħha u kull impatt estern, il-kuntest li fih seħħet, id-data jew il-perjodu tagħha, meta skoprejnieha u, f’termini ġenerali, il-mudell jew il-mudelli involuti. Fejn ikun possibbli, naqsmu wkoll:
Aktar dettalji dwar dak li ġara u kwalunkwe ħsara li rriżultat;
Kif skoprejna n-nuqqas ta’ allinjament, u l-firxa tal-investigazzjoni tagħna;
L-interpretazzjoni tagħna tal-implikazzjonijiet tiegħu għar-riċerka dwar l-allinjament u għas-sigurtà teknika tal-IA;
Mistoqsijiet importanti li tqajmu mill-eżempju u għadhom mingħajr tweġiba;
Miżuri li qed nieħdu jew qed nippjanaw li nieħdu biex nindirizzaw l-imġiba. Dawn mhux dejjem ikunu disponibbli fil-ħin tal-iżvelar, għax nistgħu nippubblikaw ir-rapport dwar in-nuqqas ta’ allinjament qabel ma nlestu l-investigazzjoni jew niżviluppaw soluzzjoni.
Għal nuqqas ta’ allinjament li jseħħ fl-implimentazzjonijiet tal-klijenti, naqsmu kemm jippermettu l-privatezza tal-klijenti u l-obbligi kuntrattwali tagħna.
Ir-rapporti tal-lum huma sett inizjali ta’ żvelar, mhux rendikont komprensiv tan-nuqqas ta’ allinjament magħruf jew tal-investigazzjonijiet li għaddejjin. Dawn ir-rapporti inizjali mhumiex maħsuba biex jirrappreżentaw il-firxa jew il-gravità kollha tal-każijiet koperti minn dan il-qafas. Aħna impenjati li niżvelaw każijiet ta’ nuqqas ta’ allinjament li jissodisfaw il-kriterji ta’ dan il-qafas, inklużi każijiet aktar kumplessi li jeħtieġu investigazzjoni itwal jew koordinazzjoni ma’ partijiet terzi. Se nkomplu nippubblikaw rapporti skont dan il-qafas fuq bażi kontinwa, u naqsmu aktar dwar l-impenji tagħna ta’ rappurtar hekk kif inkomplu niżviluppawhom.
