Control Room

Hekk kif il-mudelli tagħna jsiru aktar b’saħħithom u jiżdiedu r-riskji marbuta magħhom għas-sikurezza u s-sigurtà, isir dejjem aktar kruċjali li nkunu nistgħu nindunaw bi problemi potenzjali u nwaqqfu l-mudelli malajr meta jkun hemm bżonn. Biex insolvu dan, bnejna Control Room.

Control Room huwa sistema ċentrali biex insegwu t-tagħbijiet tax-xogħol tal-mudelli fl-infrastruttura kollha tar-riċerka tagħna u nwaqqfuhom malajr meta jqum tħassib dwar is-sikurezza jew is-sigurtà. Jgħaqqad kull tagħbija tax-xogħol tal-inferenza fir-riċerka, inkluż il-kampjunar permezz ta’ aġenti għat-taħriġ u l-evalwazzjoni tal-mudelli, l-ipproċessar tad-data, u aktar. Dan jaħdem flimkien mas-sistemi tagħna għall-monitoraġġ tan-nuqqas ta’ allinjament, u jwaqqaf l-output tal-mudell fi żmien 35 sekonda minn deċiżjoni li nintervjenu biex inwaqqfu jew nissospendu kompitu. Inbena biex jibqa’ jaħdem anki meta sistemi oħra jfallu, u biex iwaqqaf l-output tal-mudell jekk Control Room innifsu jieqaf jaħdem.

Control Room diġà qed jintuża fl-infrastruttura kollha tar-riċerka tagħna, fejn hemm l-akbar ħtieġa għalih. L-infrastruttura li biha nipprovdu l-mudelli lill-utenti esterni diġà hija ferm aktar ċentralizzata min-natura tagħha, b’kapaċità operattiva żviluppata sew biex il-mudelli jitneħħew mis-servizz malajr jekk ikun hemm bżonn.

Control Room jaħdem billi jintegra ftit sistemi: it-tagħbija tax-xogħol, il-magna tal-inferenza, u s-servizz Control Room ċentralizzat.

• It-tagħbija tax-xogħol hija l-kompitu li jkun qed jitħaddem, bħal esperiment ta’ apprendiment ta' tisħiħ, evalwazzjoni, jew kompitu ta’ kampjunar jew ipproċessar tad-data b’volum għoli. Neħtieġu li kull tagħbija tax-xogħol tar-riċerka li twettaq inferenza permezz ta’ aġenti tkun assoċjata ma’ każ ta’ sikurezza approvat.

• Il-magna tal-inferenza, jew sempliċement il-magna, hija l-mudell innifsu. Tista’ taħseb fil-magna bħala l-moħħ tal-mudell, li jaħdem direttament fuq GPUs. Tagħbija tax-xogħol normalment tuża mudell wieħed jew aktar, li jistgħu jkunu qed jaħdmu fuq magna tal-inferenza waħda jew fuq diversi magni differenti. L-istess magna tal-inferenza tista’ tintuża minn aktar minn tagħbija tax-xogħol waħda.

• Is-servizz Control Room isegwi l-kompiti u jikkontrolla jekk jitħallewx ikomplu jiġġeneraw output tal-mudell. Il-magni jiċċekkjaw mas-servizz Control Room qabel ma jwettqu talba. Jekk kompitu jkun twaqqaf, is-servizz jiċħad it-talba u b’hekk jipprevjeni aktar output.

Control Room huwa integrat bil-mod li ġej:

• Meta jibda kompitu ġdid, il-kodiċi tat-tagħbija tax-xogħol jitlob job_id ġdid mingħand Control Room.

• Kull meta t-tagħbija tax-xogħol ikollha bżonn tiġġenera tokens minn mudell permezz tal-kampjunar, tibgħat talba lil magna tal-inferenza li tħaddem dak il-mudell, flimkien mal-job_id. Il-magna titlob permess mingħand Control Room biex twettaq dik it-talba, u tibgħat il-job_id lil Control Room.

• Control Room jiċċekkja jekk dak il-kompitu jkunx ġie tterminat u, jekk iva, jiċħad it-talba għal inferenza. Il-magna twieġeb it-talba għal inferenza tat-tagħbija tax-xogħol b’rifjut, u b’hekk twaqqaf il-produzzjoni ta’ aktar output tal-mudell għal dak il-kompitu.

Il-kompiti kollha tagħna ta’ apprendiment ta' tisħiħ għall-aktar mudelli avvanzati jitħaddmu b’mudell ta’ monitoraġġ. Mudell ta’ monitoraġġ huwa mudell ieħor li jispezzjona kulma jkun qed jagħmel il-mudell li qed jitħarreġ, u joħroġ twissija jekk jinduna bi problema. Pereżempju, l-inċident reċenti tagħna marbut mad-DNS⁠(jinfetaħ f’tieqa ġdida) ġie identifikat minn mudell ta’ monitoraġġ.

Control Room u s-sistema ta’ monitoraġġ tagħna huma integrati bil-mod li ġej:

• Jekk is-sistema ta’ monitoraġġ tinduna bi problema potenzjali, tista’ tiddeċiedi li twaqqaf il-kompitu, skont id-dettalji u l-gravità tal-problema.

• F’dan il-każ, is-sistema ta’ monitoraġġ tibgħat messaġġ lil Control Room biex iwaqqaf il-kompitu, flimkien mal-job_id. Control Room jirreġistra li l-kompitu ġie tterminat.

• Id-darba li jmiss li l-kompitu b’dak il-job_id jagħmel talba għal inferenza biex jiġġenera aktar tokens permezz tal-kampjunar minn kwalunkwe mudell li jaħdem fuq kwalunkwe magna, it-talba tiġi miċħuda, u b’hekk jitwaqqaf aktar output tal-mudell.

Iż-żmien massimu minn meta Control Room jirċievi struzzjoni biex iwaqqaf kompitu sa meta ma jkun jista’ jsir ebda progress ieħor huwa ta’ 35 sekonda. Dan id-dewmien ta’ 35 sekonda ġej minn saff ta’ cache għall-awtorizzazzjoni tal-inferenza, li jappoġġja l-volum meħtieġ ta’ traffiku. Qed naħdmu biex innaqqsu dan iż-żmien għal żero ħalli nkunu nistgħu ntemmu l-kompiti minnufih.

It-tagħbijiet tax-xogħol, inklużi esperimenti, kompiti ta’ evalwazzjoni u oħrajn, normalment ikunu taħt ir-responsabbiltà ta’ riċerkaturi jew timijiet ta’ riċerkaturi li jmexxuhom. Għalhekk, il-kodiċi tat-tagħbijiet tax-xogħol jinbidel ta’ spiss u mhuwiex il-post ideali fejn jiġu implimentati protezzjonijiet kruċjali li fuqhom tiddependi s-sikurezza. Għaldaqstant, l-implimentazzjoni tagħna hija mfassla biex tibqa’ taħdem anki meta l-kodiċi tat-tagħbija tax-xogħol ikollu żbalji jew ma jaħdimx.

Dan niksbuh billi nimplimentaw il-mekkaniżmu ta’ terminazzjoni fis-saff tal-inferenza. Il-kodiċi tat-tagħbijiet tax-xogħol huwa varjat ħafna u deċentralizzat. Min-naħa l-oħra, fir-riċerka kollha ta’ OpenAI jintuża biss għadd żgħir ħafna ta’ mogħdijiet fil-kodiċi tal-inferenza, u l-istanzi tagħhom fl-użu huma ferm aktar ċentralizzati u uniformi. Dan ifisser li s-saff tal-inferenza jista’ jservi bħala punt ta’ kontroll obbligatorju, fejn nistgħu niksbu garanziji sodi li kull inferenza tal-mudelli fir-riċerka tkun soġġetta għall-verifiki tal-awtorizzazzjoni ta’ Control Room ma’ kull talba għal inferenza. Barra minn hekk, kontinwament nagħmlu spezzjonijiet permezz ta’ aġenti u programmi biex nivverifikaw li l-utenti ma jkunux qed iniedu, bi żball jew b’intenzjoni ħażina, implimentazzjonijiet mhux awtorizzati tal-magni fejn Control Room ma jkunx implimentat jew ikun diżattivat.

Fl-aħħar nett, is-sistema tagħna “timblokka kollox f’każ ta’ ħsara”. Jiġifieri, l-integrazzjoni ta’ Control Room fil-magni hija kkonfigurata b’tali mod li, jekk is-servizz Control Room jieqaf jaħdem, kemm jekk minħabba żball fis-sistema kif ukoll jekk jiġi diżattivat għal xi raġuni oħra, inkluż tbagħbis minn xi ħadd b’intenzjoni ħażina, it-talbiet kollha għal inferenza jiġu miċħuda sakemm Control Room jerġa’ jibda jaħdem b’mod normali. Dan l-imblukkar f’każ ta’ ħsara issa huwa attiv fit-tagħbijiet tax-xogħol kollha tar-riċerka fuq l-aktar mudelli avvanzati, u fil-jiem li ġejjin se jitlesta t-tixrid tiegħu għat-tagħbijiet tax-xogħol l-oħra kollha tar-riċerka.

Control Room huwa biss parti waħda mill-approċċ olistiku tagħna għat-taħriġ u t-tħaddim sikur tal-aktar mudelli avvanzati. Fix-xhur li ġejjin se nkomplu nsaħħu u nwessgħu s-sistema, flimkien mal-investimenti tagħna fil-monitoraġġ għal imġiba mhux allinjata u ksur tas-sigurtà. Jekk trid tgħin tibni sistemi għall-iżvilupp u t-tħaddim tal-AGI b’mod sikur u sigur, qed⁠ nirreklutaw⁠!