L-ebda żamma tad-dejta tagħti wegħda ċara lill-klijenti eliġibbli tal-API: OpenAI ma żżommx il-prompts jew it-tweġibiet tal-mudell tagħhom wara li tiġi pproċessata talba. Il-persunal ta’ OpenAI ma jistax jaċċessa l-kontenut tal-klijenti biex jirrieżaminah1, u d-dejta tal-klijenti intrapriża ma tintużax biex jitħarrġu l-mudelli tagħna sakemm il-klijenti ma jagħżlux dan espliċitament.
Hekk kif il-mudelli jibdew iwettqu kompiti itwal u aktar kumplessi, ċerti riskji serji jistgħu jidhru biss tul diversi interazzjonijiet. Is-sistemi tas-sikurezza eżistenti kompatibbli maż-ZDR jevalwaw kull interazzjoni individwalment. Illum qed nippreżentaw l-Ipproċessar Privat tas-Sikurezza, imfassal biex jidentifika xejriet f’interazzjonijiet relatati mingħajr ma jagħti lill-persunal ta’ OpenAI aċċess għall-kontenut sottostanti.
Fl-użi taż-ZDR, il-kontenut tal-klijent jibqa’ fuq infrastruttura kkontrollata mill-klijent. Qed niżviluppaw ukoll għażla li fiha l-kontenut jinħażen fuq l-infrastruttura ta’ OpenAI, kriptat b’ċwievet ikkontrollati mill-klijent. Fiż-żewġ każijiet, sistemi awtomatizzati jistgħu jidentifikaw użu ħażin potenzjali u jibagħtu sinjali limitati tas-sikurezza mingħajr ma jesponu l-prompts jew it-tweġibiet sottostanti lill-persunal ta’ OpenAI.
L-aktar riskji serji għas-sikurezza tal-IA mhux dejjem jidhru f’interazzjoni waħda. Spiss, intenzjonijiet potenzjalment dannużi joħorġu ċari biss meta jitqiesu flimkien diversi interazzjonijiet. Riskji simili jistgħu jinħolqu meta atturi malizzjużi jittestjaw ripetutament is-salvagwardji, jikkoordinaw bejn diversi kontijiet, jew jaħbu theddid bħala riċerka ta’ rutina. Ir-riskji jistgħu jiżviluppaw ukoll matul kompitu aġentiku—pereżempju, jekk sistema ma tibqax allinjata mal-intenzjoni tal-utent għax tkompli taġixxi wara li tkun intalbet tieqaf.
Hekk kif is-sistemi tal-IA jibdew iwettqu kompiti itwal u aktar kumplessi, dan il-kuntest usa’ jsir dejjem aktar importanti biex jiddistingwi attività leġittima minn użu ħażin u jiżgura li l-aġenti tal-IA jibqgħu fil-limiti tal-awtorità maħsuba għalihom.
Xi użi reċenti ta’ mudelli avvanzati kienu jirrikjedu li l-klijenti jippermettu lill-fornitur tal-IA tagħhom iżomm kontenut sensittiv għall-monitoraġġ tas-sikurezza. Għal ħafna organizzazzjonijiet, dawn ir-rekwiżiti jmorru kontra l-obbligi tas-sigurtà tagħhom jew l-impenji tagħhom lejn in-nies li jaqdu.
L-Ipproċessar Privat tas-Sikurezza huwa mfassal biex inkunu nistgħu nkomplu noffru ż-ZDR.
L-Ipproċessar Privat tas-Sikurezza jibni fuq il-protezzjonijiet awtomatizzati li diġà jintużaw fiż-ZDR u f’użi oħra. Is-sistemi tas-sikurezza eżistenti kompatibbli maż-ZDR jevalwaw l-interazzjonijiet individwalment. L-Ipproċessar Privat tas-Sikurezza jestendi dawk il-protezzjonijiet għal interazzjonijiet relatati, biex sistemi awtomatizzati jkunu jistgħu jidentifikaw xejriet mingħajr ma l-persunal ta’ OpenAI jkollu aċċess għall-kontenut miżmum tal-klijenti.
L-Ipproċessar Privat tas-Sikurezza juża l-kontenut tal-klijenti irrispettivament minn fejn jinħażen—kemm f’infrastruttura kkontrollata mill-klijenti (użi taż-ZDR) kif ukoll f’ħażna pprovduta minn OpenAI. Meta tintuża ħażna pprovduta minn OpenAI, il-kontenut tal-klijent jiġi kriptat bi ċwievet ikkontrollati mill-klijent. Il-persunal ta’ OpenAI m’għandux kopja ta’ dawk iċ-ċwievet, għalhekk ma jistax jaċċessa l-kontenut sottostanti.
Meta jiġi identifikat riskju, OpenAI tirċievi sinjal definit b’mod strett li jindika t-tip ta’ attività involuta, bħas-sistemi tas-sikurezza eżistenti tagħna llum. Dak is-sinjal jista’ jintuża biex jiġi ddeterminat jekk hemmx bżonn tittieħed azzjoni ta’ infurzar. Il-persunal ta’ OpenAI ma jingħatax aċċess għall-kontenut tal-klijent anki meta dan jiġi mmarkat.
Il-klijenti jistgħu jinvestigaw twissijiet u deċiżjonijiet ta’ infurzar permezz tal-informazzjoni disponibbli fis-sistemi tagħhom stess. Jekk ikunu jridu jappellaw, jiċċaraw attività leġittima, jew jappoġġaw investigazzjoni dwar abbuż ivverifikat, jistgħu jagħżlu li jaqsmu l-informazzjoni rilevanti ma’ OpenAI.
L-Ipproċessar Privat tas-Sikurezza bħalissa qed jiġi ttestjat ma’ klijenti bikrin. Qed naqsmu din il-preżentazzjoni issa għax il-klijenti tagħna għamluhielna ċara li jeħtieġu prevedibbiltà dwar kif se jiġi protett il-kontenut tagħhom hekk kif is-sistemi tal-IA jsiru aktar kapaċi.
Il-missjoni tagħna hi li niżguraw li l-intelliġenza artifiċjali ġenerali tkun ta’ benefiċċju għall-umanità kollha. Il-kollaborazzjoni mal-klijenti u s-sħab hija essenzjali għall-mod kif nibnu salvagwardji effettivi. Kif jagħmluha ċara l-prinċipji tagħna, l-ebda laboratorju tal-IA ma jista’ jindirizza waħdu r-riskji emerġenti. L-Ipproċessar Privat tas-Sikurezza jirrifletti dan l-approċċ u qed jiġi msawwar minn klijenti f’diversi industriji, reġjuni u kumpaniji ta’ kull daqs.
L-organizzazzjonijiet li naħdmu magħhom jimmaniġġjaw fost l-aktar informazzjoni sensittiva fis-setturi tagħhom, inklużi rekords finanzjarji, dejta dwar is-saħħa, pjanijiet kummerċjali kunfidenzjali u riċerka proprjetarja. Il-protezzjoni ta’ dik l-informazzjoni hija essenzjali biex jiġu ssodisfati l-obbligi regolatorji, tinżamm il-fiduċja tal-klijenti u jiġi ppreservat il-vantaġġ kompetittiv tagħhom.
Ir-rispons tagħhom qed jgħinna nibnu salvagwardji aktar b’saħħithom filwaqt li nżommu l-informazzjoni tagħhom taħt il-kontroll tagħhom.
“L-adozzjoni tal-IA fl-intrapriżi tiddependi għalkollox fuq il-kontroll tal-klijent fuq id-dejta, mingħajr ebda użu dirett jew derivat lil hinn mis-servizz magħżul. L-impenn ta’ OpenAI li ma tħarriġx fuq id-dejta u ż-ZDR jagħtu lil Glean il-fiduċja biex tibni b’OpenAI. Hekk kif il-mudelli jsiru aktar kapaċi, OpenAI turi li s-sikurezza tista’ tavvanza mingħajr ma tikkomprometti l-privatezza u l-kontroll li jsostnu l-fiduċja tal-intrapriżi.”
—Sunil Agrawal, Uffiċjal Kap tas-Sigurtà tal-Informazzjoni, Glean
Se nkomplu naħdmu mal-klijenti fuq id-dettalji tekniċi u operazzjonali tal-approċċ tagħna. F’Settembru qed nippjanaw li nibdew inniedu l-Ipproċessar Privat tas-Sikurezza u nippubblikaw dokument tekniku dettaljat. Se nżommu lill-klijenti infurmati f’kull pass, billi naqsmu l-aġġornamenti minn kmieni, nispjegaw xi jfissru għall-impenji eżistenti, u nipprovdu l-ħin u l-appoġġ li jeħtieġu biex jippjanaw bil-quddiem.
Awtur
- 1
Bħal fornituri oħra ta’ mudelli avvanzati, OpenAI hija obbligata bil-liġi(jinfetaħ f’tieqa ġdida) tirrapporta materjal apparenti ta’ abbuż sesswali tat-tfal (CSAM). Immaġnijiet immarkati bħala CSAM potenzjali se jkomplu jinżammu għal rieżami manwali u rappurtar, anki f’użi tal-ebda żamma tad-dejta, kif isir illum.
