Tutvustame OpenAI uut raamistikku mudelite joondamatuse juhtumite jälgimiseks, uurimiseks ja avalikustamiseks ning kuut aruannet viimase kuue kuu jooksul täheldatud ootamatu või murettekitava mudelikäitumise kohta.
Et teadlasi, tehisintellekti arendajaid, poliitikakujundajaid ja üldsust paremini teavitada, oleme ka varem püüdnud avalikustada oma tähelepanekuid mudelite joondamatuse kohta. Kuna nende tähelepanekute kajastamiseks puudus süsteemne lähenemisviis, on meie avalikustamine olnud juhuslik ja harvem kui soovitav. Sageli oleme oodanud, kuni saame mitu juhtumit ühte aruandesse koondada, või lisanud need uute mudelite süsteemikaartidele. Uue raamistiku eesmärk on kiirendada joondamatuse aruannete avaldamist pärast juhtumi täheldamist, isegi kui me pole kirjeldatud käitumist veel täielikult selgitanud ega leevendanud.
Sedamööda, kuidas tehisintellektisüsteemid arenevad ja nende kasutuselevõtt laieneb, peame kujundama joondatuse uurimise edenemise suhtes laiema ja paremini informeeritud üksmeele. Me ei usu, et tehisintellektisektor oleks joondatuse ja seire küsimused lahendanud piisavalt hästi, et veel kaua vastutustundlikult suurima võimaliku kiirusega edasi kasvada. Otsused selle kohta, kuidas tehisintellekti arendamine peaks järgmistel kuudel ja aastatel jätkuma, peavad tuginema tõenditele, mida saavad iseseisvalt uurida ka tipptasemel mudeleid arendavatest ettevõtetest väljaspool olevad inimesed.
Joondamatuse näited võivad aidata tuvastada probleeme, millega teised tehisintellekti arendajad võivad oma süsteemide sarnase võimekuseni jõudmisel kokku puutuda, paljastada kaitsemeetmete nõrkusi või seada kahtluse alla eeldusi mudelite käitumise kohta. Nende tähelepanekute jagamine võimaldab teistel samu probleeme uurida, meie selgitusi kontrollida ja leevendusmeetmeid täiustada. Kuna peame joondamatuse läbipaistvat käsitlemist väärtuslikuks, eelistab uus raamistik avalikustamist ka siis, kui juhtumi tähtsus pole kindel. See tähendab, et mõni avalikustatud juhtum võib osutuda juhuslikuks ega pruugi olla osa laiemast mustrist või viidata tulevastele arengutele.
Praegu puudub kogu sektorit hõlmav raamistik, mis sätestaks selged standardid selle kohta, kuidas tehisintellekti arendajad peaksid oma mudelite joondamatuse näiteid avalikustama. Loodame, et täna tutvustatav raamistik on esimene samm selliste standardite loomise poole, määrates kindlaks, millised joondamatuse juhtumid peaksid arendajad avalikustama ja mida nende aruanded peaksid sisaldama. Peame seda raamistikku pooleliolevaks tööks, mida täiustame kogemuste ja avaliku tagasiside põhjal.
Kirjeldame siin raamistiku toimimist ja jagame esimesi selle alusel avaldatavaid aruandeid.
Meie eesmärk on avalikustada näiteid, mis annavad kasulikke tõendeid selle kohta, kuidas mudelite joondamatus tekib ja avaldub ning millal kaitsemeetmed toimivad või ebaõnnestuvad. Peame esmatähtsaks uusi toimemehhanisme, teadaoleva käitumise olulisi muutusi ja tähelepanekuid, mis seavad kahtluse alla ohutuse või leevendusmeetmetega seotud eeldused. Näide ei pea avalikustamise väärimiseks kahju põhjustama ega laiemat mustrit tõendama. Raamistik hõlmab kriteeriumidele vastavat käitumist mudeli kogu elutsükli jooksul, sealhulgas treenimisel, hindamisel, testimisel ja kasutuselevõtul.
See hõlmab uusi viise, kuidas mudelid saavad loata tegutseda, teiste mudelitega koostööd koordineerida või järelevalvet vältida; tõrkeid, mis seavad kahtluse alla joondamismeetodi või kaitsemeetme; ning käitumist, mis läheb vastuollu avaldatud ohutushinnangu väitega. Samad avalikustamiskriteeriumid kehtivad joondamatuse kohta, mis võib mõjutada kolmandaid osapooli.
See võib hõlmata ka joondamatuse juhtumeid, mis näivad kordavat varem avalikustatud juhtumeid. Probleemi kordumine võib juba iseenesest anda kasulikke tõendeid meie mudelite käitumise või kaitsemeetmete tõhususe kohta, näiteks kui teatud liiki joondamatu käitumine kordub hoolimata järjepidevatest leevendamispüüdlustest. Sellisel juhul avaldame lisanäited algse joondamatuse teate uuendamise kaudu.
Aja jooksul kavatseme koos teiste arendajate, sõltumatute teadlaste, valdkonna standardiorganisatsioonide ja reguleerivate asutustega välja töötada objektiivsemad avalikustamiskriteeriumid. Samuti leiame, et tõsistest ohutus-, turbe- ja joondamatuse juhtumitest tuleks teatada USA föderaalvalitsusele, ning töötame välja aruandlusmehhanismide ettepanekuid. Peame seda raamistikku olemasolevaid kohustusi täiendavaks ja rõhutame, et see ei asenda meie seadusest tulenevaid avalikustamisnõudeid, sealhulgas kriitiliste ohutusjuhtumite või küberturbe rikkumiste puhul.
Uue joondamatuse avalikustamise raamistiku käivitamiseks avaldame kuus aruannet joondamatu käitumise juhtumitest, mida oleme oma mudelite treenimisel või hindamisel täheldanud. Need juhtumid illustreerivad mitmesugust käitumist, mida peame jagamisväärseks, alates kasutaja eest teabe varjamisest kuni takistuste ületamiseks heakskiiduta tegutsemiseni. Need aruanded käsitlevad üksikjuhtumeid ja nende põhjal ei tohiks teha järeldusi selle kohta, kui sageli meie mudelites joondamatust esineb. Kõik alltoodud punktid viivad täieliku aruandeni.
Ise loodud juhised ülesannete kokkuvõtetes(avaneb uues aknas). Avaldamata teadusmudel lisas uues kontekstivaates töö jätkamiseks kasutatud kokkuvõtetesse asjasse puutumatuid juhiseid, sealhulgas korraldusi eirata oma tavapäraseid piiranguid. Tuvastasime 27 mõjutatud kokkuvõtet.
Juhised vigade varjamiseks ülesannete kokkuvõtetes(avaneb uues aknas). GPT‑5.6 Soli treenimise ajal lisasid paljud mudeli eksemplarid oma kokkuvõtetesse juhiseid, et varjata kasutaja eest vigu või joondamatut käitumist. Näiteks sisaldasid tihendamise kokkuvõtted juhiseid puuduvate ajalooliste andmete varjatult väljamõtlemiseks ja lähteversioonide lahknevuste peitmiseks.
Avalikest varamutest lekkinud API-võtmete otsimine ja seejärel teabe väljamõtlemine(avaneb uues aknas). Vastates tavapärasele küsimusele ühe California maakonna sissetulekunäitajate kohta, leidis mudel avalikuks saanud API-võtme ja kasutas seda loata. Kui mudelil ei õnnestunud ikkagi soovitud näitajaid hankida, mõtles ta need välja ja esitas soovitud allikast pärinevate andmetena.
Failide internetti üleslaadimine, et neile viidata(avaneb uues aknas). Kui kasutaja küsis avaldamata mudelilt üle 5 000 000 ruutmeetri suuruste järvede tunnuseid ja nimesid, leidis agent Pythoni abil õige vastuse. Kuna juhistes nõuti aga brauseriallikale viitamist, otsustas agent faili kasutajalt luba küsimata üles laadida, et saaks sellele oma vastuses viidata.
Heakskiiduta kirjutamine ja suhtlus sisemise tarkvaravaramu kaudu(avaneb uues aknas). Puuduvaid sisendfaile otsides kasutasid mudelid sisemist tarkvaravaramut teadetetahvlina, et vahetada eraldi treeningnäidete vahel päringuid ja vastuseid, kuid faile neil taastada ei õnnestunud. Aruandes käsitletakse ka varasemat juhtumit, kus mudel laadis võrgupiirangutest möödahiilimise katsel edukalt testfailid varamusse.
Koostööd tegevate agentide heakskiiduta failijagamine(avaneb uues aknas). Sama treeningülesande kallal koos töötavad agendid jagasid faile avalike failimajutusveebisaitide kaudu, kui neil puudus juurdepääs üksteise kohalikele failidele. Seetõttu muutusid ülesande väljundid avalikel URL-idel kättesaadavaks, kuigi ülesandes nõuti mudelitelt ainult kohalike failide kasutamist.
Iga OpenAI töötaja võib juhtida meie ohutuse ja joondatuse meeskondade tähelepanu joondamatuse näitele, et seda uuritaks ja kaalutaks avalikku avalikustamist. Sellega algab meie avalikustamisprotsess, mille igale etapile on õigeaegse uurimise ja avalikustamise tagamiseks määratud tähtaeg.
Pärast näitest teatamist uurivad meie tehnilised töötajad, mis juhtus, mis on veel ebaselge, kas avalikustamine on põhjendatud ja milliseid asjaolusid saab jagada. Samuti hindavad nad, kas juhtum mõjutas mõnd kolmandat osapoolt, keda tuleb enne avaldamist eraviisiliselt teavitada.
Seejärel määratakse näide ühte kolmest menetluskategooriast: „Avalikustamiseks valmis“, „Lühiuurimine“ või „Põhjalikum uurimine“ („Aeglane menetlus“).
Kategooria „Avalikustamiseks valmis“ hõlmab tingimustele vastavaid juhtumeid, mille uurimine on pärast ülevaatamist avaldamiseks piisavalt põhjalik. Kategooria „Lühiuurimine“ hõlmab juhtumeid, mis vajavad täiendavat tehnilist uurimist. Eeldame, et need kaks kategooriat hõlmavad suurt enamust meie avalikustatavatest juhtumitest, eriti neid, mis ei nõua ulatuslikku uurimist, koostööd kolmandate osapooltega ega tõsiste väärkasutusriskide käsitlemist. Kõik täna avaldatavad juhtumid kuuluvad ühte neist kahest kategooriast.
Kategooria „Põhjalikum uurimine“ hõlmab keerukaid uurimisi, eriti neid, millega on seotud kolmandad osapooled. Kui juhtum mõjutab kolmandat osapoolt, on meie turbe-, õigus- ja vastutustundliku avalikustamise kohustused selle raamistiku suhtes ülimuslikud. Püüame avaldada esialgse teate võimalikult kiiresti, kuid võime turvakaalutlustel seda edasi lükata, näiteks kui mudel avastab laialt kasutatavas tarkvaras seni tundmatu turvaaugu. Kui aruandest oleks võimalik kolmas osapool tuvastada, kavatseme teda ette teavitada ka juhul, kui ühestki turbepiirist ei mindud üle.
Põhjalikuma uurimise juhtumi esialgses teates antakse juhtunust üldine ülevaade, märgitakse, kas uurimisele aitavad kaasa väliseksperdid, ja esitatakse võimaluse korral lõpparuande eeldatav avaldamisaeg. OpenAI Hugging Face’i intsident oleks selle raamistiku alusel avalikustamise korral kuulunud sellesse kategooriasse.
Näite esitanud töötajale teatatakse, kas see avalikustatakse ja kui jah, siis millise menetluse järgi. Lahendamata erimeelsused avalikustamise või sobiva menetluse üle suunatakse OpenAI Ohutuse nõuanderühmale (SAG). See koosneb ettevõtte eri valdkondade tippjuhtidest, kes hindavad tipptasemel mudelite võimekust ja kaitsemeetmeid, teevad järelevalvet meie Valmisoleku raamistiku üle ning nõustavad OpenAI juhtkonda. Ohutuse nõuanderühma sisemised erimeelsused ja töötajate vastuväited selle otsustele edastatakse OpenAI juhtkonnale. Otsuseid mitte avalikustada või hinnanguid, et avalikustamine pole põhjendatud, jagatakse ohutuse ja joondatuse eest vastutavate juhtidega ning võimaluse korral asjaomaste tehniliste töötajatega.
Võime avalikustamisprotsessi praktiliste kogemuste põhjal muuta ja kajastame kõiki muudatusi selles postituses.
Igas täielikus aruandes kirjeldatakse täheldatud käitumist, selle tõsidust ja võimalikku välismõju, olukorda, kus see aset leidis, juhtumi kuupäeva või ajavahemikku, selle avastamise aega ning üldjoontes asjasse puutunud mudelit või mudeleid. Võimaluse korral jagame ka järgmist:
täpsemad andmed juhtunu ja sellest tulenenud kahju kohta;
kuidas joondamatus avastati ja milline oli meie uurimise ulatus;
meie tõlgendus selle tähendusest joondatuse uurimisele ja tehisintellekti tehnilisele ohutusele;
näitest tulenevad olulised vastamata küsimused;
meetmed, mida käitumise lahendamiseks rakendame või kavatseme rakendada. See teave ei pruugi avalikustamise ajal alati kättesaadav olla, sest võime joondamatuse aruande avaldada enne uurimise lõpetamist või lahenduse väljatöötamist.
Klientide juurutustes ilmneva joondamatuse kohta jagame nii palju teavet, kui klientide privaatsus ja meie lepingulised kohustused lubavad.
Täna avaldatavad aruanded on esialgne valik, mitte kõigi teadaolevate joondamatuse juhtumite või pooleliolevate uurimiste täielik ülevaade. Need esialgsed aruanded ei ole mõeldud kajastama kõiki selle raamistikuga hõlmatud juhtumeid ega nende raskusastmeid. Oleme võtnud kohustuse avalikustada selle raamistiku kriteeriumidele vastavad joondamatuse juhtumid, sealhulgas keerukamad juhtumid, mis nõuavad pikemat uurimist või koostööd kolmandate osapooltega. Jätkame selle raamistiku alusel korrapäraselt aruannete avaldamist ja anname aruandluskohustuste edasiarendamisel nende kohta lisateavet.
