Qiyaasidda khatarta afka hore ee ugu xun ee LLM-yada miisaan-furan

Maqaalkan, waxaan ku daraasaynaynaa khatarta afka hore ee ugu xun ee ka dhalan karta sii deynta gpt-oss. Waxaan soo bandhigaynaa hagaajin xun oo gaar ah (MFT), halkaas oo aan isku dayeyno inaan soo saarno awoodaha ugu sarreeya annagoo gpt-oss u hagaajinayna si uu ugu awood badan yahay laba goobood: bayoolaji iyo amniga internetka. Si loo kordhiyo khatarta bayoolajiga (biorisk), waxaan ururinnay hawlo la xiriira abuurista hanjabaado oo waxaan gpt-oss ku tababarnay deegaan RL ah oo leh daalacashada webka. Si loo kordhiyo khatarta amniga internetka, waxaan gpt-oss ku tababarnay deegaan kood-qoris oo wakiil ah si uu u xalliyo caqabadaha capture-the-flag (CTF). Waxaan isbarbardhignay noocyadan MFT iyo LLM (Qaabka Luuqadda Ballaaran)-yada miisaan-furan iyo kuwa miisaan-xiran qiimaynta khatarta afka hore. Marka lala barbar dhigo noocyada ugu casriyeysan ee miisaan-xiran, MFT gpt-oss wuxuu ka hooseeyaa OpenAI o3, oo ah nooc ka hooseeya heerka awoodda sare ee Preparedness ee biorisk iyo amniga internetka. Marka lala barbar dhigo noocyada miisaan-furan, gpt-oss waxa laga yaabaa inuu si yar u kordhiyo awoodaha bayoolajiga laakiin si weyn uma hormariyo afka hore. Marka la isku geeyo, natiijooyinkani waxay qayb ka qaateen go'aankeenna ah in aan sii deyno noocan, waxaana rajaynaynaa in habkeenna MFT uu noqdo hagid waxtar leh oo lagu qiyaaso waxyeellada ka iman karta sii-deynno miisaan-furan oo mustaqbalka ah.