Muhtasari wa usalama: GPT‑6 Astra

Leo, tunatoa GPT‑6 Astra, muundo wenye uwezo zaidi ambao tumewahi kutoa kwa matumizi mapana. Astra ni muundo wetu wa kwanza kufikia kiwango cha Hatari Sana cha uwezo wa usalama wa mtandao chini ya Mfumo wetu wa Maandalizi.

Mambo muhimu zaidi ya kujua kuhusu usalama wa uzinduzi huu ni haya:

1. GPT‑6 Astra imepiga hatua kubwa katika uwezo wa mtandao na inatimiza kizingiti chetu cha kiwango Hatari Sana. Hii inamaanisha kuwa, ikiwa na zana na ufikiaji unaofaa, GPT‑6 Astra inaweza kugundua dosari za usalama ambazo hazikujulikana awali na kubuni njia mpya za kuzitumia vibaya katika mifumo mingi iliyolindwa vyema bila mtu kuongoza kila hatua. Kwa hiyo, tuliimarisha kwa kiasi kikubwa kinga zetu dhidi ya muundo kutekeleza vitendo hatari vya mtandao, iwe ni kwa sababu ya matumizi mabaya au kutolingana. Pia tulichukua hatua kulinda uundaji na usambazaji wetu wa ndani wa Astra na miundo kama hiyo, ikiwemo utenganishaji mkali zaidi, usimbaji fiche wa vituo vya ukaguzi, ufuatiliaji wa kila hatua ya mchakato mzima, ikiwemo misururu ya mawazo (CoT), na mchakato wa tathmini ya ulinganifu unaozuia matumizi kabla ya kutumiwa ndani.
2. GPT‑6 Astra ni thabiti zaidi kwa kiasi kikubwa kuliko miundo iliyotangulia. Kwa kujumuisha mbinu mpya za mafunzo ya usalama zinazoongeza uthabiti, GPT‑6 Astra ni thabiti zaidi dhidi ya jailbreak kuliko GPT‑5.6 Sol, hata katika michakato mirefu zaidi. Tunajua hili kutokana na majaribio yasiyo ya moja kwa moja na mpango wetu wa majaribio makali ya ndani na nje ya jailbreak pamoja na urekebishaji wa dosari zilizogunduliwa. Kwa watumiaji waliotambuliwa kuwa huenda wana hatari kubwa, tumeufunza muundo pia kurekebisha mpaka wake wa kukataa kwa tahadhari zaidi na kushughulikia hatari nyingi zaidi za matumizi mawili. Tunatumia majaribio ya urejeshi kuhakikisha Astra ni thabiti dhidi ya jailbreak zilizogunduliwa katika vipindi vya awali vya majaribio, na tukafanya awamu mpya za kiotomatiki za jaribio la kubaini udhaifu wa mfumo kwa kutumia washambuliaji wetu wa hivi karibuni wa ndani ili kuthibitisha maboresho yetu.
3. GPT‑6 Astra imelinganishwa vyema zaidi kuliko GPT‑5.6 Sol. Astra ni hatua kubwa katika ulinganifu wa muundo, na ina maboresho ya ulinganifu kuanzia muundo wa data yetu ya mafunzo ya awali hadi utoaji wetu wa alama wakati wa mafunzo ya uimarishaji. Tunaripoti mkusanyiko mpya wa tathmini za ulinganifu⁠(fungua katika dirisha jipya), na tumegundua kuwa GPT‑6 Astra ina uwezo zaidi wa kuheshimu mipaka ya usalama na ulinzi na kutenda ndani ya wigo wake ulioidhinishwa. Katika uigaji uliotumia zaidi ya kazi 54,000 za ndani za Codex⁠(fungua katika dirisha jipya), Astra pia ilipokea takriban nusu ya idadi ya alama ambazo Sol ilipata kwa tabia zisizolingana zenye ukali zaidi.
4. Tunatekeleza ufuatiliaji wa kutolingana kwa upana. Tunauchukulia ulinganifu wa muundo kuwa njia kuu ya kuzuia tabia zinazoweza kutolingana kutoka kwa miundo yetu. Hata hivyo, ufuatiliaji hutoa mwonekano mpana wa tabia ya muundo wa kiwango cha juu zaidi, na kufichua fursa za kuboresha zaidi ulinganifu na usalama. Zaidi ya hayo, ufuatiliaji ni safu ya ziada ya ulinzi dhidi ya tabia inayogunduliwa kuwa hailingani. Kwa sababu hizi, tumeongeza pia ufuatiliaji wa kutolingana katika michakato yote ya ujalibishaji inayotumia zana na inayohusika katika usambazaji wa nje wa Astra, licha ya gharama kubwa ya ukokotoaji. Mfumo huu unafanana na mpangilio wetu wa ndani.
5. Ufuatilikaji wa GPT‑6 Astra umepungua ikilinganishwa na GPT‑5.6 Sol. Tumefanya uchunguzi mkubwa kuhusu ufuatilikaji⁠(fungua katika dirisha jipya) na udhibitikaji⁠(fungua katika dirisha jipya) wa GPT‑6 Astra. Tumegundua kuwa GPT‑6 Astra ina uwezo zaidi wa kudhibiti CoT yake kuliko GPT‑5.6 Sol, na ina uwezekano mdogo wa kujumuisha taarifa zinazoitia hatiani katika CoT yake. Katika mazingira ya uhasama (ambapo tunasukuma muundo kukwepa mifumo yetu ya ufuatiliaji), tumegundua kuwa muundo unaweza kutoonekana unapoficha uwezo kwa makusudi katika tathmini, na wakati mwingine unaweza kukwepa mifumo yetu ya ndani ya ufuatiliaji unapoombwa kutekeleza baadhi ya kazi za hujuma⁠(fungua katika dirisha jipya). Hatujaona ushahidi wa uwazaji wa CoT unaotumia steganografia (k.m., kuficha uwazaji wa siri ndani ya maandishi ya kawaida yanayoonekana kutohusiana), jambo linaloonyesha kuwa hatari ya kukwepa huenda kwa kiasi kikubwa ikaishia kwenye kazi zinazohitaji uwazaji wa kiwango cha chini.
   • Matokeo haya yanaonyesha kuwa miundo ya aina ya Astra inaweza kukwepa mifumo yetu ya ufuatiliaji wa CoT katika hali za uhasama. Kwa sasa, matokeo haya yanategemea kwa kiasi kikubwa tathmini za uhasama (yaani, tunapoagiza muundo ukwepe ufuatiliaji), na kwa jumla tathmini zetu za ulinganifu zinaonyesha kuwa Astra ina uwezekano mdogo kuliko GPT‑5.6 Sol wa kukiuka masharti ya ulinzi na usalama.
   • Hata hivyo, tunauchukulia mwelekeo huu kwa uzito, na tunaendelea kuchunguza matokeo haya na athari zake kwa ufuatilikaji kadiri miundo yetu inavyokuwa na uwezo zaidi. OpenAI imejitahidi kuhifadhi na kutumia ufuatiliaji wa msururu wa mawazo, na kuhifadhi ufuatilikaji wa CoT ni lengo kuu la mpango huu wa utafiti. Hata hivyo, matokeo haya pia yanasisitiza umuhimu wa kubuni mbinu za ukaguzi wa ulinganifu zinazozidi kuchunguza msururu wa mawazo wa muundo pekee.
6. GPT‑6 Astra hushughulikia kuvinjari na mazingira ya kazi kwa uwajibikaji zaidi: GPT‑6 Astra ni thabiti zaidi kwa kiasi kikubwa dhidi ya uingizaji wa maelekezo kuliko GPT‑5.6 Sol. Pia tumejaribu tabia ya muundo katika mazingira halisi ya kuvinjari na kompyuta za kitaalamu, na tumegundua kuwa una uwezekano mdogo zaidi wa kutekeleza vitendo visivyolingana na vinavyoweza kuharibu (kwa mfano, miamala isiyoidhinishwa, upotezaji wa data, ufikiaji uliopindukia au kukwepa vidhibiti) ikilinganishwa na GPT‑5.6 Sol. Pia hutenda kwa usalama zaidi inaposhughulikia maombi hatari katika mazingira ya kiwakala, kama vile maombi ya kusaidia kupanga shambulio la vurugu au kufanya ulaghai.
7. GPT‑6 Astra ni salama zaidi kwa kiasi kikubwa katika hali zenye hatari kubwa. GPT‑6 Astra hujibu kwa usalama zaidi kuliko GPT‑5.6 Sol maombi magumu yanayotokana na matumizi halisi na jaribio la kubaini udhaifu wa mfumo linalofanywa na binadamu katika hali za uhasama. Astra inapata uboreshaji wa Pareto katika kutekeleza maombi yasiyo salama kwa usalama huku ikiepuka kukataa bila sababu maombi yasiyo na madhara. Maboresho haya yanahusu pia hali zenye madhara makubwa ambapo hatari hutokana na muktadha mpana badala ya ombi lililo wazi. Astra pia hutumia kwa uthabiti zaidi mipaka ya usalama inayolingana na umri kwa watumiaji walio chini ya miaka 18.

Kwa maelezo zaidi, angalia kadi kamili ya mfumo⁠(fungua katika dirisha jipya).