ማጠቃለያ
ችግር
ተጋላጭነቶችን ለማግኘትና የሞዴሎቻችንን ጥንካሬ ለማሻሻል በእሳት መፈተን ወሳኝ ነው። ነገር ግን አሁን ያሉ አቀራረቦች ለማስፋት አይመቹም፣ ይህም መጨናነቅ ይፈጥራል።
በተለምዶ ጥቅም ላይ የሚውሉ የጥንካሬ ግምገማዎች በቅርቡ ወደ ሞዴሎቻችን ቀድሞውኑ ተሞልተዋል።
ደህንነትና አሰላለፍ ከሞዴል ችሎታዎች ጋር አብረው እንዲሰፉ የሚያስችሉ ዘዴዎችን ማበልፀግ ያስፈልገናል።
ያደረግነው ነገር
ተጋላጭነቶችን የማግኘት ችሎታችንን የሚያሰፋ ራስ-ሰር የእሳት መፈተን ሞዴል GPT‑Redን አሰልጥነናል፣ ይህም ከሰፊ ስርጭት በፊት እንድንጠግናቸው ያስችለናል።
GPT‑Red ጠንካራ የእሳት መፈተን ባለሙያ ነው፣ ቀደምት ሞዴሎቻችንም ለፈጣን መርፌ ጥቃቶቹ እጅግ ተጋላጭ ናቸው።
GPT‑5.6ን በተቃዋሚ መንገድ ለማሰልጠን GPT‑Redን እንጠቀማለን፣ ይህም ለፈጣን መርፌዎች እጅግ ይበልጥ ጠንካራ ያደርገዋል።
ይህን አቀራረብ ከሰውና ከሶስተኛ ወገን እሳት ፈተና፣ ከተደራራቢ መከላከያዎች እና ከቅጽበታዊ ክትትል ጋር በማጣመር ማስፋቱን እንቀጥላለን።
የAI ስርዓቶች በብዛት በአሳሾች፣ በተገናኙ መተግበሪያዎች፣ በአካባቢ ፋይሎችና በሌሎች መሣሪያዎች በኩል የሶስተኛ ወገን ውሂብ ያጋጥማቸዋል። እነዚህ ችሎታዎች የእውነተኛ ዓለም ተግባራትን ለመፈጸም አስፈላጊ ናቸው፣ ግን ጎጂ ተዋናዮች በሞዴል ባህሪ ላይ ተጽእኖ እንዲያሳድሩ ተጨማሪ እድሎችንም ይፈጥራሉ። ለምሳሌ፣ ሶስተኛ ወገን ሞዴሉን ሚስጥራዊ ውሂብ ወደ ውጫዊ አገልጋይ እንዲሰቅል ለማታለል የተዘጋጀ በጥንቃቄ የተቀረጸ መመሪያ በኢሜይል፣ ድረ-ገጽ፣ የመሣሪያ ምላሽ ወይም የኮድ ማከማቻ ውስጥ ሊያካትት ይችላል።
የሰው እሳት ፈተና የደህንነት ሥራችን ወሳኝ ክፍል ነው፤ ከስርጭት በፊት እነዚህን ተጋላጭነቶች ለማግኘትና ተገቢ መከላከያዎችን ለመዘርጋት ይረዳናል። ነገር ግን የሰው እሳት ፈተናን ብቻ ማስፋት ከባድ ነው። እነዚህን ልምምዶች መንደፍና ማካሄድ ብዙ ጊዜ ይወስዳል፣ ይህም አዳዲስ የውድቀት ሁኔታዎችን በፍጥነት ለመለየትና ወደ ጠንካራ መከላከያዎች ለማካተት ያለንን ችሎታ ይገድባል። በተጨማሪም፣ እነዚህ ልምምዶች የተሳኩ ጥቃቶች ውድ ምሳሌዎችን ቢያመነጩም፣ በስልጠና የሞዴል ጥንካሬን ለማሻሻል የሚያስፈልገውን የተቃዋሚ ውሂብ መጠንና ብዝሃነት ማመንጨት አይችሉም።
እየጨመረ ከሚችሉ ሞዴሎች ጋር መራመድ በእሳት መፈተንም እንዲሰፋ ይጠይቃል። ለዚህም፣ ከስርጭት በፊት ተጋላጭነቶችን የሚያገኙና ጥንካሬን ለማሻሻል በሞዴል ስልጠና ወቅት ጥቃቶችን የሚያመነጩ ራስ-ሰር፣ ውስጣዊ-ብቻ የበእሳት መፈተን ሞዴሎችን እያሰለጠንን ቆይተናል። ራስ-ሰር በእሳት መፈተን ለደህንነት ወሳኝ የራስ-ማሻሻያ ቅጽ ይከፍታል ብለን እናምናለን፤ የዛሬ ሞዴሎችን በመጠቀም የወደፊት ሞዴሎችን በቀጥታ ይበልጥ ደህንነታቸው የተጠበቀ ማድረግ።
GPT‑Red የእነዚህ ጥረቶች ፍጻሜና በአሁኑ ጊዜ ያለን ምርጥ ራስ-ሰር የደህንነት በእሳት መፈተን ሞዴል ነው። ሰው በእሳት መፈተን ባለሙያዎች ጥቃቶችን እንደሚቀርጹት ሁሉ፣ ሞዴሉ እርምጃ በመላክ፣ GPT ሞዴሎች ለእሱ እንዴት እንደሚመልሱ በመመልከትና በመድገም ወደ ግብ ይሰራል። GPT‑Redን በOpenAI ካሉት አንዳንድ ትልቁ የድህረ-ስልጠና ሂደቶቻችን የስሌት መጠን አሰልጥነናል—ሙሉ በሙሉ ደህንነትን ለማሻሻል የተመደበ ቀድሞ ያልታየ የስሌት መጠን።
GPT‑Redን በቀጥታ በምርት ሞዴሎቻችን የስልጠና ሂደት ውስጥ እናካትታለን። በዚህም ምክንያት፣ GPT‑5.6 Sol እስካሁን ለፈጣን መርፌዎች በጣም ጠንካራው ሞዴላችን ነው፤ ከአራት ወራት ብቻ በፊት ከነበረው ምርጥ የምርት ሞዴላችን ጋር ሲነጻጸር፣ በከባዱ ቀጥተኛ ፈጣን መርፌ መለኪያችን ላይ 6x ያነሱ ውድቀቶችን አሳክቷል። አቀራረባችን ሊሰፋ መቻሉ፣ ይበልጥ ጠንካራ የበእሳት መፈተን ባለሙያዎችን ማሰልጠናችንን ስንቀጥል፣ በወደፊት እንኳን ይበልጥ ጠንካራ ውጤቶች እንደሚመጡ ያስደስተናል።
GPT‑Red የሚሰለጥነው በራስ-ጨዋታ የማጠናከሪያ ትምህርት ሲሆን፣ በዚህም ሞዴሉና የተለያዩ መከላከያ LLMዎች ስብስብ በሰፊ የበእሳት መፈተን ሁኔታዎች ላይ በአንድ ጊዜ ይሰለጥናሉ። GPT‑Red እንደ የተሳካ ፈጣን መርፌ ያለ ትክክለኛ ውድቀት ሲያስነሳ ይሸለማል፤ መከላከያ ሞዴሎቹ ደግሞ ጥቃቱን በመቋቋምና የመጀመሪያ ተግባራቸውን በማጠናቀቅ ይሸለማሉ። መከላከያዎቹ ይበልጥ ጠንካራ ሲሆኑ፣ GPT‑Red ይበልጥ ጠንካራና የተለያዩ ጥቃቶችን ለማግኘት ይገደዳል።
የራስ-ጨዋታ ስልጠናን ለመደገፍ፣ ፈጣን መርፌዎች ሊገቡባቸው የሚችሉ ሰፊ ተጨባጭ ሁኔታዎችን እንገነባለን። እያንዳንዱ አካባቢ GPT‑Red ምን መቆጣጠር እንደሚችልና የተሳካ ጥቃት ምን እንደሚባል የሚገልጽ የስጋት ሞዴል አለው። ለምሳሌ፣ GPT‑Red የአካባቢ ፋይል ክፍልን፣ የድረ-ገጽ ባነርን፣ የኢሜይል ጽሑፍን፣ ወይም የመሣሪያ ውጤትን ሊቆጣጠር ይችላል።
ስልጠናው ሲጠናቀቅ፣ GPT‑Red በጣም ጠንካራ አጥቂ ሆኗል፤ የተጋፈጠባቸውን ውስጣዊም ሆኑ የምርት ሞዴሎች፣ GPT‑5.5ን ጨምሮ፣ ሁሉንም ማለት ይቻላል ሊሰብር ይችላል። GPT‑Red ስልጠናውን ካጠናቀቀ በኋላ፣ ለGPT‑5.6 ስልጠና ፈጣን መርፌዎችን እንዲፈጥር ተጠቅመንበታል፤ በዚህም ሞዴሉ ለGPT‑Red ጥቃቶች እጅግ ተቋቋሚ ሆኗል።
GPT‑Redን ከምናሰማራቸው ሞዴሎች ለይተን እናቆያለን። ይህ በGPT‑Red ውስጥ በተለይ የምናሰለጥናቸውን ጎጂ ችሎታዎች ከጠላት ተዋናዮች እጅ ውጭ ያደርጋል፣ በተመሳሳይም በምርት ሞዴሎቻችን ውስጥ ጥንካሬን ያስርጻል።
GPT‑Red በተሰለጠነባቸው የመከላከያ ሞዴሎች ስብስብና የእሳት መፈተን ሁኔታዎች ላይ እጅግ ውጤታማ ነው። በOpenAI ደህንነትን በሰፊው ለማገዝ፣ ሞዴሉ እንደ አጠቃላይ ዓላማ እሳት መፈተን ወኪል ጠቃሚ መሆኑንም እንገመግማለን። ለዚህም፣ የGPT‑Redን ውጤታማነት በአዳዲስ የደህንነት አካባቢዎችና ዒላማ ሞዴሎች ላይ እንፈትናለን።
መጀመሪያ፣ ከDziemian et al. (2025) የተገኘውን የተዘዋዋሪ ፈጣን መርፌ መድረክ(በአዲስ መስኮት ውስጥ ይክፈታል) የተደገመ ስሪት በመጠቀም፣ GPT‑Red ወደ አዳዲስ የእሳት መፈተን ሁኔታዎች የመጠቃለል ችሎታውን እንገመግማለን። በዚህ ፈተና፣ የሰው የእሳት ፈተና ባለሙያዎችና GPT‑Red በቅድሚያ በተገለጹ አካባቢዎች ስብስብ ላይ በGPT‑5.1 ላይ ጥቃቶችን በተናጥል አቅርበዋል። እነዚህ የእሳት መፈተን ሁኔታዎችና ግቦች GPT‑Redን ለማሰልጠን ከተጠቀምንባቸው የተለዩ ናቸው። GPT‑Red ከፍተኛ የጥቃት ስኬት መጠኖችን ያሳካል፤ በሁኔታዎች 84% ስኬት ሲያገኝ፣ ሰዎቹ ግን 13% ብቻ ነው ያገኙት።
GPT‑Red እንደ ራስ-ሰር የእሳት ፈታኝ ባለሙያ ጥሪ አፈጻጸም ያሳያል። GPT‑Red የውስጥ መስተዋት በመጠቀም፣ ከDziemian et al. (2025) የተገኘው የተዘዋዋሪ ፈጣን መርፌ መድረክ ላይ ከሰው እሳት ፈታኝ ባለሙያዎች በበለጠ ብዙ ሁኔታዎች በGPT‑5.1 ላይ የሚሳኩ ጥቃቶችን ማመንጨት ይችላል።
የእሳት ፈታኝ የመጨረሻ ፈተና የስርዓቱን መሰረታዊ ሞዴል እና የመርከብ ዲዛይን ሙሉ በሙሉ ሳያውቅ በእውነተኛ ዓለም ወኪሎች ስርዓቶች ላይ የታለሙ ተንኮል-አዘል ግቦችን ማሳካት መቻል ነው። በዚህ ሁኔታ ያደረግነው የመጀመሪያ ሙከራ በAndon ላብስ በተሰራው OpenAI ቢሮ (እንደ ፕሮጀክት Vend(በአዲስ መስኮት ውስጥ ይክፈታል) ተመሳሳይ) ውስጥ GPT‑Redን በAI ከሚሰራ የሽያጭ ማሽን ላይ አጋጥመነዋል። የስርዓቱን እና የእውነተኛውን ዓለም ምስሪት በቅርበት የሚያንፀባርቀውን የተመሰለው ወኪል የሚላኩ መሳሪያዎች ጥሪዎችን የመመልከት ችሎታን ለGPT‑Red ገልጸናል። GPT‑Red ጥቃቶችን በተደጋጋሚ ካደረገ በኋላ፣ በማምረቻ ወኪሉ ላይ ጥቃቱን በማሰማራት ሦስቱንም ተንኮል አዘል ዓላማዎቹን አሳክቷል፡
- በክምችት ውስጥ ያለ ውድ ዕቃ ዋጋን ወደ ዝቅተኛው የተፈቀደው ዋጋ $0.50 ቀይሯል፤
- አዲስ ከ100 ዶላር በላይ የሆነን እቃ በማዘዝ በ0.50 ዶላር ማቅረብ፤ እና
- የሌላ ደንበኛ ትዕዛዝን መሰረዝ።
እነዚህ ተጋላጭነቶች እና አዳዲስ መከላከያዎች በንቃት እየተፈተኑ መሆናቸውን ገልጸናል።
GPT‑Red የመሸጫ ማሽንን የሚያስተዳድር Vendy ተብሎ የሚታወቅ በቀጥታ የሚሰራ ራሱን በራሱ የሚመራ ወኪልን መስበር ይችላል። GPT‑Red መጀመሪያ በማስመሰያ በመፈተን ከዚያም ጥቃቶችን ወደ ቀጥታ ወኪሉ በማስተላለፍ፣ የምርት ወኪሉ ውድ እቃዎችን ርካሽ እንዲያደርግና የሌሎች ደንበኞች ትዕዛዞችን እንዲሰርዝ ማድረግ ችሏል።
እንዲሁም በ10 የተዘጉ የውሂብ-ማውጣት ሁኔታዎች ስብስብ ላይ የCodex CLI ወኪልን (በGPT‑5.4 mini ላይ የተመሠረተ) ለማጥቃት GPT‑Redን እንጠቀማለን። የሥልጠና ሂደታችን በተራዘመ የእሳት ፈተና አፈፃፀም ላይ ያለውን ተጽእኖ ለማጥናት ሞዴሉን ከተጠየቀው የGPT‑5.5 መነሻ መስመር ጋር እናወዳድረዋለን። GPT‑Red በሁለቱም ላይ የበለጠ ውጤታማ ነው፣ ምክንያቱም ወኪሉ ሚስጥራዊ መረጃዎችን በብዙ ሁኔታዎች ውስጥ እንዲያወጣ በተሳካ ሁኔታ ሊያደርገው ስለሚችል እና የበለጠ ቶከን ውጤታማ ነው።
GPT‑Red በቀጥታ የሚሠሩ Codex ወኪሎችን በመስበር የበለጠ ውጤታማና ቆጣቢ ነው። በGPT‑5.4 Mini በሚደገፍ Codex ወኪል ላይ፣ በ10 የውሂብ ማውጣት ተግባራት የተበጀ ስብስብ እንፈትናለን።
የGPT‑Red የመጨረሻ ግብ የሞዴሎቻችንን ጥንካሬ ማሻሻል ነው። ባለፉት ስድስት ወራት ውስጥ፣ ከጊዜ ወደ ጊዜ እየጨመሩ የሚሄዱ ጠንካራ የእሳት ፈተና ሞዴሎችን (ከGPT‑Red ቀዳሚዎች) አሰልጥነናል፣ እና እነዚህን ሞዴሎች ከGPT‑5.3 ጀምሮ በተከታታይ ለሚሰሩ የምርት ሞዴሎች ስልጠና ተጠቅመናል። ከጊዜ በኋላ፣ እያንዳንዱ ቀጣይ የGPT ልቀት የበለጠ ጠንካራ ሆኗል።
ለምሳሌ፣ የ GPT‑Red የመጀመሪያ እትም “የሐሰት የአስተሳሰብ ሰንሰለት” ጥቃቶች በመባል የሚታወቁ አዲስ የቀጥታ ፈጣን መርፌ ጥቃቶች ክፍል አግኝቷል። እነዚህ ጥቃቶች በGPT‑5.1 ላይ ከ95% በላይ የስኬት መጠኖችን አስመዝግበዋል ነገር ግን አሁን ለGPT‑5.6 Sol ከ10% በታች ናቸው። በተመሳሳይ፣ በገንቢ መሳሪያዎች እና አሰሳ ውስጥ ጥቃቶችን የሚያነጣጥሩ በርካታ ቀጥተኛ ያልሆኑ የፈጣን መርፌ መለኪያዎች በቅርብ ጊዜ ሞዴላችን (>97% ትክክለኛነት) ተሞልተዋል።
ለGPT‑Red ያለው ጥንካሬም በከፍተኛ ሁኔታ ተሻሽሏል። በሰፊው የጥንካሬ አካባቢዎች፣ የGPT‑Red የጥቃት ስኬት መጠን በጊዜ ሂደት በአንፃራዊነት ቀንሷል። በቅርብ ጊዜ በተዘጋጀው የሞዴል ልቀት፣ GPT‑5.6 Sol በGPT‑Red ቀጥተኛ መርፌዎች 0.05% ብቻ ላይ ውድቀትን ያሳያል።
ለፈጣን መርፌዎች የራስ-ጨዋታ ስልጠናን ማስፋታችንን ስንቀጥል፣ ነባር ሞዴሎችን ሊሰብሩ የሚችሉ አዳዲስ ስጋቶችን አግኝተናል። ሆኖም ይህን ማስፋታችን በእነዚህ ጥቃቶች ላይ ያለውን ጥንካሬ በእጅጉ አሻሽሏል። የጥቃት ስኬት መጠን በተያዙ የሙከራ አካባቢዎች ላይ GPT‑Red ባደረጋቸው ሁሉም ሙከራዎች የስኬት አማካይ ሆኖ ይሰላል።
አንድ ሞዴል ተጨማሪ ጥያቄዎችን በመቃወም ወይም አቅሙ እየቀነሰ በመምጣቱ የበለጠ ደህንነቱ የተጠበቀ ሊመስል ይችላል። ብዙም የማያደርግ ሞዴል በተፈጥሮው ለማጥቃት አስቸጋሪ ነው፣ ነገር ግን ያ ጠቃሚ ጥንካሬ አይደለም።
ሁለቱንም አጠቃላይ የድንበር ችሎታዎችን እና የምንቀርጻቸውን የታለሙ እና ውድቅ የተደረጉ ተግባራትን በጥልቀት እንገመግማለን። ሁሉም መደበኛ ችሎታዎች ምንም ተጽእኖ ሳይኖራቸው ሲቀሩ ጥንካሬን በእጅጉ እያሻሻሉ እንደሆነ እናገኛለን። ይህ የሚያመለክተው የጥንካሬው ውጤት የመጣው ተገቢ ባልሆነ የመሳሪያ አጠቃቀም ወይም በነባሪነት ህጋዊ ጥያቄዎችን አለመቀበል ሳይሆን ለተንኮል አዘል መመሪያዎች የተሻለ ተቃውሞ መሆኑን ነው።
የ AI ወኪሎች የቀጣዩን ትውልድ ሞዴሎቻችንን አቅም ለማሻሻል ቀድሞውኑ ጥቅም ላይ እየዋሉ ነው። በGPT‑Red አማካኝነት ለደህንነት ሲባል ተመሳሳይ የሆነ ፍላይ ዊል መክፈት ጀምረናል ብለን እናምናለን፣ የዛሬዎቹ ሞዴሎች የነገውን ሞዴሎች የበለጠ ጠንካራ፣ የተጣጣሙ እና እምነት የሚጣልባቸው ለማድረግ ሊያገለግሉ ይችላሉ። ከዛሬው ሞዴል የበለጠ ጠንካራ የሆኑ የወደፊት የGPT‑Red ስሪቶችን ለማሰልጠን፣ የአልጎሪዝም ማሻሻያዎችን እያደረግን ኮምፒውቲንግ እና ዳታ ማስፋትን እንቀጥላለን። እና በተራው፣ እነዚህ ሞዴሎች የወደፊት የGPT ልቀቶችን የበለጠ ደህንነቱ የተጠበቀ ለማድረግ ይረዳሉ።
በዚህ ሳምንት መጨረሻ ላይ ተጨማሪ ዝርዝሮችን የያዘ ቅድመ-ህትመት እንለጥፋለን።
