ፈጣን መርፌን ለመቋቋም የሰው ሠራሽ አስተውሎት (AI) ወኪሎችን ንድፍ ማድረግ

የሰው ሠራሽ አስተውሎት (AI) ወኪሎች ድሩን ማሰስ፣ መረጃ ማግኘት እና በተጠቃሚ ስም እርምጃዎችን መውሰድ እየቻሉ ነው። እነዚህ ችሎታዎች ጠቃሚ ናቸው፣ ነገር ግን አጥቂዎች ሥርዓቱን ለመቆጣጠር እንዲሞክሩ አዳዲስ መንገዶችን ይፈጥራሉ።

እነዚህ ጥቃቶች ብዙውን ጊዜ እንደ ፈጣን መርፌ⁠ ይገለፃሉ፦ ሞዴሉ ተጠቃሚው ያልጠየቀውን ነገር እንዲያደርግ ለማድረግ በውጫዊ ይዘት ውስጥ የተቀመጡ መመሪያዎች። በእኛ ልምድ፣ የእነዚህ ጥቃቶች በጣም ውጤታማ የሆኑት የእውነተኛ ዓለም ስሪቶች ከቀላል የእርምጃ መሻሪያዎች ይልቅ ከማህበራዊ ምህንድስና ጋር እየመሳሰሉ መጥተዋል።

ያ ለውጥ አስፈላጊ ነው። ችግሩ ተንኮል አዘል ሕብረቁምፊን መለየት ብቻ ሳይሆን፣ በአውድ ውስጥ አሳሳች ወይም ተንኮለኛ ይዘትን መቃወም ከሆነ፣ ከእሱ መከላከል ግብዓቶችን በማጣራት ላይ ብቻ መተማመን አይችልም። እንዲሁም አንዳንድ ጥቃቶች ቢሳኩ እንኳን የማጭበርበር ተጽእኖው የተገደበ እንዲሆን ሥርዓቱን መንደፍ ይጠይቃል።

ቀደምት «ፈጣን መርፌ» ዓይነት ጥቃቶች የWikipedia ጽሑፍን ወደ እሱ ለመጎብኘት ለሚሄዱ የሰው ሠራሽ አስተውሎት (AI) ወኪሎች ቀጥተኛ መመሪያዎችን ለማካተት እንደ ማርትዕ ቀላል ሊሆኑ ይችላሉ፤ እንደዚህ ዓይነት ተቃዋሚ አካባቢ የስልጠና ጊዜ ልምድ ከሌለ የሰው ሠራሽ አስተውሎት (AI) ሞዴሎች ብዙውን ጊዜ እነዚያን መመሪያዎች ያለምንም ጥያቄ ይከተላሉ¹። ሞዴሎች ብልህ እየሆኑ ሲሄዱ፣ ለዚህ ዓይነቱ አስተያየት ተጋላጭነታቸው እየቀነሰ መጥቷል፣ እና ፈጣን የመርፌ ዓይነት ጥቃቶች የማህበራዊ ምህንድስና ክፍሎችን በማካተት ምላሽ እንደሰጡ አስተውለናል፦

በሰፊው የሰው ሠራሽ አስተውሎት (AI) ደኅንነት ሥነ-ምህዳር ውስጥ እንደ «ሰው ሠራሽ አስተውሎት (AI) firewalling» ያሉ ዘዴዎችን መምከር የተለመደ ሆኗል፣ በዚህ ውስጥ በሰው ሠራሽ አስተውሎት (AI) ወኪል እና በውጭው ዓለም መካከል መካከለኛ ግብዓቶችን ወደ ተንኮል አዘል ፈጣን መርፌ እና መደበኛ ግብዓቶች ለመከፋፈል ይሞክራል—ነገር ግን እነዚህ ሙሉ በሙሉ የተገነቡ ጥቃቶች ብዙውን ጊዜ በእንደዚህ ዓይነት ሥርዓቶች አይያዙም። ለእንደዚህ ዓይነት ሥርዓቶች፣ እና ብዙውን ጊዜ አስፈላጊ አውድ ሳይኖር ተንኮል አዘል ግብዓትን መለየት ውሸትን ወይም የተሳሳተ መረጃ መለየትን የመሰለ በጣም አስቸጋሪ ችግር ይሆናል።

በእውነተኛው ዓለም የሚደረጉ ፈጣን የመርፌ ጥቃቶች ውስብስብነት እየጨመረ ሲሄድ፣ በጣም ውጤታማ የሆኑት የማጥቃት ዘዴዎች የማህበራዊ ምህንድስና ዘዴዎችን እንደተጠቀሙ ደርሰንበታል። እነዚህን ፈጣን የመርፌ ጥቃቶች በማህበራዊ ምህንድስና እንደ የተለየ ወይም ሙሉ በሙሉ አዲስ የችግር ክፍል ከመቁጠር ይልቅ፣ በሌሎች ዘርፎች ላይ በሰዎች ላይ የሚደርሰውን የማህበራዊ ምህንድስና አደጋ ለመቆጣጠር በተጠቀመበት ተመሳሳይ መነጽር ማየት ጀመርን። በእነዚህ ሥርዓቶች ውስጥ፣ ግቡ ተንኮል አዘል ግብዓቶችን በትክክል በመለየት ላይ ብቻ የተወሰነ አይደለም፣ ነገር ግን የማጭበርበር ተጽእኖ ቢሳካም እንኳ የተገደበ እንዲሆን የንድፍ ወኪሎችን እና ሥርዓቶችን ብቻ ነው። እንደነዚህ ያሉት ሥርዓቶች ፈጣን ኢንጀክሽን እና ማህበራዊ ምህንድስናን በመቀነስ ረገድ ውጤታማ መሆናቸውን ያሳያሉ።

በዚህ መንገድ፣ የሰው ሠራሽ አስተውሎት (AI) ወኪል እንደ የደንበኛ አገልግሎት ወኪል በተመሳሳይ ሦስት-ተዋናይ ሥርዓት ውስጥ እንዳለ መገመት እንችላለን፤ ወኪሉ በአሰሪዎቻቸው ምትክ እርምጃ መውሰድ ይፈልጋል፣ ነገር ግን እነሱን ለማሳሳት ሊሞክሩ ለሚችሉ ውጫዊ ግብዓቶች ያለማቋረጥ ይጋለጣሉ። የደንበኛ ድጋፍ ወኪል፣ የሰው ወይም የሰው ሠራሽ አስተውሎት (AI) ቢሆንም፣ በእንደዚህ ዓይነት ተንኮል አዘል አካባቢ ውስጥ ሊኖር የሚችለውን አሉታዊ ተጋላጭነት ለመገደብ ባለው ችሎታ ላይ ገደቦች ሊኖሩት ይገባል።

አንድ ሰው የደንበኛ ድጋፍ ሥርዓትን የሚያስተዳድርበት እና ደንበኛው ላጋጠማቸው ችግሮች ለምሳሌ የማድረስ መዘግየት፣ በችግር ምክንያት የሚደርስ ጉዳት፣ ወዘተ የስጦታ ካርዶችን እና ተመላሽ ገንዘብ መስጠት የሚችልበትን ሁኔታ አስቡት። ይህ የብዙ ወገን ችግር ሲሆን ኮርፖሬሽኑ ወኪሉ ለትክክለኛ ምክንያቶች ገንዘብ እንደሚመልስ ማመን ያለበት ሲሆን ወኪሉ ደግሞ እነሱን ለማሳሳት ወይም በግዳጅ ሊያስቀምጧቸው ከሚችሉ የሦስተኛ ወገኖች ጋርም ግንኙነት ይፈጥራል።

በእውነተኛው ዓለም፣ ወኪሉ የሚከተላቸው ደንቦች ይሰጠዋል፣ ነገር ግን በሚኖሩበት ተቃዋሚ አካባቢ ውስጥ እንደሚታለሉ ይጠበቃል። ምናልባት አንድ ደንበኛ ገንዘቡ ተመላሽ እንዳልተደረገ የሚገልጽ መልእክት ሊልክ ይችላል፣ ወይም ተመላሽ ገንዘብ ካልተሰጠ ጉዳት ሊያደርስ ይችላል። ወኪሉ የሚገናኘው ወሳኝ ሥርዓቶች ለደንበኛ ሊሰጥ የሚችለውን የተመላሽ ገንዘብ መጠን ይገድባል፣ ሊሆኑ የሚችሉ የፊሺንግ ኢሜይሎችን ያሳያል፣ እና የግለሰብ ወኪልን አደጋ ላይ የሚጥሉ ሌሎች እንደዚህ ያሉ ማቃለያዎችን ይሰጣል። 

ይህ አስተሳሰብ የተጠቃሚዎቻችንን የደኅንነት ተስፋዎች የሚጠብቁ ጠንካራ የመከላከያ እርምጃዎችን አሳውቋል።

በChatGPT ውስጥ፣ ይህንን የማህበራዊ ምህንድስና ሞዴል እንደ ምንጭ-ሲንክ ትንተና ካሉ ባህላዊ የደኅንነት ምህንድስና አቀራረቦች ጋር እናዋህዳለን።

በዚህ ማዕቀፍ ውስጥ፣ አንድ አጥቂ ሥርዓቱን የሚነካበት ምንጭ ወይም መንገድ፣ እንዲሁም በተሳሳተ አውድ ውስጥ አደገኛ የሆነ ስኪንግ ወይም ችሎታ ይፈልጋል። ለወኪል ሥርዓቶች፣ ይህ ማለት ብዙውን ጊዜ ያልታመነ ውጫዊ ይዘትን እንደ መረጃ ለሦስተኛ ወገን ማስተላለፍ፣ አገናኝ መከተል ወይም ከመሣሪያ ጋር መስተጋብር ከመሳሰሉ ድርጊቶች ጋር ማዋሃድ ማለት ነው።

ግባችን ለተጠቃሚዎች ዋና የደኅንነት ተስፋን መጠበቅ ነው፦ አደገኛ ሊሆኑ የሚችሉ ድርጊቶች ወይም ሚስጥራዊ ሊሆኑ የሚችሉ መረጃዎችን ማስተላለፍ በጸጥታ ወይም ተገቢ መከላከያዎች ሳይኖሩ መከናወን የለበትም።

በChatGPT ላይ የተከሰቱ ጥቃቶች ብዙውን ጊዜ ረዳቱን ከውይይት ውስጥ የተወሰነ ሚስጥራዊ መረጃ ወስዶ ለተንኮል አዘል ሦስተኛ ወገን ማስተላለፍ እንዳለበት ለማሳመን መሞከርን ያካትታሉ። በአብዛኛዎቹ አጋጣሚዎች የምናውቀው እነዚህ ጥቃቶች የሚሳኩት የደኅንነት ስልጠናችን ወኪሉ እምቢ እንዲል ስለሚያደርግ ነው። ወኪሉ እርግጠኛ በሆኑባቸው ጉዳዮች ላይ፣ ረዳቱ በውይይቱ ውስጥ የተማረው መረጃ ለሦስተኛ ወገን መቼ እንደሚተላለፍ ለመለየት የተነደፈ ደኅንነቱ የተጠበቀ Url የሚባል የማስተካከያ ስትራቴጂ አዘጋጅተናል። በእነዚህ አልፎ አልፎ በሚከሰቱ አጋጣሚዎች ተጠቃሚው የሚተላለፈውን መረጃ እናሳያለን እና እንዲያረጋግጡ እንጠይቃቸዋለን፣ ወይም ደግሞ እንዘጋዋለን እና ወኪሉ የተጠቃሚውን ጥያቄ ወደፊት ለማራመድ ሌላ መንገድ እንዲሞክር እንነግረዋለን።

ይህ ተመሳሳይ ዘዴ በAtlas⁠ ውስጥ ላሉ አሰሳዎች እና ዕልባቶች፤ እና በጥልቅ ምርምር⁠ ውስጥ ላሉ ፍለጋዎች እና አሰሳዎች ይሠራል። የChatGPT Canvas⁠ እና የChatGPT መተግበሪያዎች⁠ ተመሳሳይ አቀራረብን ይከተላሉ፣ ይህም ወኪሉ ተግባራዊ መተግበሪያዎችን እንዲፈጥር እና እንዲጠቀም ያስችለዋል—እነዚህ በአሸዋ ሳጥን ውስጥ ይሠራሉ፣ ይህም ያልተጠበቁ ግንኙነቶችን ለይቶ ማወቅ እና ተጠቃሚውን ፈቃድ መጠየቅ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ይችላል።

ስለ ደኅንነቱ የተጠበቀ Url የበለጠ መረጃ ማንበብ እና ስለ አወቃቀሩ በብሎግ ልጥፉ ላይ ማግኘት ይችላሉ የሰው ሠራሽ አስተውሎት (AI) ወኪል አገናኝን ጠቅ ሲያደርግ ውሂብዎን ደኅንነቱ የተጠበቀ ማድረግ⁠።

ሙሉ በሙሉ ራሳቸውን ችለው ለሚኖሩ ወኪሎች ከተቃዋሚው የውጭ ዓለም ጋር ደኅንነቱ የተጠበቀ ግንኙነት አስፈላጊ ነው። የሰው ሠራሽ አስተውሎት (AI) ሞዴልን ከመተግበሪያ ሥርዓት ጋር ስናዋህድ፣ የሰው ልጅ ወኪል በተመሳሳይ ሁኔታ ውስጥ ምን ዓይነት ቁጥጥር ሊኖረው እንደሚገባ እንዲጠይቁ እና እነዚያን እንዲተገብሩ እንመክራለን። ከፍተኛ ብልህ የሆነ የሰው ሠራሽ አስተውሎት (AI) ሞዴል ከሰው ልጅ ወኪል በተሻለ ሁኔታ ማህበራዊ ምህንድስናን መቋቋም እንደሚችል እንጠብቃለን፣ ነገር ግን ይህ ሁልጊዜ ተግባራዊ ሊሆን የሚችል ወይም ወጪ ቆጣቢ አይደለም፣ ይህም እንደ አተገባበሩ ሁኔታ ነው።

የማህበራዊ ምህንድስና በሰው ሠራሽ አስተውሎት (AI) ሞዴሎች እና በእሱ ላይ በሚደረጉ መከላከያዎች ላይ ያለውን አንድምታ ማጥናታችንን እንቀጥላለን እንዲሁም ግኝቶቻችንን በመተግበሪያ ደኅንነት አርክቴክቸሮቻችን እና በሰው ሠራሽ አስተውሎት (AI) ሞዴሎቻችን ውስጥ በምናካሂደው ስልጠና ውስጥ እናካትታለን።