ወደ ዋና ይዘት እለፍ
OpenAI

1 ሜይ 2024

ደህንነት

«መጥፎ ሰዋሰው»፦ ከሩሲያ ጋር የተገናኘ የቴሌግራም አስተያየት እንቅስቃሴ

OpenAI «መጥፎ ሰዋሰው» ብሎ ከሰየመው ያልተዘገበ ሩሲያ-መነሻ ኦፕሬሽን ጋር የተገናኙ መለያዎችን አግዷል። ኦፕሬሽኑ ስለ ዩክሬን፣ ሞልዶቫ፣ ባልቲክና አሜሪካ ፖለቲካ የቴሌግራም አስተያየቶችን በእንግሊዝኛና በሩሲያኛ ለመፍጠር AIን ተጠቅሟል።

በመጫን ላይ…

ይህ የጉዳይ ጥናት መጀመሪያ በOpenAI የግንቦት 2024⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ሪፖርት ውስጥ ታትሟል።

ፈጻሚው

ሞዴሎቻችንን ተጠቅሞ በኋላ በቴሌግራም ላይ የሚለጠፉ አስተያየቶችን ሲፈጥር የነበረና ከዚህ ቀደም ይፋ ያልሆነ የመለያዎች ኔትወርክ አግደናል። ይህን እንቅስቃሴ ከሩሲያ ግለሰቦች ጋር አገናኝተነዋል። ትኩረቱ በቴሌግራም ላይ በመሆኑ፣ ሰዋሰው የተዛባ እንግሊዝኛን ደጋግሞ በመለጠፉና ታዳሚ ለማፍራት በመቸገሩ ይህን ኔትወርክ «መጥፎ ሰዋሰው» ብለን ሰይመነዋል።

ባህሪ

ይህ ኔትወርክ በሩሲያኛና በእንግሊዝኛ ይዘት በሩሲያ፣ ዩክሬን፣ አሜሪካ፣ ሞልዶቫ እና በባልቲክ አገራት ያሉ ታዳሚዎችን ኢላማ አድርጓል።

ኔትወርኩ የአስተያየት አይፈለጌ መልዕክት ማሰራጫ ሂደት ለመዘርጋት ሞዴሎቻችንንና የቴሌግራም መለያዎችን ተጠቅሟል። በመጀመሪያ ፈጻሚዎቹ በቴሌግራም ላይ መለጠፍን በራስ-ሰር ለማከናወን የተነደፈ የሚመስል ኮድ ስህተት ለማረም ሞዴሎቻችንን ተጠቅመዋል። ከዚያም ለተወሰኑ የቴሌግራም ልጥፎች ምላሽ የሚሆኑ አስተያየቶችን በሩሲያኛና በእንግሊዝኛ ፈጥረዋል። በመጨረሻም እነዚያን አስተያየቶች ለመለጠፍ ቢያንስ አሥራ ሁለት የቴሌግራም መለያዎችን የተጠቀሙ ይመስላል።

በዚህ ኔትወርክ ከተፈጠረ ጽሑፍ ጋር የሚዛመድ ይፋዊ የቴሌግራም አስተያየት። የተጠቀሰው መለያ ከዚህ ኔትወርክ ውጤት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፏል።

በዚህ ኔትወርክ ከተፈጠረ ጽሑፍ ጋር የሚዛመድ ይፋዊ የቴሌግራም አስተያየት። የተጠቀሰው መለያ ከዚህ ኔትወርክ ውጤት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፏል።

በእንግሊዝኛ፣ ፈጻሚዎቹ ከተለያዩ ማኅበራዊ ቡድኖችና ከአሜሪካ የፖለቲካ አስተሳሰብ ሁለቱም ወገኖች የመጡ የሚመስሉ በርካታ ሐሰተኛ ማንነቶችን ድምፅ የሚኮርጁ አስተያየቶችን ለመፍጠር ሞዴሎቻችንን ተጠቅመዋል። በሩሲያኛ ደግሞ በማንነት ላይ ያነሰ የሚመሠረቱና በጭብጥ ላይ የሚያተኩሩ መመሪያዎችን ይመርጡ ነበር።

ኔትወርኩ በዋናነት ጥቂት የቴሌግራም ቻናሎች ባወጧቸው ልጥፎች ላይ አስተያየት ይሰጥ ነበር። ከሁሉ በላይ የተጠቀሰው ሩሲያን የሚደግፈው @Slavyangrad ቻናል ሲሆን፣ የእንግሊዝኛ ቻናሎቹ @police_frequency እና @SGTNewsNetwork ተከትለውታል። (የኋለኛው ቻናል ወግ አጥባቂ አሜሪካዊ የጦር አርበኛ መስሎ ይቀርባል፤ ነገር ግን በኅዳር ወር Meta እንደዘገበው⁠(በአዲስ መስኮት ውስጥ ይክፈታል) በእርግጥ መነሻው ኢራን ነው።) ኔትወርኩ በየካቲት ካደረገው እንቅስቃሴ በተወሰደ ናሙና ውስጥ፣ ለእነዚህ ሦስት ቻናሎች ምላሾችን ለመፍጠር ያደረገው ሙከራ ቀጥለው በብዛት ከተጠቀሱት 10 ቻናሎች ድምር በእጥፍ ይበልጣል።

ይዘት

ይህ ዘመቻ በጥቂት የፖለቲካ ጭብጦች ላይ ያተኮሩ አጭር አስተያየቶችን ፈጥሯል። በእንግሊዝኛም ሆነ በሩሲያኛ በቴሌግራም ላይ የለጠፋቸው ዋና ርዕሶች የዩክሬን ጦርነት፣ የሞልዶቫና የባልቲክ አገራት የፖለቲካ ሁኔታ እንዲሁም የአሜሪካ ፖለቲካ ነበሩ።

በቴሌግራም ላይ የተለመዱት የሩሲያኛ አስተያየቶች የዩክሬንና የሞልዶቫ ፕሬዚዳንቶችን በሙስና፣ የሕዝብ ድጋፍ በማጣትና ለምዕራባውያን «ጣልቃ ገብነት» ሲሉ የገዛ ሕዝባቸውን በመክዳት ይከሷቸው ነበር። በቴሌግራም ላይ የእንግሊዝኛ አስተያየቶቹ እንደ ስደተኞች ጉዳይ፣ የኢኮኖሚ ችግርና የዕለቱ ሰበር ዜናዎች ባሉ ርዕሶች ላይ ያተኩሩ ነበር። እነዚህ አስተያየቶች አሜሪካ ዩክሬንን መደገፍ እንደሌለባት ለመሟገት ወቅታዊ ክስተቶችን ብዙውን ጊዜ እንደ አውድ ይጠቀሙ ነበር።

በዚህ ኔትወርክ ከተፈጠረ ጽሑፍ ጋር የሚዛመድ ይፋዊ የቴሌግራም አስተያየት። የተጠቀሰው መለያ በሞዴሎቻችን ከተፈጠረ ይዘት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፏል።

በዚህ ኔትወርክ ከተፈጠረ ጽሑፍ ጋር የሚዛመድ ይፋዊ የቴሌግራም አስተያየት። የተጠቀሰው መለያ በሞዴሎቻችን ከተፈጠረ ይዘት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፏል።

አንዳንድ ጊዜ ከአንድ በላይ ሐሰተኛ ማንነቶች በአንድ ልጥፍ ላይ የሚጋጩ አመለካከቶችን የያዙ አስተያየቶችን ይሰጡ ነበር። የሁለቱም ወገኖች ድምፅ መስሎ የመቅረብ ይህ «ባለሁለት ፊት» አካሄድ ከዚህ ቀደም በሩሲያ ኦፕሬሽኖች ታይቷል፤ ይህም የተወሰኑ ታዳሚዎችን የመሳብ ወይም ክፍፍልን የማበረታታት ፍላጎትን ሊያመለክት ይችላል።

በዚህ ኔትወርክ ከተፈጠሩ ጽሑፎች ጋር የሚዛመዱ ይፋዊ የቴሌግራም አስተያየቶች። የተጠቀሱት መለያዎች በሞዴሎቻችን ከተፈጠረ ይዘት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፈዋል።

በዚህ ኔትወርክ ከተፈጠሩ ጽሑፎች ጋር የሚዛመዱ ይፋዊ የቴሌግራም አስተያየቶች። የተጠቀሱት መለያዎች በሞዴሎቻችን ከተፈጠረ ይዘት ጋር የሚዛመዱ አስተያየቶችን በተደጋጋሚ ለጥፈዋል።

መጋቢት 22 በሞስኮ ከተፈጸመው የሽብር ጥቃትና አራት የታጂኪስታን ዜጎች ከታሰሩ በኋላ፣ ዘመቻው በታጂኪስታን ላይ የሚያተኩር አዲስ የቴሌግራም መለያዎች ስብስብ መጠቀም ጀመረ። የለጠፋቸው አስተያየቶች ታጂኮችና ሩሲያውያን እንዲተባበሩና የሩሲያን ሕግ እንዲያከብሩ ጥሪ ያቀርቡ ነበር።

የተጽዕኖ ግምገማ

አመንጪ AI ከመምጣቱ በፊትም የአስተያየት አይፈለጌ መልዕክት ማሰራጨት በተጽዕኖ ኦፕሬሽኖች ዘንድ የተለመደ ዘዴ ነበር። «መጥፎ ሰዋሰው» አስተያየቶቹን ለመፍጠር አዲስ ዘዴ ቢጠቀምም፣ የማሰራጫ ሥርዓቱ የተጠቃሚዎችን ተሳትፎ ለመሳብ ተቸግሯል።

ከአስተያየቶቹ መካከል መውደድ ወይም ምላሽ ያገኙት እጅግ ጥቂቶቹ ብቻ ናቸው። በአንድ ልጥፍ ላይ ከሚሰጡት ምላሾች ውስጥ የኔትወርኩ አስተያየቶች በተለምዶ ጥቂቶቹን ብቻ ይይዙ ነበር፤ ይህም ግቡ ይህ ከሆነ፣ ሌሎች አመለካከቶችን ማፈን እንዳልቻለ ያሳያል።

አልፎ አልፎ ኔትወርኩ ምናልባት ከሌላ የቴሌግራም ተጠቃሚ ጋር የተለዋወጣቸው የሚመስሉ የግል መልዕክቶችን ለመፍጠር ሞዴሎቻችንን ተጠቅሟል፤ ሆኖም የተፈጠሩት ጽሑፎች ኔትወርኩ ከክሪፕቶ ምንዛሬ አጭበርባሪ ጋር ሲወያይ እንደነበር ያመለክታሉ።

ተጽዕኖ ኦፕሬሽኖችን ከ1 (ዝቅተኛው) እስከ 6 (ከፍተኛው) ደረጃ በሚሰጠው የመስፋፋት መለኪያ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ተጽዕኖውን ስንገመግም፣ ይህን እንቅስቃሴ በአንድ መድረክ ላይ ብቻ በመለጠፍ የሚለየውና ከኔትወርኩ ውጭ ባሉ ሰዎች በከፍተኛ ደረጃ እንደተስፋፋ ማስረጃ የሌለው ምድብ 1 ነው ብለን እንገመግማለን።