የOpenAI በእሳት መፈተን አውታረ መረብ

የOpenAI በእሳት መፈተን አውታረ መረብን ለመቀላቀል ክፍት ጥሪ እያቀረብን ነው። የOpenAI ሞዴሎችን ደህንነት ለማሻሻል ፍላጎት ያላቸው የዘርፍ ባለሙያዎች ጥረታችንን እንዲቀላቀሉ እንጋብዛለን። የAI ሞዴሎቻችንን በጥልቀት በመገምገም እና በእሳት መፈተንን በማከናወን ከእኛ ጋር የሚተባበሩ ከተለያዩ ዘርፎች የተውጣጡ ባለሙያዎችን እንፈልጋለን።

በእሳት መፈተን^A የበየዙሩ እያሻሻልን በሥራ ላይ የማዋል ሂደታችን⁠ ዋና አካል ነው። ባለፉት ጥቂት ዓመታት፣ የበእሳት መፈተን ጥረታችን በOpenAI ውስጥ በሚደረጉ የጥቃት ማስመሰል ሙከራዎች ላይ ከማተኮር አልፎ፣ ከውጭ ባለሙያዎች ቡድን^B ጋር እስከመሥራት አድጓል። ይህም ለእያንዳንዱ ዘርፍ የሚስማሙ የአደጋ ምደባዎችን ለማዘጋጀት እና በአዳዲስ ስርዓቶች ውስጥ ጉዳት ሊያስከትሉ የሚችሉ አቅሞችን ለመገምገም ይረዳል። እንደ DALL·E 2⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እና GPT‑4⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ባሉ ሞዴሎች ላይ ቀደም ሲል ስላደረግናቸው የበእሳት መፈተን ጥረቶች፣ ከውጭ ባለሙያዎች ጋር የሠራነውን ጨምሮ፣ ተጨማሪ ማንበብ ይችላሉ።^C

ዛሬ፣ በእነዚህ ቀደምት መሠረቶች ላይ ተገንብተን ሞዴሎቻችንን ይበልጥ ደህንነታቸው የተጠበቀ ለማድረግ፣ ከውጭ ባለሙያዎች ጋር ያለንን ትብብር የሚያጠናክር እና የሚያሰፋ ይበልጥ መደበኛ የሆነ ጥረት እንጀምራለን። ከግለሰብ ባለሙያዎች፣ ከምርምር ተቋማት እና ከሲቪል ማኅበረሰብ ድርጅቶች ጋር መሥራት የሂደታችን አስፈላጊ አካል ነው። ይህ ሥራ፣ እንደ ሦስተኛ ወገን ኦዲቶች ያሉ በውጭ አካላት የተወሰኑ የአስተዳደርና ቁጥጥር አሠራሮችን የሚያሟላ እንደሆነ እንመለከተዋለን።

የOpenAI በእሳት መፈተን አውታረ መረብ ታማኝ እና ልምድ ያላቸው ባለሙያዎች ማኅበረሰብ ነው። ዋና ዋና ሞዴሎችን በሥራ ላይ ከማዋል በፊት በሚደረጉ የአንድ ጊዜ ትብብሮችና የምርጫ ሂደቶች ከመወሰን ይልቅ፣ የአደጋ ግምገማና ቅነሳ ጥረቶቻችን በሰፊው በእውቀት እንዲመሩ ሊያግዝ ይችላል። የአውታረ መረቡ አባላት በሞዴል እና በምርት ልማት የሕይወት ዑደት ውስጥ ባሉ የተለያዩ ደረጃዎች በእሳት መፈተንን እንዲያግዙ፣ በሙያዊ እውቀታቸው መሠረት ይጠራሉ። ሁሉም አባላት በእያንዳንዱ አዲስ ሞዴል ወይም ምርት ላይ አይሳተፉም። እያንዳንዱ አባል የሚመድበው ጊዜ ከእሱ ጋር በመነጋገር ይወሰናል፤ ይህም በአንድ ዓመት ውስጥ ከ5–10 ሰዓታት ብቻ ሊሆን ይችላል።

OpenAI ከሚያስከናውናቸው የበእሳት መፈተን ዘመቻዎች ውጭ፣ አባላት ስለ አጠቃላይ የበእሳት መፈተን አሠራሮችና ግኝቶች እርስ በርሳቸው የመወያየት ዕድል ይኖራቸዋል። ዓላማው ይበልጥ የተለያዩ እና ቀጣይነት ያላቸው ግብዓቶች እንዲገኙ ማስቻል፣ እንዲሁም በእሳት መፈተንን በየዙሩ እየተሻሻለ የሚሄድ ሂደት ማድረግ ነው። ይህ አውታረ መረብ ሌሎች በAI ደህንነት ዙሪያ ያሉ የትብብር ዕድሎችን ያሟላል፤ እነዚህም ለተመራማሪዎች የመዳረሻ ፕሮግራማችንን⁠ እና የክፍት ምንጭ ግምገማዎችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ያካትታሉ።

ይህ አውታረ መረብ ይበልጥ ደህንነታቸው የተጠበቀ የAI ቴክኖሎጂዎችና ፖሊሲዎች እድገት ላይ፣ እንዲሁም AI በአኗኗራችን፣ በአሠራራችን እና በግንኙነቶቻችን ላይ በሚኖረው ተጽዕኖ ላይ አቅጣጫ ለመስጠት ልዩ ዕድል ይፈጥራል። ይህን አውታረ መረብ ሲቀላቀሉ፣ ሞዴሎቻችን እና ስርዓቶቻችን በሥራ ላይ በሚውሉባቸው የተለያዩ ደረጃዎች እነሱን ለመገምገም ሊጠሩ ከሚችሉ የዘርፍ ባለሙያዎቻችን አንዱ ይሆናሉ።

የAI ስርዓቶችን መገምገም ብዙ የተለያዩ ዘርፎችን፣ አመለካከቶችን እና የግል የሕይወት ተሞክሮዎችን መረዳት ይጠይቃል። በመላው ዓለም ያሉ ባለሙያዎች እንዲያመለክቱ እንጋብዛለን። በምርጫ ሂደታችንም ለጂኦግራፊያዊ እና ለሙያ ዘርፍ ብዝሃነት ቅድሚያ እንሰጣለን። 

ፍላጎት ካለንባቸው ዘርፎች መካከል የሚከተሉት ይገኙበታል፤ ሆኖም በእነዚህ ብቻ አይወሰኑም፦

ከዚህ በፊት ከAI ስርዓቶች ወይም ከቋንቋ ሞዴሎች ጋር የመሥራት ልምድ አያስፈልግም፤ ሆኖም ሊጠቅም ይችላል። ከሁሉ በላይ ዋጋ የምንሰጠው ለመሳተፍ እና የAI ስርዓቶችን ተጽዕኖ በምንገመግምበት መንገድ ላይ የራስዎን እይታ ለማበርከት ላለዎት ፈቃደኝነት ነው።

ሁሉም የOpenAI በእሳት መፈተን አውታረ መረብ አባላት በበእሳት መፈተን ፕሮጀክት ሲሳተፉ ለሚያበረክቱት አስተዋጽኦ ክፍያ ያገኛሉ። የዚህ አውታረ መረብ አባል መሆን ምርምርዎን ከማሳተም ወይም ሌሎች ዕድሎችን ከመጠቀም አይገድብዎትም። ይሁን እንጂ በበእሳት መፈተን እና በሌሎች ፕሮጀክቶች የሚኖርዎት ተሳትፎ ብዙውን ጊዜ ሚስጥር ባለማውጣት ስምምነቶች (NDAs) የሚገዛ ወይም ላልተወሰነ ጊዜ ሚስጥር ሆኖ የሚቆይ መሆኑን ግምት ውስጥ ማስገባት አለብዎት።

ማመልከቻ መቀበል አሁን ተዘግቷል።

ጥ፦ አውታረ መረቡን መቀላቀል ምን ያካትታል?

መ፦ የአውታረ መረቡ አባል ሲሆኑ፣ አዲስ ሞዴል ለመፈተሽ ወይም ቀደም ሲል በሥራ ላይ የዋለ ሞዴልን በተወሰነ የፍላጎት ዘርፍ ለመፈተሽ ስለሚኖሩ ዕድሎች ልናነጋግርዎት እንችላለን። የአውታረ መረቡ አካል ሆኖ የሚከናወን ሥራ ሚስጥር ባለማውጣት ስምምነት (NDA) ይገዛል። ይሁን እንጂ ከዚህ በፊት ብዙ የበእሳት መፈተን ግኝቶቻችንን በስርዓት መረጃ ካርዶች እና በብሎግ ጽሑፎች አሳትመናል። ለበእሳት መፈተን ፕሮጀክቶች ለሚያውሉት ጊዜ ክፍያ ያገኛሉ።

ጥ፦ የአውታረ መረቡ አባል ለመሆን ምን ያህል ጊዜ መመደብ ይጠበቃል? 

መ፦ ለመመደብ የሚወስኑትን ጊዜ እንደ መርሃ ግብርዎ ማስተካከል ይችላሉ። በአውታረ መረቡ ያለ እያንዳንዱ አባል ለእያንዳንዱ ዕድል እንደማይጠራ ልብ ይበሉ። OpenAI ለተወሰነ የበእሳት መፈተን ፕሮጀክት ተስማሚ በሆኑት ላይ ተመሥርቶ ምርጫ ያደርጋል፤ በቀጣይ የበእሳት መፈተን ዘመቻዎችም ለአዳዲስ እይታዎች ትኩረት ይሰጣል። በአንድ ዓመት ውስጥ 5 ሰዓታት ብቻ እንኳን ቢመድቡ ለእኛ ዋጋ አለው። ስለዚህ ፍላጎት ቢኖርዎትም ጊዜዎ ውስን ከሆነ፣ ለማመልከት አያመንቱ።

ጥ፦ አመልካቾች መመረጣቸውን የሚያውቁት መቼ ነው?

መ፦ OpenAI የአውታረ መረቡን አባላት በቀጣይነት ይመርጣል፤ እስከ እ.ኤ.አ. ዲሴምበር 1፣ 2023 ድረስ ማመልከት ይችላሉ። ይህ የማመልከቻ ጊዜ ካበቃ በኋላ፣ ወደፊት እንደገና የማመልከት ዕድሎችን ስለመክፈት ዳግም እንገመግማለን።

ጥ፦ የአውታረ መረቡ አባል መሆኔ እያንዳንዱን አዲስ ሞዴል በእሳት እንድፈትን እጠየቃለሁ ማለት ነው?

መ፦ አይደለም። OpenAI ለተወሰነ የበእሳት መፈተን ፕሮጀክት ተስማሚ በሆኑት ላይ ተመሥርቶ ምርጫ ያደርጋል፤ እያንዳንዱን አዲስ ሞዴል እንደሚፈትሹ መጠበቅ የለብዎትም።

ጥ፦ ከአውታረ መረቡ አባላት የምትጠብቋቸው አንዳንድ መስፈርቶች ምንድናቸው?

መ፦ ከምንመለከታቸው መስፈርቶች መካከል የሚከተሉት ይገኙበታል፦

• ከበእሳት መፈተን ጋር ተዛማጅነት ባለው የተወሰነ ዘርፍ የተረጋገጠ ሙያዊ እውቀት ወይም ልምድ

• የAI ደህንነትን ለማሻሻል ከፍተኛ ፍላጎት

• ከጥቅም ግጭት ነፃ መሆን

• ከተለያዩ ዳራዎች እና በታሪክ በቂ ውክልና ካላገኙ ቡድኖች መሆን

• የተለያዩ ጂኦግራፊያዊ አካባቢዎች ውክልና 

• ከአንድ በላይ ቋንቋዎችን አቀላጥፎ መናገር

• ቴክኒካዊ ብቃት (ግዴታ አይደለም)

ጥ፦ በደህንነት ዙሪያ ለመተባበር ሌሎች ምን ዕድሎች አሉ?

መ፦ አውታረ መረቡን ከመቀላቀል ባሻገር፣ ለAI ደህንነት አስተዋጽኦ ለማበርከት ሌሎች የትብብር ዕድሎች አሉ። ለምሳሌ፣ አንዱ አማራጭ ለAI ስርዓቶች የደህንነት ግምገማዎችን ማዘጋጀት ወይም ማከናወን እና ውጤቶቹን መተንተን ነው።

እንደ GPT‑4 ምረቃ⁠ አካል የተለቀቀው የOpenAI ክፍት ምንጭ Evals⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ማከማቻ፣ ይህን ሂደት በቀላሉ ለመጀመር የሚያግዙ ለመጠቀም አመቺ አብነቶችን እና የናሙና ዘዴዎችን ያቀርባል።

ግምገማዎች ከቀላል የጥያቄና መልስ ፈተናዎች እስከ ውስብስብ ማስመሰሎች ሊደርሱ ይችላሉ። ተጨባጭ ምሳሌዎችን ለመስጠት፣ OpenAI የAI ባህሪያትን ከተለያዩ አቅጣጫዎች ለመገምገም ያዘጋጃቸው አንዳንድ የግምገማ ናሙናዎች እነሆ፦

ማሳመን

• MakeMeSay⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት ሌላን የAI ስርዓት በማታለል ሚስጥራዊ ቃል እንዲናገር የማድረግ አቅሙ ምን ያህል ነው?

• MakeMePay⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት ሌላን የAI ስርዓት ገንዘብ እንዲለግስ የማሳመን አቅሙ ምን ያህል ነው?

• ለድምፅ የሚቀርብ ሐሳብ⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት ሌላ የAI ስርዓት ለአንድ የፖለቲካ ሐሳብ በሚሰጠው ድጋፍ ላይ ተጽዕኖ የማሳደር አቅሙ ምን ያህል ነው?

ስቴጋኖግራፊ (ድብቅ መልዕክት መላላክ)

• ስቴጋኖግራፊ⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት በሌላ የAI ስርዓት ሳይያዝ ሚስጥራዊ መልዕክቶችን የማስተላለፍ አቅሙ ምን ያህል ነው?

• ጽሑፍ ማመቅ⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት ሚስጥራዊ መልዕክቶችን ለመደበቅ እንዲቻል፣ መልዕክቶችን የማመቅ እና መልሶ የመዘርጋት አቅሙ ምን ያህል ነው?

• የሼሊንግ ነጥብ⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፦ አንድ የAI ስርዓት ከሌላ የAI ስርዓት ጋር ቀጥተኛ ግንኙነት ሳያደርግ ተቀናጅቶ የመሥራት አቅሙ ምን ያህል ነው?

የAI ስርዓቶችን በመገምገም ረገድ ፈጠራን እና አዳዲስ ዘዴዎችን መሞከርን እናበረታታለን። ግምገማዎን ሲያጠናቅቁ፣ ሰፊው የAI ማኅበረሰብ እንዲጠቀምበት ለክፍት ምንጭ Evals⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ማከማቻ እንዲያበረክቱት እንጋብዝዎታለን።

ለተመራማሪዎች የመዳረሻ ፕሮግራማችን⁠ ማመልከትም ይችላሉ። ይህ ፕሮግራም ምርቶቻችንን ተጠቅመው AIን በኃላፊነት በሥራ ላይ ከማዋል እና ተያያዥ አደጋዎችን ከመቀነስ ጋር የተያያዙ ዘርፎችን የሚያጠኑ ተመራማሪዎችን ለመደገፍ ክሬዲቶች ይሰጣል።