ገንቢዎች ለታዳጊዎች ይበልጥ ደህንነታቸው የተጠበቀ የኤ.አይ ተሞክሮዎችን እንዲገነቡ መርዳት

ዛሬ፣ ገንቢዎች ለታዳጊዎች ለዕድሜያቸው ተስማሚ ጥበቃዎችን እንዲፈጥሩ ለማገዝ፣ በእርምጃ ላይ የተመሰረቱ የደህንነት ፖሊሲዎችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እየለቀቅን ነው። እነዚህ መመሪያዎች ከክፍት ክብደት የደህንነት ሞዴላችን፣ gpt-oss-safeguard⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ጋር እንዲሰሩ የተገነቡ ሲሆን ገንቢዎች የደህንነት መስፈርቶችን ለእውነተኛ ዓለም ስርዓቶች ጥቅም ላይ ሊውሉ ወደሚችሉ መለያዎች የሚቀይሩበትን መንገድ ቀለል ያደርጋሉ።

የኃይለኛ ኤ.አይ መዳረሻን ዲሞክራሲያዊ ለማድረግ እና ሰፊ ፈጠራን ለመደገፍ ክፍት ክብደት ሞዴሎችን ለቅቀናል። በተመሳሳይ ጊዜ፣ ደህንነት እና ፈጠራ አብረው እንደሚሄዱ እና ገንቢዎች ከፍተኛ አቅም ያላቸውን ሞዴሎች እንዲሁም እነሱን ደህንነቱ በተጠበቀ መንገድ እና በኃላፊነት ለማሰማራት የሚያስችሉ መሣሪያዎችን እና ፖሊሲዎችን ማግኘት እንዳለባቸው እናምናለን። እነዚህን ፖሊሲዎች ያዘጋጀነው ገንቢዎች ወጣት ተጠቃሚዎችን ለመጠበቅ የሚያደርጉትን የደህንነት ጥረት ለመደገፍ ሲሆን፣ Common Sense Media⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እና everyone.ai⁠(በአዲስ መስኮት ውስጥ ይክፈታል)ን ጨምሮ ከታማኝ የውጭ ድርጅቶች ሀሳብ ወስደናል።

ታዳጊዎች እና አዋቂዎች የተለያዩ ፍላጎቶች እንዳሏቸው፣ እንዲሁም ታዳጊዎች ተጨማሪ ጥበቃዎች እንደሚያስፈልጋቸው እንገነዘባለን። እነዚህ ፖሊሲዎች ገንቢዎች እነዚያን ልዩነቶች ከግምት ውስጥ እንዲያስገቡ እና ለወጣት ተጠቃሚዎች አበረታች እና ተገቢ የሆኑ ተሞክሮዎችን እንዲገነቡ የተዘጋጁ ናቸው።

ለወጣቶች ደህንነታቸውን እየጠበቀ ዕድሎችን የሚያሰፋ ኤ.አይ ለመገንባት ለረጅም ጊዜ ቆርጠን ነበር። እንደዚህ ሥራ አካል፣ የOpenAI ሞዴሎች የታሰበ ባህሪን የሚገልጹ መመሪያዎችን የያዘውን ሞዴል ዝርዝር⁠(በአዲስ መስኮት ውስጥ ይክፈታል)— ከ18 ዓመት በታች (U18) መርሆችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እንዲያካትት አዘምነናል፣ እንዲሁም ወጣት ተጠቃሚዎችን በተሻለ ሁኔታ ለመጠበቅ እንደ የወላጅ ቁጥጥር⁠ እና የዕድሜ ትንበያ⁠ ያሉ በምርት ደረጃ ያሉ ጥበቃዎችን አስተዋውቀናል። እንዲሁም በእኛ የታዳጊዎች ደህንነት ንድፍ⁠ በኩል ኢንዱስትሪ አቀፍ የሆኑ ጥበቃዎች እንዲኖሩ ጥሪ አቅርበናል።

የዛሬው ልቀት በዚያ መሠረት ላይ ይገነባል። ለታዳጊዎች የደህንነት ጥበቃዎችን በሥራ ላይ እንዲያውሉ ለመደገፍ እና በክፍት ክብደት ሥነ-ምህዳር ውስጥ መዳረሻን ዴሞክራሲያዊ ለማድረግ እነዚህን የደህንነት ፖሊሲዎች ለገንቢዎች እናቀርባለን።

እንደ gpt-oss-safeguard ያሉ የደህንነት መለያዎች አደገኛ ይዘትን ሊለዩ ቢችሉም፣ ያ ይዘት ምን እንደሆነ በግልጽ የሚናገሩ ትርጓሜዎች ላይ ይመሰረታሉ። በተግባር፣ ገንቢዎች ከሚጋፈጧቸው ትላልቅ ተግዳሮቶች ውስጥ አንዱ፣ ወጣቶችን የሚመለከቱ አደጋዎችን በትክክል የሚያሳዩ እና በእውነተኛ ስርዓቶች ውስጥ በተከታታይነት ሊተገበሩ የሚችሉ ፖሊሲዎችን መግለጽ ነው።

ልምድ ያላቸው ቡድኖች እንኳን ከፍተኛ ደረጃ ያላቸውን የደህንነት ግቦች ወደ ትክክለኛ እና ሊተገበሩ የሚችሉ ደንቦች ለመቀየር ብዙ ጊዜ ይቸገራሉ፣ በተለይ ደግሞ ይህ ሂደት ሁለቱንም የርዕሰ ጉዳይ ልምድ እና ጥልቅ የኤ.አይ እውቀትን ስለሚጠይቅ። ይህ በጥበቃ ውስጥ ወደሚኖሩ ክፍተቶች፣ ወጥነት ወደሌለው ማስፈጸም፣ ወይም ከመጠን በላይ ሰፊ ወደሆነ ማጣራት ሊያመራ ይችላል። ግልጽ እና በጥሩ ሁኔታ የተወሰኑ ፖሊሲዎች ውጤታማ ለሆኑ የደህንነት ስርዓቶች ወሳኝ መሠረት ናቸው።

ይህን ችግር ለመፍታት፣ ታዳጊዎች የሚጋፈጧቸውን የተለመዱ አደጋዎች መሠረት ያደረጉ እና ስለ ታዳጊዎች ልዩ የእድገት ልዩነቶች ያሉትን ነባር ጥናቶች በጥንቃቄ በመገምገም የተዘጋጁ የ ደህንነት ፖሊሲዎች⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ስብስብ እየለቀቅን ነው። እነዚህ ፖሊሲዎች ከ gpt-oss-safeguard⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እና ከሌሎች የማመዛዘን ሞዴሎች ጋር በቀጥታ ጥቅም ላይ ሊውሉ በሚችሉ እርምጃዎች መልክ የተዋቀሩ ሲሆን፣ ገንቢዎችም በስርዓቶቻቸው ውስጥ ወጥ የሆኑ የደኅንነት ደረጃዎችን በቀላሉ እንዲተገብሩ ያስችላቸዋል።

የመጀመሪያው ልቀት የሚከተሉትን ፖሊሲዎችን ያካትታል፦

• ግልጽ የጥቃት ይዘት
• ግልጽ ወሲባዊ ይዘት
• ጎጂ የሰውነት መለኪያዎች እና ባህሪያት
• አደገኛ እንቅስቃሴዎች እና ተግዳሮቶች
• የፍቅር ወይም የጥቃት ሚና ጨዋታ
• በዕድሜ የተገደቡ እቃዎች እና አገልግሎቶች

እነዚህ ፖሊሲዎች ይዘትን በእውነተኛ ጊዜ ለማጣራት፣ እንዲሁም በተጠቃሚዎች የሚፈጠር ይዘትን ከመስመር ውጭ ለመተንተን ጥቅም ላይ ሊውሉ ይችላሉ።

ፖሊሲዎችን እንደ እርምጃዎች በማዋቀር፣ ገንቢዎች እነሱን በነባር የስራ ፍሰቶች ውስጥ በቀላሉ ማዋሃድ፣ ከአጠቃቀም ጉዳዮቻቸው ጋር ማላመድ እና በጊዜ ሂደት በተደጋጋሚ ማሻሻል ይችላሉ።

የእነዚህን ፖሊሲዎች እድገት ለማሳወቅ Common Sense Media⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እና everyone.ai⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ን ጨምሮ ከውጭ ድርጅቶች ጋር ሰርተናል። የእነርሱ ሙያዊ ዕውቀት ሊሸፈን የሚገባውን የይዘት ወሰን ለመቅረጽ፣ የእርምጃዎችን አወቃቀር ለማጠናከር፣ እና እነርሱን ሲገመግሙ ግምት ውስጥ መግባት ያለባቸውን የጽንፍ ጉዳዮች ለማጥራት ረድቷል። 

ይህ ሥራ የኤ.አይ ስርዓቶች ወጣቶችን የሚደግፉበትን መንገድ ለማሻሻል ከባለሙያዎች እና ከሰፊው ሥነ-ምህዳር አካላት ጋር ለመተባበር የሚደረግ ቀጣይነት ያለው ጥረትን ያንጸባርቃል።

“ለታዳጊዎች የኤ.አይ ደህንነት ካሉት ትልልቅ ክፍተቶች አንዱ፣ ገንቢዎች መነሻ አድርገው ሊገነቡባቸው የሚችሉ የግልጽና ተግባራዊ ፖሊሲዎች እጥረት መኖሩ ነው። ብዙ ጊዜ፣ ገንቢዎች ከባዶ እየጀመሩ ነው። እነዚህ እርምጃን መሠረት ያደረጉ ፖሊሲዎች በመላው ሥነ-ምህዳር ውስጥ ትርጉም ያለው የደህንነት ዝቅተኛ መሠረት ለማስቀመጥ ይረዳሉ፣ እና እንደ ክፍት ምንጭ ስለሚለቀቁም በጊዜ ሂደት ሊለመዱ እና ሊሻሻሉ ይችላሉ። እንዲህ ዓይነት መሠረተ ልማት በሰፊው ተደራሽ እየሆነ ማየታችን ያበረታታናል፣ እናም ይህ በመላው ኢንዱስትሪ ውስጥ የተጋሩ የወጣቶች ደህንነት መነሻ ነጥቦች ይበልጥ እንዲኖሩ ያነሳሳል ብለን ተስፋ እናደርጋለን።”

—Robbie Torney፣ የኤ.አይ እና ዲጂታል ምዘናዎች ኃላፊ፣ Common Sense Media

“እንደዚህ ያሉ ጥረቶች የወጣቶች ደህንነት ፖሊሲዎችን በተግባር የሚውሉ እንዲሆኑ ስለሚያደርጉ ጠቃሚ ናቸው፣ ምክንያቱም የባለሙያዎችን እውቀት በእውነተኛ ስርዓቶች ውስጥ ጥቅም ላይ ሊውል ወደሚችል መመሪያ ለመቀየር ይረዳሉ። የይዘት ፖሊሲዎች አስፈላጊ የመጀመሪያ እርምጃ ናቸው፣ እንዲሁም የሞዴል ባህሪ በጊዜ ሂደት ወጣቶችን የሚመለከቱ ስጋቶችን የሚቀርጽበት መንገድ ላይ ለሚደረግ ሰፊ ስራ በር ይከፍታሉ። ከዚህ ስራ እና ከራሳችን ምርምር ተነስተን፣ everyone.ai⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እንደ ብቸኝነት እና ከመጠን በላይ ጥገኝነት ያሉ ስጋቶች ላይ ያተኮረ የመጀመሪያ የባህሪ ፖሊሲ ፈጥሯል።"

—ዶ/ር Mathilde Cerioli፣ በeveryone.AI ዋና ሳይንቲስት

ፖሊሲዎቹ እንደ መነሻ ነጥብ የታሰቡ ናቸው፣ እንጂ የታዳጊዎች ደህንነት ማጠቃለያ ወይም የመጨረሻ ትርጉም ወይም ዋስትና አይደሉም። እያንዳንዱ መተግበሪያ ልዩ አደጋዎች፣ ታዳሚዎች እና አውዶች አሉት፣ እንዲሁም ገንቢዎች ምርቶቻቸው እና የኤ.አይ ውህደቶቻቸው ሊያመጡ የሚችሉትን አደጋዎች ለመረዳት የተሻለ ቦታ ላይ ናቸው። ገንቢዎች እነዚህን ፖሊሲዎች የራሳቸው ልዩ ፍላጎቶች ላይ በመመስረት እንዲያላምዱ እና እንዲያሰፉ፣ እንዲሁም እንደ የምርት ንድፍ ውሳኔዎች፣ የተጠቃሚ መቆጣጠሪያዎች፣ ለታዳጊዎች ተስማሚ ግልጽነት፣ የክትትል ስርዓቶች እና አስተዋይ እና ለዕድሜ ተስማሚ ምላሾች ካሉ ሌሎች መከላከያዎች ጋር እንዲያጣምሯቸው አጥብቀን እናበረታታለን። 

ይበልጥ ደህንነታቸው የተጠበቀ የኤ.አይ ስርዓቶችን ለመገንባት ውስብስብ መከላከያ ጥልቅ⁠ የሆነ አካሄድ አስፈላጊ ነው ብለን እናምናለን። እነዚህ ፖሊሲዎች ከውስጣዊ ልምዳችን የተነሱ ናቸው፣ ነገር ግን የOpenAI የውስጥ ፖሊሲዎችን ወይም ጥበቃዎችን ሙሉ በሙሉ አያንጸባርቁም።

ትብብርን እና አዲስ ስሪቶችን ለማበረታታት እነዚህን ፖሊሲዎች እንደ ክፍት ምንጭ በ ROOST ሞዴል Community⁠(በአዲስ መስኮት ውስጥ ይክፈታል) በኩል እየለቀቅን ነው። ለማበርከት፣ አስተያየት ለመስጠት ወይም ተጨማሪ የታዳጊዎች ደህንነት ፖሊሲዎችን ለማጋራት፣ የ RMC GitHub ማከማቻን⁠(በአዲስ መስኮት ውስጥ ይክፈታል)ይጎብኙ።

ገንቢዎችና ድርጅቶች እነዚህን ፖሊሲዎች ለራሳቸው ልዩ መተግበሪያዎች ማላመድ፣ ወደተለያዩ ቋንቋዎች መተርጎም፣ እና ተጨማሪ የአደጋ መስኮችን እንዲሸፍኑ ማስፋት ይችላሉ። ከጊዜ ወደ ጊዜ፣ ይህ ነገር በኤ.አይ ሥርዓቶች ውስጥ የደህንነት ፖሊሲዎችን ለመተግበር ይበልጥ ጠንካራ እና የጋራ መሠረት ያበረክታል ብለን ተስፋ እናደርጋለን።

gpt-oss-safeguardን መጠቀም ለመጀመር፣ ከ Hugging Face⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ያውርዱት።