በሰው ሠራሽ አስተውሎት (AI) አሰላለፍ ላይ ገለልተኛ ምርምርን ማራመድ

የሰው ሠራሽ አስተውሎት (AI) ሥርዓቶች የበለጠ አቅም ያላቸው እና ራሳቸውን የቻሉ እየሆኑ ሲሄዱ፣ የአሰላለፍ ምርምር ፍጥነትን እና ልዩነትን መጠበቅ አለበት። በOpenAI፣ ለተልዕኮአችን ወሳኝ ስለሆነ በግንባር ቀደም ማስተካከያ እና ደኅንነት ምርምር ላይ በከፍተኛ ኢንቨስት እናደርጋለን። በተጨማሪም AGI ለሁሉም ሰው ደኅንነቱ የተጠበቀ እና ጠቃሚ መሆኑን ማረጋገጥ በማንኛውም ድርጅት ሊከናወን እንደማይችል እናምናለን፣ እና ከድንበር ላቦራቶሪዎች ውጭ ሊተገበሩ የሚችሉ ገለልተኛ ምርምር እና ፅንሰ-ሀሳባዊ አቀራረቦችን መደገፍ እንፈልጋለን። የሰው ሠራሽ አስተውሎት (AI) የወደፊት ዕጣ ፈንታ ማንም ሰው እንደሚተነብየው በትክክል እንደማይገለጥ እናምናለን፣ እናም ውጤቱን በመቅረጽ ረገድ ብዙ ሰዎች ድርሻ ሊኖራቸው ይገባል ብለን እናምናለን።

ዛሬ፣ በUK የሰው ሠራሽ አስተውሎት (AI) ደኅንነት ተቋም (UK AISI) የተፈጠረውን ገለልተኛ የአሰላለፍ ጥናት ለማካሄድ ለሚሠራው ዓለም አቀፍ የአሰላለፍ ፕሮጀክት⁠(በአዲስ መስኮት ውስጥ ይክፈታል)$7.5 ሚሊዮን ድጋፍ እያሳወቅን ነው። የህዳሴ በጎ አድራጎት ድርጅት የእርዳታውን አስተዳደር እየደገፈ ነው። ይህ አስተዋጽኦ የአሰላለፍ ፕሮጀክቱ እስከ ዛሬ ድረስ ለገለልተኛ የማስተካከያ ምርምር ከተሰጡ ትልቁ የተለየ የገንዘብ ድጋፍ ጥረቶች አንዱ እንዲሆን ይረዳል እና ሰፊውን ገለልተኛ ሥነ-ምህዳር ያጠናክራል።

እንደ OpenAI ያሉ ግንባር ቀደም ላብራቶሪዎች ወደ ግንባር ቀደም ሞዴሎች ተደራሽነት እና ከፍተኛ የኮምፒውት ኃይል ላይ የሚመሰረት የማስተካከያ ምርምርን ለመከታተል በልዩ አቋም ላይ ናቸው—ይህም ሥራ ብዙ ጊዜ ለገለልተኛ ተመራማሪዎች ለመመርመር አስቸጋሪ ይሆናል። የአሰላለፍ እድገቱ ከአቅም እድገት ጋር እኩል እንዲሆን ለማድረግ የውስጣዊ አሰላለፍ ጥረታችንን በስፋት ለማጎልበት እናውል። ተደጋጋሚ ማሰማራት—ቀስ በቀስ ችሎታዎችን በመጨመር እና መከላከያዎችን በማጠናከር—ችግሮችን ቀደም ብሎ ለማጋለጥ ይረዳል እና በተግባር ምን እንደሚሠራ ተጨባጭ ማስረጃ ይሰጠናል፣ እና ኃላፊነት የሚሰማው ልማት ከሞዴል ግንባታ እና ማሰማራት ጋር በጥብቅ የተዋሃደ ጉልህ የሆነ የማጣመር እና የደኅንነት ሥራን እንደሚፈልግ እናምናለን።

በተመሳሳይ መልኩ፣ መስኩ በገለልተኛ፣ በአሰሳ ጥናት ላይ ዘላቂ ኢንቨስትመንት ከማግኘት ጥቅም ያገኛል—ይህም የሃሳቦችን ቦታ ማስፋት እና አዳዲስ አቅጣጫዎችን ሊያሳይ ይችላል። ገለልተኛ ምርምር አሁንም አስፈላጊ ነው፤ በብዙ ዓይነት ጠቃሚ ጥያቄዎች፣ ላቦራቶሪዎች የንፅፅር ጥቅም የላቸውም። ጤናማ የአሰላለፍ ሥነ-ምህዳር የሚወሰነው ገለልተኛ ቡድኖች የተለያዩ ግምቶችን በመሞከር፣ አማራጭ ማዕቀፎችን በማዘጋጀት እና ከማንኛውም ድርጅት የመንገድ ካርታ ጋር በትክክል የማይጣጣሙ ፅንሰ-ሀሳባዊ፣ ቲዎሬቲካል እና ሰማያዊ ሰማይ ጠቀስ ሀሳቦችን በመፈለግ ላይ ነው።

እናም ወደ AGI የሚደረገው እድገት በመጨረሻ የአሰላለፍ ችግሩን ቅርፅ በሚቀይሩ እና የትኞቹ አቀራረቦች በጣም ጠቃሚ እንደሆኑ በሚወስኑ መሰረታዊ ግኝቶች ላይ የተመሰረተ ሊሆን ስለሚችል፣ የዛሬዎቹ ዋና ዋና ዘዴዎች እኛ በምንጠብቀው መንገድ ባይሰፉም እንኳን አስፈላጊ የሆኑ ጥናቶችን መደገፍ አስፈላጊ ነው። በእነዚያ ዓለማት ውስጥ፣ ጠንካራ ውጫዊ ሥነ-ምህዳር መሰረታዊ፣ ፅንሰ-ሀሳብ እና ያልተያያዘ ሥራ መሥራት በተለይ አስፈላጊ ይሆናል። የሰው ሠራሽ አስተውሎት (AI) አሰላለፍ እና ደኅንነት ችግር ታይቶ የማይታወቅ ጠቀሜታ አለው፣ እና ችሎታዎች እየገፉ ሲሄዱ የትኞቹ አቀራረቦች በጣም ዘላቂ እንደሆኑ እስካሁን ስለማናውቅ ሁሉንም ነገር በእጃችን ላይ ማድረግ አለብን።

የእኛ የገንዘብ ድጋፍ—በአሁኑ የምንዛሬ ተመኖች መሠረት በግምት £5.6 ሚሊዮን—ከሌሎች የህዝብ፣ የበጎ አድራጎት እና የኢንዱስትሪ ደጋፊዎች ጋር የአሰላለፍ ፕሮጀክቱን በጋራ ይደግፋል⁠(በአዲስ መስኮት ውስጥ ይክፈታል)። ጠቅላላ ፈንዱ ከ£27 ሚሊዮን በላይ ሲሆን በዓለም ዙሪያ ሰፊ የሆነ የተጣጣሙ የምርምር ፕሮጀክቶችን ለመደገፍ የተነደፈ ሲሆን እንደ የኮምፒውተር ውስብስብነት ቲዎሪ፣ የኢኮኖሚ ቲዎሪ እና የጨዋታ ቲዎሪ፣ የኮግኒቲቭ ሳይንስ እና የመረጃ ቲዎሪ እና ክሪፕቶግራፊ ያሉ የተለያዩ ርዕሶችን ያካትታል። እያንዳንዱ ፕሮጀክት በተለምዶ በ£50,000 እስከ £1 ሚሊዮን ድረስ ይደገፋል፣ እና በተጨማሪም ለኮምፒውት ሀብቶች እና ለባለሙያ ድጋፍ አማራጭ መዳረሻ ሊያገኝ ይችላል።

ገንዘባችን አዲስ ፕሮግራም ወይም የምርጫ ሂደት አይፈጥርም፣ ወይም አሁን ያለውን ሂደት አይጎዳም፤ በአሁኑ ዙር የገንዘብ ድጋፍ ሊደረግላቸው የሚችሉ አስቀድመው የተረጋገጡ፣ ከፍተኛ ጥራት ያላቸውን ፕሮጀክቶች⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ቁጥር ይጨምራል።

የUK AISI በዚህ ደረጃ እና ክልል ውስጥ የገንዘብ ድጋፍን ለማመቻቸት ጥሩ ቦታ ላይ ትገኛለች። በመንግስት፣ በትምህርት፣ በበጎ አድራጎት እና በኢንዱስትሪው ውስጥ የተቋቋመ የዘርፍ ጥምረት እንዲሁም ቀድሞውኑ በእንቅስቃሴ ላይ ያለ የዕርዳታ መስመር እና በባለሙያዎች ግምገማ የተደረገባቸው በርካታ ሀሳቦችን ያመጣል። በሳይንስ፣ ፈጠራ እና ቴክኖሎጂ ዲፓርትመንት (DSIT) ውስጥ እንደ የUK መንግስት የምርምር ድርጅት እንደመሆኑ መጠን፣ በከባድ የሰው ሠራሽ አስተውሎት (AI) አደጋዎች ላይ ያተኮረ ኃላፊነት ያለው ሲሆን የምርምር የገንዘብ ድጋፍ ፕሮግራሞችን በማስኬድ ልምድ አለው።

የሰው ሠራሽ አስተውሎት (AI) የወደፊት ሁኔታ ማንም ሰው እንደሚተነብየው በትክክል ስለማይገለጥ—እና በጣም በፍጥነት ሊሻሻል ስለሚችል—ዴሞክራሲያዊነት፣ «የሰው ሠራሽ አስተውሎት (AI) መቋቋም» እና ተደጋጋሚ ማሰማራት አስፈላጊ ናቸው ብለን እናምናለን። በOpenAI የግንባር ቀደም አሰላለፍ እና የደኅንነት ምርምራችንን ማጠናከር ስንቀጥል፣ አቅሞች እየገፉ ሲሄዱ፣ ጠንካራ፣ የተለያየ እና ገለልተኛ የሆነ ሥነ-ምህዳር ከማግኘት ጥቅም ያገኛል። ይህ እርዳታ ለዚያ ግብ አንድ እርምጃ ነው። መስኩ እየገፋ ሲሄድ ከሰፊው የምርምር ማህበረሰብ ጋር መተባበርን ለመቀጠል በጉጉት እንጠባበቃለን።