ЖИ прогресі және ұсынымдар

Тьюринг тесті туралы кең таралған түсінік зу етіп өтіп кеткенде, көбімізге күнделікті өмірдің бұрынғыдай жалғаса бергені сәл оғаш көрінді. Бұл — адамдар ондаған жыл бойы айтып келген белес еді. Әуелде оған жету мүмкін емес сияқты көрінді, сосын кенет жақындап қалғандай болды, артынша біз одан өтіп те кеттік. Біз бірнеше тамаша жаңа өнім алдық, бірақ компьютерлер енді әңгімелесіп, күрделі мәселелер туралы ойлай алса да, әлемде айтарлықтай көп нәрсе өзгерген жоқ.

Әлемнің басым бөлігі әлі де ЖИ-ді чатботтар мен іздеудің жақсаруы деп қабылдайды, бірақ бүгінде бізде ең қиын интеллектуалдық жарыстарымыздың кейбірінде ең ақылды адамдардан да оза түсетін жүйелер бар. ЖИ жүйелері әлі де біркелкі емес және елеулі әлсіздіктерге тап болса да, осындай қиын мәселелерді шеше алатын жүйелер ЖИ зерттеушісіне апарар жолдың 20%-ынан гөрі 80%-ына көбірек ұқсайды. Көпшілік ЖИ-ді қалай қолданып жүргені мен ЖИ-дің қазіргі шынайы мүмкіндіктерінің арасындағы алшақтық орасан зор.

Жаңа білім аша алатын ЖИ жүйелері — өздігінен болсын немесе адамдардың тиімділігін арттыру арқылы болсын — әлемге елеулі ықпал етуі ықтимал.

Бірнеше жылдың ішінде ЖИ адам бірнеше секундта орындай алатын тапсырмалардан (әсіресе бағдарламалық жасақтама инженериясы саласында) адамға бір сағаттан астам уақыт кететін тапсырмаларға дейін жетті. Жақын арада адамға бірнеше күн не апта кететін тапсырмаларды орындай алатын жүйелер пайда болады деп күтеміз; ал адамға ғасырлар керек болатын тапсырмаларды орындайтын жүйелер туралы қалай ойлау керегін білмейміз.

Сонымен қатар, белгілі бір интеллект деңгейінің бір бірлігіне шаққандағы құн күрт төмендеді; соңғы бірнеше жылда жылына 40 есе төмендеу — орынды баға!

2026 жылы ЖИ өте шағын жаңалықтар аша алатын деңгейге жетеді деп күтеміз. 2028 жылы және одан кейінірек, біз әлдеқайда маңызды ашылымдар жасай алатын жүйелерге ие боламыз деп әбден сенеміз (әрине, қателесуіміз мүмкін, бірақ зерттеуіміздің ілгерілеуі соны көрсетіп тұрғандай).

Біз ЖИ прогресі күтпеген жолдармен өрбитінін және қоғам технологиямен бірге қатар дамудың жолдарын табатынын бұрыннан сеземіз. Алдағы бірнеше жылда ЖИ мүмкіндіктері тез әрі елеулі түрде өседі деп күтсек те, күнделікті өмір таңғаларлықтай тұрақты болып қала береді деп ойлаймыз; әлдеқайда жақсы құралдар болғанның өзінде, біздің өмір сүру салтымызда инерция көп.

Атап айтқанда, болашақ мағыналы өмір сүрудің жаңа әрі жақсырақ жолдарын ұсынады және мұндай өмірді бүгінгіден де көбірек адам сезінеді деп күтеміз. Рас, еңбек басқаша болады, экономикалық өтпелі кезең кей жағынан өте қиын болуы мүмкін, тіпті негізгі әлеуметтік-экономикалық келісімнің өзі өзгеруі де ғажап емес. Бірақ молшылық кең таралған әлемде адамдардың өмірі бүгінгіден әлдеқайда жақсы болуы мүмкін.

ЖИ жүйелері адамдарға өз денсаулығын түсінуге көмектеседі, материалтану, дәрі жасау және климатты модельдеу сияқты салалардағы прогресті жеделдетеді және әлемдегі оқушыларға жекелендірілген білімге қолжетімділікті кеңейтеді. Осындай нақты игіліктерді көрсету ЖИ өмірді жай ғана тиімдірек емес, жақсырақ ете алатын әлем туралы ортақ көзқарасты қалыптастыруға көмектеседі.

OpenAI қауіпсіздікке берік бейіл⁠, ал біз мұны ЖИ-дің жағымды әсерлерін теріс салдарын азайту арқылы іске асыру тәжірибесі деп түсінеміз. Ықтимал пайдалар орасан зор болғанымен, біз суперинтеллектуалды жүйелердің тәуекелдерін әлеуетті апатты деп қараймыз және рекурсивті өзін-өзі жетілдіре алатын жүйелерге жақындаған сайын бүкіл саланың дамуды баяулатып, бұл жүйелерді мұқият зерттеуі керек пе деген сияқты жаһандық шешімдерге қауіпсіздік пен үйлестіруді эмпирикалық түрде⁠ зерттеу⁠ қауіпсіздік⁠ пен үйлестіруді⁠ зерттеу көмектесе алады деп сенеміз. Әрине, ешкім суперинтеллектуалды жүйелерді оларды сенімді түрде үйлестіріп, бақылай алмай тұрып іске қоспауы керек, ал бұл үшін қосымша техникалық жұмыс қажет.

Міне, ЖИ-мен бірге оң болашаққа жетуге көмектесуі мүмкін деп санайтын бірнеше нәрсе:

Біздің ойымызша, озық зертханалар қауіпсіздіктің ортақ қағидаттарына келісіп, қауіпсіздік зерттеулерімен бөлісуі⁠, жаңа тәуекелдер туралы сабақтарын, жарыс динамикасын азайтатын тетіктерді және тағы басқасын ортақтастыруы керек. Мысалы, озық зертханалардың ЖИ-ді бақылау бағалауларына қатысты белгілі бір стандарттарға келісуі өте пайдалы болуы мүмкін деп елестете аламыз.

Қоғам осыған ұқсас үдерістен құрылыс нормалары мен өрт қауіпсіздігі стандарттарын бекіту кезінде өткен, ал олар сансыз көп өмірді сақтап қалды.

ЖИ туралы екі түрлі ойлау мектебі бар. Бірі — ЖИ «қалыпты технология» сияқты, яғни ол баспа станогынан интернетке дейінгі бұрынғы технологиялық революциялар секілді дамиды дейді. Оқиғалар адамдар мен қоғамға бейімделуге мүмкіндік беретіндей өрбиді, ал мемлекеттік саясаттың дәстүрлі құралдары жұмыс істеуі тиіс. Біз инновацияны қолдау, ЖИ-мен әңгімелердің құпиялылығын қорғау және федералдық үкіметпен серіктесе отырып, қуатты жүйелерді зиянкес субъектілердің теріс пайдалануынан қорғану сияқты идеяларға басымдық беруіміз керек.

Біздіңше, шамамен қазіргі деңгейдегі ЖИ осы санатқа жатады және барлық жерге таралуы керек, бұл әзірлеушілердің көпшілігіне, ашық бастапқы кодты модельдерге және бүгінгі технологияны енгізудің басым бөлігіне қазірдің өзінде бар талаптармен салыстырғанда ең аз қосымша реттеуші жүктеме түсуі керек дегенді білдіреді. Әсіресе, ол 50 штаттық бытыраңқы жүйеге тап болмауы тиіс.

Екіншісі — суперинтеллект адамзат бұрын-соңды көрмеген жолдармен және жылдамдықпен дамып, таралатын жағдай. Мұнда біз жоғарыдағылардың көбін істеуіміз керек, бірақ сонымен бірге анағұрлым жаңашыл болуға тура келеді. Егер мұндай нәрсеге қоғамның «қалыпты жолмен» бейімделуі қиын болады деген алғышарт дұрыс болса, онда кәдімгі реттеуден де көп нәтиже күтуге болмайды. Мұндай жағдайда бізге бірнеше елдің атқарушы билігімен және оған қатысты мекемелерімен (мысалы, түрлі қауіпсіздік институттарымен) тығыз жұмыс істеу қажет болуы мүмкін, әсіресе ЖИ-дің биотерроризмде қолданылуын азайту (және биотерроризмді анықтау мен алдын алуда ЖИ-ді пайдалану) мен өзін-өзі жетілдіретін ЖИ салдары сияқты бағыттарда үйлесімді әрекет ету үшін.

Ең бастысы — қоғамдық институттар алдындағы есептілік болуы керек, бірақ оған жету жолы өткеннен өзгеше болуы мүмкін.

Қай сценарий болса да, ЖИ-ге төзімділік экожүйесін дамыту аса маңызды болады. Интернет пайда болғанда, біз оны бір ғана саясатпен немесе бір компаниямен қорғамадық — біз тұтас киберқауіпсіздік саласын құрдық: бағдарламалық жасақтама, шифрлау хаттамалары, стандарттар, мониторинг жүйелері, жедел әрекет ету топтары және т.б. Бұл экожүйе тәуекелді толық жойған жоқ, бірақ оны қоғам өмір сүре алатын деңгейге дейін азайтты, соның арқасында адамдар цифрлық инфрақұрылымға жеткілікті сеніп, өз өмірі мен экономикасын соның үстіне құра алды. ЖИ үшін де соған ұқсас нәрсе керек болады, әрі мұны ынталандыратын өнеркәсіптік саясатты ілгерілетуде ұлттық үкіметтердің рөлі зор.

ЖИ-дің әлемге нақты қалай әсер етіп жатқанын түсіну бұл технологияны оң ықпалға қарай бағыттауды жеңілдетеді. Болжау қиын: мысалы, ЖИ-дің жұмыс орындарына әсерін алдын ала көру қиын болды, себебі бүгінгі ЖИ-дің күшті және әлсіз жақтары адамдікінен мүлде өзгеше. Іс жүзінде не болып жатқанын өлшеу өте мазмұнды ақпарат беруі ықтимал.

Біздің ойымызша, ересектер қоғам белгілеген кең шектер аясында ЖИ-ді өз қалауынша пайдалана алуы керек. Алдағы жылдары озық ЖИ-ге қолжетімділік электр қуаты, таза су немесе азық-түлік сияқты іргелі қызметке айналады деп күтеміз. Түптеп келгенде, қоғам бұл құралдардың кеңінен қолжетімді болуын қолдауы керек, ал басты бағдар адамдарға өз мақсаттарына жету үшін күш беру болуы тиіс.