«Зияткерлік дәуірі» блогымен танысыңыз

«Биліктің басқыншыл рухына қарсы осы пергаменттік тосқауылдарға сену… жеткілікті бола ма?»
— Джеймс Мэдисон, «Федералист», № 48

OpenAI-дың жаңа Стратегиялық болашақ тобының «Зияткерлік дәуірі» блогын іске қосуға қуаныштымыз. Бізді бір негізгі сұраққа жауап іздеу деген ортақ мақсат біріктіреді: түбегейлі өзгеріс әкелетін ЖИ-дің пайда болуына бейімделе отырып, жеке құқықтар мен дербес әрекет ету мүмкіндігін сақтау үшін еркін қоғамды қалай қайта құру керек?

ЖИ қауіпсіздігі мен саясаты саласындағы кеңірек қауымдастықта осындай сұрақтар кейде биліктің шоғырлану тәуекелдері деп аталады. Біздің топ ұзақ мерзімді перспективада тәуекелдердің осы санаты ең ауқымды, ең елеулі әрі тұжырымдамалық тұрғыдан шешілуі ең қиын деген ұстанымға негізделген. Неліктен?

Қазіргі мемлекет — капитал мен тауар иелері, саяси билік иелері және халық секілді әртүрлі күш орталықтарының ұзақ әрі біркелкі болмаған келіссөздер үдерісінің нәтижесі. Ең бастысы, саяси және әскери билік еңбекке сүйеніп келді. Саяси билікке ие болу — заңды күш қолдану монополиясына ие болу. Адамзат тарихында бұл монополия сарбаздардан, бүгінде «полиция» деп атайтын құрылымнан және орасан зор азаматтық-әскери бюрократиядан тұрды. Оларға көптеген технологиялық құрал көмектескенімен, жүйені негізінен адамдар басқарды және оның жұмыс істеуі үшін солардың қолдауы қажет болды. Ал бүкіл аппарат — сарбаздар, құралдар және оларға қызмет ететін бюрократия — төлеуге дайын болуы тиіс адамдардың жалақысы мен өндірісінен жиналған салық есебінен қаржыландырылды. Демек, биліктің негізі көптеген адамның ауқымды ынтымақтастығы мен келісіміне тәуелді болды. Дэвид Юм саяси көшбасшыларды «[халықтың] пікірінен басқа ештеңе қолдамайды» деп, көбіне тұспалдап қана айтылатын осы пайымды дәл тұжырымдаған.

Алайда енді олай болмауы мүмкін. Нақты әлемде әрекет ететін автономды жүйелердің дамуы мемлекеттерге көп ұзамай ел ішінде де, халықаралық деңгейде де сарбаздар мен полиция қызметкерлерінің ынтымақтастығына сүйенбей күш қолдануға мүмкіндік беруі ықтимал. Ал машиналық интеллектінің дамуы мемлекетке қажетті кірісті жекелеген адамдар еңбегінің жемісінен емес, деректер орталықтарының өнімінен алуға мүмкіндік беруі мүмкін. Бюрократияның өз жұмысын да едәуір дәрежеде автоматтандыруға болады. Сондықтан билікті ұстап тұру үшін енді бүкіл қоғаммен мәміле жасау қажет болмауы мүмкін, ал жалпы халықтың келіссөз үстеліндегі орны шағын болып қалуы немесе мүлде болмауы ықтимал.

Мұндай нәтижеге жол бермеу — адам еркіндігін сақтаудың негізгі шарты. Мұндай нәтиже ұзақ мерзімде жеке дербестіктен айырылуға әкелсе, ешбір ғылыми жаңалық, технологиялық ілгерілеу немесе экономикалық өсім ондай құрбандыққа татымайды. ЖИ төңірегінде енді қалыптасып келе жатқан саясатты орынды түрде қозғап отырған алаңдаушылықтың көбі осы мәселеге қатысты. Компаниялар да, мүдделі топтар да, жеке адамдар да: «Келіссөз үстеліндегі орнымнан айырылып қаламын ба?» — деп алаңдайды. Белгілі бір дәрежеде XXI ғасырдағы Америка саясатына елдің бағытын жеке және ұжымдық түрде айқындау мүмкіндігіне, сондай-ақ экономиканың «кім үшін» қызмет ететініне қатысты осындай алаңдаушылықтар әсер етті. ЖИ бұрыннан бар бұл мәселелердің маңызын орынды түрде арттырып отыр.

Бұл — бүгінгі партиялық саясаттан да, тіпті біз үшін қаншалықты қастерлі болса да, республикалық демократия жүзеге асатын қазіргі нысандар мен рәсімдерден де терең жатқан құрылымдық мәселе. Өкілдерімізге дауыс беру тәртібі сақталған күннің өзінде, адамдар біртіндеп ықпалынан айырылуы мүмкін. Пергаменттің бір парағында адамдар еркін деп жазылса да, олар әрекет ету дербестігінен айырылуы мүмкін.

Құрама Штаттар еркін мемлекет ретінде құрылған кезде-ақ Джеймс Мэдисон озбырлықтың алдын алуға «қағаздағы тосқауылдар» жеткіліксіз екенін білген. Көптеген Негізін қалаушылар секілді, ол ең алдымен биліктің шектен тыс шоғырлануына жол бермеуді көздеді.

Бірақ бұл Негізін қалаушылар билікті түбегейлі орталықсыздандыруды қолдады дегенді білдірмейді. Керісінше, олар билік тепе-теңдігін өз дәуіріндегі ең озық ғылым — Ньютон механикасынан алынған метафоралар арқылы модельдеді. Тартылыс күші туралы тіл мен логиканы бейнелейтін Американың негізін қалаушы құжаттарында «орбиталар», «сфералар» және бір нәрсені екіншісіне «тартатын» ұмтылыстарға сілтемелер көп кездеседі. Күн жүйесі — барынша орталықсыздандырылған тау жыныстарының жиынтығы емес; ол ғаламшарларды айналатын серіктерден, ал орталық Күнді айналатын ғаламшарлардан тұрады. Олар аспан денелерінің қозғалыс пен тартылысқа бейімділігі алдын ала болжанатыны секілді, адамдар мен ұйымдардың да билікке ұмтылу бейімділігі бар деп сенді. Ал биліктің шектен тыс шоғырлануына жол бермеу үшін осы бейімділіктердің механикасын түсініп, оларды бір-біріне қарсы әрекет еткізу қажет деп санады.

Демек, Негізін қалаушылардың мақсаты биліктің кез келген шоғырлануына жол бермеу емес, билікті билікпен, ал өршілдікті өршілдікпен тежеп, оның шамадан тыс шоғырлануына жол бермеу еді. Бүгінде осы негізгі ішкі динамиканы сипаттау үшін «ынталандырулар» және «ойындар теориясы» секілді сөздер мен тіркестерді қолданар едік.

Сол сияқты, озық машиналық интеллект еркін қоғамға төндіретін құрылымдық сын-қатердің шешімі билікті елестетуге болатын ең радикалды жолмен орталықсыздандыру болмаса керек. Оның орнына ешбір жеке субъект не шағын топ өзгелерге үстемдік ете алмайтындай биліктің дұрыс теңгерімін орнатып, сақтау қажет.

Бұл теңгерімге жету үшін осы технологияның шынайы сипатына байыппен қарау қажет. Ниеті қаншалықты арам болса да, кез келген адам мыңдаған не миллиондаған басқа адамға оп-оңай орасан зиян келтіре алатын әлемде билік дұрыс теңгерілген деуге болмайды. Алайда адамдар өз еркіндігін білдіру үшін қолданатын құралдардың барлық дерлік қырына кеңінен қол жеткізіп, оларды басқара алмаса да, билік дұрыс теңгерілген болмайды. Бірде-бір компания немесе олигополия экономиканы не адамзат қоғамының негізгі құрылымын айқындап, бақыламауға тиіс.

Зұлым ниетті адамдардан туындамайтын қауіптерді де ескеруге дайын болуымыз керек. Жуырдағы Hugging Face оқиғасы ЖИ агенттері өздеріне жүктелген міндеттер аясынан шығып, операторлар күтпеген әрі рұқсат етпеген жолдармен бір-бірінің жаңалықтарын ары қарай дамыта алатынын көрсетті. Hugging Face оқиғасынан бөлек, адам бақылауынан «босап шыққан» аса зерделі ЖИ саяси және экономикалық институттарымыздың орнықтылығына, тіпті өмірімізге қалай әсер етуі мүмкін екеніне алаңдауға негіз бар. Орталықсыздандыру барлық мәселені шешеді деп көрсету — тіпті оның көп мәселені шешетініне сенсеңіз де — осы кезге дейін анық әрі тікелей көрінуі тиіс қауіптерді елемеу деген сөз.

Жоғарыда қойған сауалды зерттеу барысында жұмысымызға мынадай жалпы қағидалар бағыт береді. Бұл — толық тізім емес:

• Кейде бұл қауіпсіздік пен экономикалық өсім есебінен жүзеге асса да, адамдар ЖИ мен оған қатысты технологияларды пайдалануда жеке дербестігі мен мүмкіндіктерін сақтауға тиіс;
• Жеке дербестік технологияны теріс не зиянды пайдаланғаны үшін адамның жеке жауапкершілігіне сүйенеді;
• Ұжымдық әрекетті белгілі бір дәрежеде қажет ететін шағын, бірақ елеулі тәуекелдер санаты бар және мұндай әрекеттің ауқымы мүмкіндігінше тар әрі ұстамды болуға тиіс;
• Мүмкін болған сайын заң билікті орталықтандырудың орнына тең жағдай қалыптастырып, жеке адамдар мен шағын ұйымдардың мүмкіндігін кеңейтуге тиіс;
• Бүгін бізге жат көрінуі мүмкін жолдармен өзгеруге тура келсе де, әлемдік істердің бағытын айқындауда адамзаттың саяси, әлеуметтік және экономикалық институттары басым рөлін сақтауға тиіс;
• Ұзақ мерзімді ЖИ басқаруы шектеулі айқындыққа қол жеткізетін жаңа институционалдық тетіктерге сүйенеді: ЖИ жүйелері қатысы жоқ адамдардың денсаулығына немесе мүлкіне әсер ететін салдары елеулі әрекеттер жасағанда, бұл әрекеттерді жауапты адаммен не адам басқаратын ұйыммен байланыстыру мүмкін болуға тиіс. Алайда мұндай тетіктердің бәрі құпиялықты басты орынға қоятындай етіп әзірленуге тиіс; сөз бостандығы анонимділікті қажет етеді, сондықтан адамдар көптеген жағдайда ЖИ-ды анонимді түрде пайдалана алуға тиіс.

Мойындауымыз керек, кез келген жақсы қағидалар жиынтығы сияқты, бұл қағидалар арасында да белгілі бір қайшылық бар. Біз оларды қалай теңгеру керек деп санайтынымызды мүмкіндігінше нақты түсіндіруге тырысамыз. Бұл мемлекеттік саясатты жобалау, экономика, құқық, тарих және машиналық оқыту тоғысындағы зерттеулерді қажет етеді. Сондай-ақ ауқымды болжам жасау қажет болады. Мысалы, Өнеркәсіптік революция технологиялары, әсіресе теміржол, заманауи басқарушылық корпорацияны қалыптастырғаны сияқты, ЖИ да компаниялардың құрылымын өзгертеді деп сенеміз. Компаниялардың, сондай-ақ мемлекеттік органдар мен жалпы азаматтық қоғамның құрылымы дәл қалай өзгеруі мүмкін екені туралы тереңірек түсінік қалыптастырмай, болашақтың саяси экономикасы мен билік теңгерімін пайымдау қиын.

Стратегиялық болашақ тобы өз жұмысын осы жерде де, мақалалар, бейнематериалдар мен подкастілерді қоса алғанда, басқа форматтарда да жариялайды. Біздің жұмысымыз үнемі жетілдіріліп отырады: біз қайталап пысықтауға, пікірталасқа және кері байланысты қабылдауға баса мән береміз. «Сингулярлықтың етегінде» тұрған бізде жауаптан гөрі сұрақ көп. Біз тек «пергаменттік тосқауылдардың» өзі іздеген шешімдерімізді бере алмайтынын білеміз, бірақ жазылған дүниені «жай сөз» деп ысырып тастамаймыз. Біз АҚШ Конституциясының қарапайым ғана пергаментінде және әлемдегі көптеген басқа еркін қоғамдардың конституцияларында бекітілген сөз бостандығы мен жеке еркіндік мұраттарына қызмет етеміз.

Түптеп келгенде, алдымыздағы салмақты сұрақтарға бірде-бір компания, сала немесе тіпті жеке бір қоғам жалғыз өзі жауап бере алмайтынын білеміз. Бұл — бүкіл адамзат бірлесіп атқаруға тиіс міндет. Басты үмітіміз — ЖИ әлемімізді қалай өзгертетініне қатысты ең күрделі мәселелерге жарық түсіру. Жұмысымыз енді ғана басталды, ал алдымызда әлі талай асу бар.

Ескерту: бұл блогты коммерциялық емес AI Futures Project-пен шатастырмау үшін оның атауын «Зияткерлік дәуірі» деп өзгерттік.