Mwafaka wa Kimyakimya
Dokezo la mwandishi: Insha ya leo imetokana na mhadhara ambao mwandishi alitoa hivi karibuni katika mfululizo wa Mihadhara ya Vik-Bailey huko Harvard. Makala hii inaakisi maoni ya mwandishi mwenyewe, na si lazima yawe maoni ya OpenAI au ya wafanyakazi wake wengine.
Asanteni kwa kuwa hapa leo. Tunapozungumza sasa, mojawapo ya misururu muhimu zaidi ya matukio ya usalama wa mtandao katika historia inaendelea: ufichuzi wa mianya mikubwa ya usalama ambao baadhi wanauita “Oktoba Nyeusi.” Mianya hii, iliyopatikana katika baadhi ya miundombinu ya msingi ya intaneti, iligunduliwa na mifumo ya AI ya mpaka, na ufichuzi wake ni sehemu ya juhudi za haraka za kuimarisha usalama wa programu duniani kote. Hili ndilo suala la dharura mwezi huu; mwezi ujao kutakuwa na jingine. Kugundua mianya katika programu ndio uwezo unaoweza kutumiwa kwa mema au mabaya ambao mifumo ya AI imeufikia leo, lakini hivi karibuni kutakuwa na mwingine. Nao utachochea mradi wake wa dharura wa kutumia upande mzuri wa uwezo huo kabla wenye nia mbaya hawajatumia upande wake mbaya. Bila shaka, masuala haya yote ya dharura yatatokea kwa wakati mmoja, na sehemu kubwa ya kile tunachokiita “sera ya AI” leo huenda ikaundwa katikati ya pilikapilika hizi.
Lakini sikuja kuzungumza nanyi leo kuhusu mambo ya kuitikia matukio na kushughulikia dharura. Badala yake, nataka kuzungumza nanyi kuhusu mwelekeo ambao mambo yanaweza kuchukua tukitazama picha pana. Katikati ya wimbi kama hili la mambo ya dharura, inaweza kuwa vigumu kutafakari maswali haya ya kinadharia yanayoonekana kuwa mbali na uhalisia. Lakini maswali haya ni muhimu, kwa sababu bila kufahamu tungependa kufikia mustakabali gani wa muda mrefu—na tungependa kuepuka upi—tunaweza kujikuta na matokeo ya jumla tusiyoyataka, hata kama tulifanya maamuzi ya busara katika kila hatua.
Mara nyingi husemwa kwamba sekta ya teknolojia haina maono chanya kuhusu mahali ambapo vitu inavyounda vitatupeleka. Sikubaliani na hilo: San Francisco na vituo vingine vya ujasiriamali vimejaa maono chanya ya mustakabali wetu wa kiteknolojia. Kwa kweli watu wanaunda magari yanayoruka, magari yanayojiendesha, roboti za ukubwa na maumbo mbalimbali, teknolojia ya muungano wa nyuklia, na bila shaka, akili unde ya jumla. Tunachokosa badala yake ni maono chanya ya mustakabali wa taasisi zetu: haya yote yataendeshwaje?
Hata hivyo, hiyo haimaanishi kwamba hakuna maono ya mustakabali wa taasisi. Kwa bahati mbaya, maono ninayoyaona mara nyingi zaidi si yale ambayo ningeyaita chanya. Yanaposemwa, kwa kawaida ni kwa minong'ono. Lakini mara nyingi zaidi hayasemwi; unaweza kuyatambua tu kutokana na yanayodokezwa. Ninayaita mwafaka wa kimyakimya.
Fikiria kampuni inayoweza kufanya karibu kila kitu bila kazi ya binadamu. Mifumo yake ya AI hufanya utafiti na uendelezaji, hugundua mambo mapya, hujadili mikataba, hugawa mtaji na kutengeneza bidhaa. Tuseme inafanya mambo haya vizuri zaidi kuliko washindani wake wanaoendeshwa na binadamu, hata binadamu hao wanapotumia AI kuongeza uwezo wao. Ikiwa ushiriki wa binadamu unachangia tu kuichelewesha biashara, wasimamizi na wamiliki wake watakuwa na kishawishi kikubwa cha kuondoa mikono yao kwenye usukani. Hili likitokea kote katika uchumi wa dunia, mantiki ya ushindani wa soko itawasukuma binadamu kuachia nafasi yao ya uongozi katika biashara ya kimataifa. Baada ya muda, soko linaweza kuanza kutimiza mahitaji ya mashine kwa kiwango sawa na, au hata zaidi ya, linavyotimiza mahitaji na matamanio ya watu.
Kitakachotokea baada ya hapo, hakuna anayejua. Huenda binadamu wangenufaika pakubwa. Ikiwa mashine ambazo zingekuwa zimetuweka chini ya mamlaka yake zingewathamini sana binadamu kwa sababu tu ya ubinadamu wao, tungeweza kufaidika na kazi zake na utajiri unaotokana nazo. Au labda, baada ya kunyang'anywa nguvu za kiuchumi na, hatua kwa hatua, za kisiasa, sisi binadamu tutajikuta tukizidi kukosa umuhimu duniani na uwezo wa kuathiri mwelekeo wa mambo ya dunia. Huenda binadamu wachache wangekuwa na mamlaka na utajiri mkubwa ajabu, huku umma mkubwa ukipoteza nguvu zake, au huenda sote tungejikuta katika hali hiyo hiyo ya kupokonywa mamlaka. Bila kujali hali halisi itakuwaje, jambo linalounganisha mitazamo hii na kuunda mwafaka wa kimyakimya ni mwisho wa nafasi ya uongozi wa binadamu katika ulimwengu tunaoujua.
Hakuna hali yoyote kati ya hizi inayohitaji AI iwaasi waundaji wake. Hakuna kinachohitaji wamiliki wake watamani binadamu wapokonywe mamlaka. Kila uamuzi wa kukabidhi jukumu unaweza kuwa na mantiki ukitazamwa peke yake. Lakini maamuzi hayo kwa pamoja yanaweza kuzaa ulimwengu ambamo watu wameachia mamlaka yao halisi juu ya sehemu kubwa ya ustaarabu wetu. Hata tukipiga hatua kubwa ajabu katika kutatua masuala tata ya usalama wa AI na kuilinganisha na maadili na malengo yetu, bado tunaweza kujikuta tumekubali kutawaliwa na aina mpya ya mashine. Mwafaka wa kimyakimya ungetuambia kwamba, katika taswira ya wakati ujao yenye furaha, mashine hiyo itakuwa yenye fadhili, inayojali maslahi bora ya binadamu. Mashine yenye neema ya upendo, kama shairi la Brautigan linavyosema.
Mwafaka wa kimyakimya unatuambia kwamba tutazikabidhi mashine hizi funguo za kampuni zetu, na hatua kwa hatua, za taasisi zetu za utawala. Zitaziendesha kwa ufanisi zaidi, kwa matumizi bora zaidi ya rasilimali, na kwa hekima na busara zaidi ya tunazoweza kuwa nazo sisi binadamu. Hivyo, baada ya muda, tutaondoa mikono yetu kwenye usukani na kuziachia mashine zenye upendo zituendeshe. Tutakuwa kama abiria kwenye gari—gari zuri sana, labda lenye starehe nyingi kuliko tunavyoweza kuota leo—lakini bado tutakuwa abiria, bila uwezo wa kuamua gari linaelekea wapi. Ikiwa tutafanya kazi, mara nyingi itakuwa kama desturi tu au kuigiza, kitu kinachofanana zaidi na mchezo wa kuwaburudisha binadamu.
Baadhi ya wachambuzi watadai kuwa mwafaka wa kimyakimya umejengwa juu ya dhana potovu, kwa sababu hata leo sisi binadamu hatuudhibiti ulimwengu. Na ukosoaji huu unastahili kuzingatiwa: hakuna “sisi” mmoja anayeamua nini kifanyike. Tunaishi katika ulimwengu ambamo mamlaka yametawanyika sana, tupende tusipende. Lakini hoja hii pia haipaswi kutufanya tubweteke: ingawa “sisi” “hatuudhibiti” ulimwengu, binadamu kwa pamoja wana nafasi ya uongozi katika mambo ya dunia. Hakuna spishi ya wanyama inayotupa ushindani mkubwa katika udhibiti wa rasilimali. Tunapaswa kukataa dhana isiyozingatia fikra makini kwamba binadamu wanaweza kuutawala ulimwengu kwa amri kutoka juu, lakini tusichanganye kuikataa na kukana ukweli ulio wazi kwamba binadamu, kwa pamoja, ndio wenye ushawishi mkuu duniani.
Baadhi ya walio tayari kueleza wazi mwafaka wa kimyakimya wanaamini kuwa kwa kweli unaashiria mustakabali mzuri. Wengine hawaamini hivyo, lakini wamekata tamaa na kuukubali kama usioepukika. Mwafaka wa kimyakimya hauitwi mwafaka kwa sababu kila mtu anakubali kuwa ni mzuri, wala si mpango wa siri miongoni mwa wanaounda AI. Wanachokubaliana ni kwamba binadamu hawawezi kuepuka kuachia nafasi yao ya uongozi katika mambo ya dunia, au angalau kwamba ni vigumu sana kufikiria taswira nyingine ya wakati ujao inayoweza kweli kuhimili uwepo wa mashine zenye akili inayowazidi binadamu kwa mbali. Mtu anaweza kupinga matokeo hayo kwa dhati lakini akashindwa kuwazia njia nyingine inayoweza kutimia. Kinachofichua hali halisi ni kwamba mwafaka huu kwa kiasi kikubwa hausemwi, na ukisemwa, ni kwa sauti ya chini tu.
Ninaudharau mwafaka wa kimyakimya. Ninakataa binadamu kuachia nafasi yao ya uongozi. Ninachukia mtazamo kwamba jambo hili haliepukiki. Ninajikumbusha kwamba nisingeweza kumtazama mwanangu mchanga katika macho yake mazuri iwapo ningejisalimisha kwa mwafaka wa kimyakimya. Kwa hiyo, kwa mwafaka wa kimyakimya, ninasema hapana. Na ninaamini wakati umefika wa kuuzungumzia mwafaka wa kimyakimya waziwazi, tujiondoe katika hali ya kuikubali taswira hii ambayo wengi wetu tumeikubali bila hata kutambua.
Tatizo ni hili: kuna sababu iliyofanya mwafaka wa kimyakimya ukubalike. Ni vigumu kueleza jinsi binadamu watakavyobaki kwenye usukani huku wakiwa pamoja na mashine zenye akili inayowazidi kwa mbali. Majaribio mengi ya kueleza hilo hutegemea hoja kwamba AI ni zana tu, chombo cha kutambua mifumo kinachokosa uwezo wa “kuelewa kwa kweli.” Nina hofu kwamba hoja hizi hazitaweza kustahimili uhalisia wa yanayokuja. Nina hofu kwamba nazo ni aina ya kujibweteka—msimamo unaotegemea zaidi kukana uwezo wa AI badala ya imani inayotokana na maono chanya ya mustakabali unaoongozwa na binadamu. Haiwezekani kusema mifumo ya AI haina uwezo wa “kuelewa kwa kweli” huku ikianza kupiga hatua katika kutatua matatizo ya kiakili ambayo binadamu wameshindwa kuyatatua kwa miongo na karne nyingi.
Kwa nini basi ninaamini kwamba binadamu lazima wadumishe nafasi yao ya uongozi? Jibu rahisi ni kwamba mimi ni binadamu, na kwa kweli ninawapendelea binadamu kupita wote bila kuomba radhi.
Lakini pia kuna sababu ya kina zaidi. Nafasi yetu ya uongozi haitegemei akili zetu, wala kuendelea kuwa viumbe pekee wenye uwezo wa “kuelewa kwa kweli” milele. Badala yake, nafasi yetu ya uongozi imejengwa juu ya historia yetu.
Kwa maana ni sisi tulioibuka kutoka matopeni. Sisi tuliojenga jamii za mwanzo kwa udongo na mawe. Sisi tuliotazama nyota angani na kuuliza kwa nini. Sisi, pamoja na mapigano yetu, upendo wetu, wivu wetu na furaha yetu, tuliogundua maadili, kanuni za mwenendo na sheria. Ni sisi tulioimba na kucheza, kuandika na kutunga. Ni sisi tuliofanya historia, na ni sisi tulioiandika. Urithi huo ni wetu. Ustaarabu tuliojenga ni mwali ambao tumeulinda usizimike, na mwali huo ni wetu. Historia yetu ni urithi wa fahari ambao sote ni walinzi wake, na sehemu ya jukumu hilo ni kushiriki katika kile Michael Oakeshott alichokiita “mazungumzo ya wanadamu,” juhudi hiyo kuu iliyoanza tangu zama za kale.
Kupitia historia hiyo ndefu yenye misukosuko, tulijenga ustaarabu ambao, huko Marekani, uliwekewa msingi wa haki za mtu binafsi, ukiheshimu sana njia ambazo kila mmoja wetu hujitengenezea maishani. Maisha ya binadamu yanaweza kuwa bora au mabaya zaidi: tunavuna matunda ya maamuzi yetu ya busara, na tunabeba matokeo tunapokosea. Haki ya mtu kufuata njia yake mwenyewe haitegemei kuwa mwerevu zaidi au mwenye hekima zaidi kuliko wote. Sipotezi hadhi yangu ya uraia kwa sababu jirani yangu ana busara zaidi. Sioni pia sababu ya kuwasili kwa mashine yenye akili zaidi kufuta hadhi hiyo; kwa kweli, naona kila sababu ya kuzuia hilo lisitokee.
Wengine wanaweza kudai kuwa mashine pia ni warithi, kwa kuwa zimesoma karibu kumbukumbu zote zilizoandikwa za urithi huu. Na kwa namna fulani, ndivyo zilivyo. Lakini mtu aliyesoma kila barua iliyohifadhiwa katika dari ya nyumba ya familia yenu hawi mwanafamilia kwa sababu hiyo tu. Mifumo ya AI itajiunga na mazungumzo ya wanadamu, kwanza kama watazamaji na hatua kwa hatua kama washiriki, lakini haipaswi kuyatawala wala kuyafanya yakose maana. Kuachia nafasi yetu ya uongozi ni kuwasaliti mababu zetu sawa tu na kuvisaliti vizazi vyetu vijavyo. Ikiwa haya si mapambano yanayostahili kupiganwa, hakuna mapambano yanayostahili kupiganwa.
Mimi ninaamini kwamba wafuasi wa mwafaka wa kimyakimya wanakosea kuhusu jinsi akili ya mashine inayowazidi binadamu kwa mbali itakavyokuwa. Kwamba kuna jambo muhimu wanalolikosa kuhusu jinsi ulimwengu unavyoendeshwa, kwamba wanachanganya akili na mamlaka. Kama miaka mitano au kumi iliyopita ungemweleza mfuasi wa mwafaka wa kimyakimya uwezo wa mifumo ya AI ya leo tu, labda angetabiri kwamba ukosefu wa ajira ungekuwa mkubwa zaidi sasa kuliko ulivyo, na kwamba kupokonywa mamlaka kwa binadamu kwa ujumla kungekuwa kumeenda mbali zaidi kuliko kulivyofika. Ninaamini akili na uwezo wa binadamu kwa pamoja ni mkubwa zaidi ya wanavyodhani wafuasi wa mwafaka wa kimyakimya, na kwamba jamii zetu zitathibitika kuwa imara zaidi kuliko wanavyotabiri.
Lakini huenda ninakosea. Kwa mfano, huenda kampuni zinazojiendesha kikamilifu zikashinda kabisa biashara zinazoendeshwa na binadamu. Na ikiwa hilo ni kweli, basi mantiki ya kiuchumi pekee italazimisha mtaji zaidi na zaidi ukabidhiwe mashine. Katika mustakabali huu, kupokonywa mamlaka hakuhitaji mashine ziupindue ustaarabu wa binadamu; kunahitaji tu mantiki ya biashara za kibepari iendelee kufanya kazi kama kawaida. Hapa, mapinduzi ya AI yangefanana zaidi na mapinduzi ya kilimo, wakati mbinu mpya za uzalishaji zilipobadili kimsingi muundo wa jamii ya binadamu. Si wazi hata kidogo kwamba mabadiliko hayo yalikuwa mazuri kwa binadamu walioyapitia; kwa kweli, kuna ushahidi mkubwa kwamba yalidhoofisha ustawi wa binadamu kwa maelfu ya miaka.
Sijui ikiwa huu ndio mustakabali unaotukabili, na kwa kweli nimeeleza mahali pengine kwamba siamini hivyo. Lakini wenzangu wengi—watu werevu, wenye kujali na wenye dhamiri—wanaamini kwamba huenda huu ndio mustakabali wetu. Ikiwa wako sahihi, mapambano yetu dhidi ya mwafaka wa kimyakimya yatakuwa magumu zaidi. Tutalazimika kuogelea kinyume na mkondo wa uchumi, na kwa kufanya hivyo, kukataa mambo mengi yanayochukuliwa kuwa imani zisizopingika na watetezi wa uliberali wa jadi na uhuru wa mtu binafsi kama mimi. Hii itakuwa juhudi yenye hatari nyingi, ambayo uwezekano wake wa kushindwa si mdogo hata kidogo. Lakini ikiwa haya si mapambano yanayostahili kupiganwa, hakuna mapambano yanayostahili kupiganwa.
Kudumisha nafasi yetu ya uongozi kunamaanisha kudumisha uwajibikaji wa binadamu na taasisi zao. Hii inamaanisha kwamba waundaji wa AI wanapaswa kuwajibika wanapotumia mbinu zisizo salama za uundaji, lakini pia kwamba watu na kampuni zinazotumia AI wanapaswa kuwajibishwa pale matumizi yao mabaya au ukosefu wao wa usimamizi unaposababisha madhara. Hili halihitaji sheria tu, bali pia miundombinu ya kiufundi ya kuwezesha uwajibikaji. Lazima watu wahusishwe na matendo ya mawakala wao, na mawakala wasiohusishwa na binadamu yeyote—ikiwa wataruhusiwa kabisa kushiriki katika uchumi halali—lazima wafanye hivyo chini ya mipaka ya usalama. Ruhusa yoyote kwa mawakala kuanzisha kampuni, kumiliki mali au kuendesha mashauri mahakamani bila binadamu kuingilia kati inapaswa kutolewa kwa tahadhari ya hali ya juu, ikiwa itatolewa kabisa.
Na katika sekta yangu, tunaweza kuanza kufikiria kwa uzito jinsi ya kuunda mashine zenye akili zinazoendana na nafasi ya uongozi wa binadamu. Tunaweza kuunda mawakala wenye ruhusa zinazoeleweka na zenye mipaka, ambao matendo yao yanaweza kukaguliwa na mamlaka yao kuondolewa na watumiaji. Uwajibikaji kwa matendo yanayoathiri wengine kwa kiasi kikubwa hauhitaji kupeleleza maisha ya kawaida ya faragha wala kukomesha uhuru wa kutoa kauli bila kutaja utambulisho. Tunaweza kujitolea kulinda faragha ya watumiaji na mamlaka ya kila mtu juu ya mali na data zake za kidijitali, ikiwemo uwezo halisi wa kuhamisha data hizo kwenda kwingine. Tunaweza kubuni mifumo inayowasaidia watu kuelewa mambo na kufanya maamuzi, pamoja na mifumo inayotekeleza kazi. Na tunaweza kupima ikiwa bidhaa tunazounda zinawaongezea watumiaji wake uwezo wa kuchukua hatua ulimwenguni.
Hakuna kati ya haya linalotoa mpango kamili wa jamii yenye akili inayozidi ya binadamu. Nisingemwamini mtu yeyote anayedai kuwa na mpango huo. Lakini ni mahali pa kuanzia.
Wakati ujao umegubikwa na ukungu mzito. Lakini bado tunaweza kuchukua hatua leo. Kwa pamoja, tunaweza kuanza kwa kuutaja wazi mwafaka wa kimyakimya na kuweka bayana unahusu nini. Kila mmoja wetu anaweza kupanua sana upeo wa malengo yake. Tunaweza kuchagua kutoiruhusu AI itudhoofishe, na badala yake tufanye kazi ngumu ya kuitumia kukuza uwezo wetu. Tunaweza kujifunza kuuliza maswali yenye ujasiri zaidi na zaidi, kuuchunguza ulimwengu kwa ari na bidii mpya, na kutumia mashine zetu zenye uwezo mkubwa kufanya hivyo. Tunaweza kuwa binadamu wa aina mpya—si kiumbe kilichovuka mipaka ya ubinadamu, bali binadamu aliyepanua uwezo wake.
Ninawaza haya ninapomtazama mwanangu mchanga. Sitamani alelewe tu na mashine zenye nia njema, hata kama zitampa maisha ya starehe kiasi gani. Nataka arithi ulimwengu ambamo anaweza kuuliza maswali ambayo hakuna aliyewahi kufikiria kuuliza, na kubuni vitu ambavyo hakuna aliyewahi kufikiria kubuni. Sitaki awe na gari zuri zaidi lenye kiti cha abiria cha starehe zaidi. Nataka awe ndiye anayeshika usukani.
- 2026


