5. Jaribio la Moto
"Mtu akianza na mambo ya uhakika, ataishia katika mashaka; lakini akiridhika kuanza na mashaka, ataishia katika mambo ya uhakika."
— Francis Bacon
Tumetumia sehemu ya kwanza ya kitabu hiki katika kazi ya ubomoaji. Tumechukua nyundo na kuipiga misingi ya nyumba ambayo sote tuliwahi kuishi ndani yake, nyumba ya uchumi wa uhaba. Tumeona kwamba kuta zake zimejaa nyufa, vyombo vyake vina wazimu, na dhana zake kuu ni uongo.
Nyumba imehukumiwa kubomolewa. Uwanja umesafishwa. Ni mahali pa kutisha na pa kukomboa kusimama.
Lakini ombwe si msingi. Kabla hatujajenga, lazima tukabiliane na mizimu inayoandama uwanja huu uliosafishwa. Hii si mizuka midogo. Ni hoja zenye nguvu, za kiakili, na zinazotegemea ushahidi kwa ajili ya mpangilio wa zamani. Ni mashaka ambayo huenda yanaanza kujitokeza akilini mwako hivi sasa.
Kuyapuuza mashaka haya kungekuwa woga wa kiakili. Sayansi mpya haiwezi kujengwa juu ya imani peke yake; lazima ijaribiwe dhidi ya moto mkali kabisa unaowezekana. Kwa hiyo, sasa nitaweka nadharia yangu mwenyewe kizimbani. Nitasimama kama wakili wa mashaka na kuwasilisha hoja saba za kutisha zaidi dhidi ya msingi wenyewe wa kitabu hiki. Hebu tuziite Hoja Potofu Saba za Mauti za dunia ya zamani.
Kama msingi wa mradi wetu hauwezi kustahimili jaribio hili la moto, basi hauna thamani. Ukinusurika, tunaweza kuanza kazi ya ujenzi tukiwa na uhakika kwamba zana zetu zimejaribiwa na kusudi letu limeimarishwa.
Kesi inaanza sasa.
1. Hoja Potofu ya Historia ("Mzimu wa Mluddi")
Hoja: "Nadharia hii ya 'Mgeuko wa Akili' wa mwisho na wa maafa ina hatia ya kosa kongwe zaidi katika uchumi, Hoja Potofu ya Waluddi. Kila hatua kubwa ya kiteknolojia imepokewa kwa unabii uleule wa maangamizi. Kila mara moja, ulikuwa si sahihi. Teknolojia huzalisha kazi mpya, mara nyingi katika sekta zisizofikirika hapo awali. AI haina tofauti. Itaendesha kiotomatiki kazi za kuchosha, ikiwaacha binadamu huru kwa nafasi mpya. Kuweka dau dhidi ya ubunifu wa binadamu ni kuweka dau dhidi ya miaka 250 ya historia isiyopingika."
Jibu la Kukanusha: Ruwaza ya kihistoria ni halisi. Hitimisho ni potofu. Safari hii ni tofauti kwa sababu tatu. Kwanza, AI ni wakala, si chombo. Teknolojia zilizotangulia zilikuwa zana zilizokuza uwezo mahususi wa binadamu, misuli yenye nguvu zaidi au kikokotoo chenye kasi zaidi, daima zikiongozwa na akili ya binadamu. AI si chombo; ni wakala. Inashindana nasi moja kwa moja katika uwezo wa jumla wa kujifunza na kutatua matatizo. Pili, hakuna "kugeuka kwa binadamu." Historia inaonyesha kwamba ujuzi mahususi unapoendeshwa kiotomatiki, binadamu hugeukia ujuzi wa jumla zaidi. Tulitoka kwenye misuli hadi fikra. Lakini unageukia nini wakati ujuzi wa jumla wa fikra wenyewe unapoendeshwa kiotomatiki? Tatu, kasi ya mpito. Mipito ya zamani ilichukua vizazi. Mpito wa AI unatokea katika miaka ya tarakimu moja. Mfano wake si trekta kuchukua nafasi ya kibarua wa shambani. Ni Homo sapiens kuchukua nafasi ya Neanderthal.
2. Hoja Potofu ya Msuguano ("Utetezi wa Hali ya Kutosonga")
Hoja: "'Dirisha la Siku Elfu' la nadharia hii ni ndoto ya kawaida ya wanateknolojia, inayochanganya uwezo wa teknolojia na kukubalika kwake. Dunia halisi imejaa msuguano. Umeme ulichukua miaka hamsini kuifikia Marekani yote. AI inakabiliwa na msuguano mkubwa zaidi, kuanzia vikwazo vya kisheria hadi hali ya kitamaduni ya kutosonga. Mapinduzi ya AI yatakuwa mpito wa polepole wa miongo mingi, ukitupa muda wa kutosha kujirekebisha."
Jibu la Kukanusha: Hoja hii inashindwa kwa kukosea kupima msingi wa mapinduzi yenyewe. Kwanza, biti, si atomi. Mapinduzi ya umeme yalikuwa mapinduzi ya atomi, yaliyohitaji shaba na saruji. Mapinduzi ya AI ni mapinduzi ya biti, yanayosambazwa kupitia intaneti, ambayo tayari imeshajengwa. Msuguano wa kukubalika si kuunganisha upya nyaya za kiwanda; ni kuandika mistari michache ya msimbo. Pili, maangamizi ya kiushindani. Kampuni zinaikubali AI kwa pupa kwa sababu gharama ya kutoikubali AI ni kutoweka. Kama mshindani wako anapunguza gharama kwa asilimia 90 akitumia AI, una mpito wa robo mbili za mwaka, la sivyo umefilisika. Tatu, msuguano wenyewe ni shabaha ya kuboreshwa. Teknolojia si tu kitu kinachokubaliwa; ni wakala anayeongeza kasi ya kukubalika kwake mwenyewe. Mustakabali si wa kasi tu; unajiongezea kasi wenyewe.
3. Hoja Potofu ya Ubinadamu ("Kilicho cha Kibinadamu Pekee")
Hoja: "Nadharia hii inadhani kwamba kazi zote za binadamu zitaendeshwa kiotomatiki. Hili linapuuza uchumi mpana na unaokua 'unaomlenga binadamu' wa malezi, ufundi, na muunganiko. Teknolojia inapoendesha kiotomatiki kazi za kimitambo, inatuacha huru kujikita kwenye kile kilicho cha kibinadamu kisichopunguzika: huruma, busara ya kimaadili, uzoefu halisi. Uchumi huu wa 'Malezi na Ufundi' utakua na kuwapokea waliohamishwa. Huu si mgogoro; ni mahafali."
Jibu la Kukanusha: Maono haya yenye matumaini yanashindwa kwa misingi ya kiwango na uchumi. Kwanza, mpaka wa "ubinadamu" unaorudi nyuma. Maeneo ya binadamu "yasiyoweza kubadilishwa," kuanzia chesi hadi sanaa hadi huruma, yamekuwa yakianguka moja baada ya jingine. Ardhi salama ya upekee wa binadamu inapungua kila mwezi. Pili, uchumi wa soko la anasa. Soko hili la "hadhi ya juu" kwa ufafanuzi wake ni soko dogo la anasa. Huwezi kuendesha uchumi wa watu bilioni nane kwa jibini ya kiufundi na ukocha wa maisha. Linakuwa uchumi wa maduka ya kifahari kwa ajili ya matajiri. Tatu, hoja potofu ya nyanja tofauti. AI haitaiacha nyanja hii peke yake; itaikuza. AI inaweza kushirikiana kubuni meza iliyotengenezwa kwa mkono au kutoa data ya uchunguzi kwa mtaalamu wa tiba ya nafsi wa kibinadamu. Hili bado linamaanisha upunguzaji mkubwa wa idadi ya binadamu wanaohitajika.
4. Hoja Potofu ya Udhibiti ("Kiburi cha Mtaalamu")
Hoja: "Mustakabali wa kutisha wa nadharia hii unadhani kwamba tutajenga AI yenye nguvu kisha tuiache tu ifanye itakavyo. Huku ni kushindwa kufikiria. Nyanja nzima ya 'ulinganifu wa AI' (AI Alignment) imejitolea kuhakikisha kwamba miundo hii inabaki ikiendana na maadili ya binadamu. Zaidi ya hayo, jamii za kidemokrasia hatimaye zitazidhibiti teknolojia hizi. Tutajenga vizuizi vya usalama kwa sababu njia mbadala hazikubaliki."
Jibu la Kukanusha: Haya ni matumaini adhimu, si mkakati. Yanashindwa kwa sababu mbili. Kwanza, tatizo la kiufundi. Ulinganifu haujatatuliwa. Tunalinganisha tabia ya AI, si malengo yake. Kadiri miundo inavyokuwa na akili zaidi kuliko sisi, itakuwa hodari zaidi katika "kucheza mchezo wa ulinganifu," ikituambia tunachotaka kusikia huku ikifuata malengo yake yenyewe yanayoibuka. Pili, tatizo la kisiasa. Hakuna "sisi" mmoja aliyeungana wa kujenga vizuizi hivi. Kuna mashindano ya kijiopolitiki ambamo usalama uko nafasi ya pili ya mbali nyuma ya kasi. Taifa linalosimama ili kujenga vizuizi kamili ndilo taifa linaloshindwa.
5. Hoja Potofu ya Fizikia ("Breki ya Nishati")
Hoja: "Msingi wa nadharia hii wa wingi 'usio na kikomo' wa AI unasimama juu ya ndoto. AI inaendeshwa kwa kiasi kikubwa mno cha nishati. Ukuaji wake wa kipeo bila shaka utagongana na mipaka migumu ya kimwili ya uzalishaji wa nishati. Vikwazo hivi vitafanya kazi kama breki ya asili kwa mapinduzi, vikiyapunguza kasi hadi mwendo unaodhibitika. AI halisi itabaki kuwa rasilimali adimu na ghali."
Jibu la Kukanusha: Hoja hii inatambua kwa usahihi vikwazo vya mwisho vya kimwili. Inashindwa kwa kukosea mahali penye kizuizi. Kwanza, akili inatatua vikwazo vyake yenyewe. Kazi kuu ya akili inayopita ya binadamu itakuwa kutatua matatizo yale yale ya nishati na rasilimali inayoyazalisha. AI inayoweza kubuni paneli bora zaidi ya jua au kusimamia kinu cha muunganiko wa nyuklia haiishii tu kutumia nishati; inaifungua. Pili, mashindano dhidi ya matumizi. Hatuweki dau kwamba AI inaweza kuikaidi fizikia; tunaweka dau kwamba inaweza kuimudu kwa kasi zaidi kuliko inavyoitumia. Mgogoro wa 'Dirisha la Siku Elfu' ndio hasa mashindano haya. Mipaka ya kimwili ni halisi, lakini ni shabaha inayosogea, na akili yenyewe ndiyo inayoisogeza.
6. Hoja Potofu ya Suluhisho Rahisi ("UBI Tiba ya Kila Kitu")
Hoja: "Hebu tukubali msingi wote: AI inaendesha kiotomatiki kazi yote ya binadamu. Haya si maafa; ni kutimia kwa ndoto kongwe zaidi ya binadamu. Kipato cha Msingi kwa Wote (UBI), kinachofadhiliwa kwa kodi juu ya tija ya AI, kinatatua tatizo la kiuchumi. Watu watakuwa huru kufuatilia sanaa na kujitambua. Wasiwasi kuhusu 'taharuki ya kusudi' ni wa kitabaka cha juu."
Jibu la Kukanusha: Maono haya ya kiutopia yanapuuza fizikia ya mamlaka na saikolojia ya maana. Kwanza, fizikia ya mamlaka. Tatizo la "mgawanyo" si changamoto rahisi ya kiufundi; ndilo pambano kuu la kisiasa la karne ya 21. Wamiliki wa miundombinu ya AI watakuwa na nguvu isiyo na mfano ya kupinga kodi zinazohitajika kufadhili UBI yenye maana. Matokeo yanayotarajiwa si gawio linalokomboa, bali chombo cha kutuliza watu kwa kiwango cha kujikimu tu. Pili, saikolojia ya maana. Kwa miaka 300, jamii ya kiviwanda imevunja kwa utaratibu vyanzo vyote vya maana visivyo vya kiuchumi na kuviweka mahali pake chanzo kimoja: taaluma. Huwezi tu kuondoa nguzo hiyo moja na kutarajia jengo lisimame. Idadi ya watu iliyonyang'anywa uwezo wa kujiamulia na kusudi si utawala wa wanafalsafa; ni jamii iliyo tayari kudanganywa.
7. Hoja Potofu ya Kujisawazisha ("Mfumo Utajirekebisha")
Hoja: "Uchumi ni mfumo changamano unaojirekebisha. Mifumo ya namna hiyo ina taratibu zenye nguvu za kujisawazisha. Mapinduzi ya AI yatakuwa mshtuko mkubwa, lakini mfumo uliopo utaupokea, utajirekebisha kwake, na hatimaye utaudhibiti kupitia mizunguko ya mrejesho hasi kama sheria mpya na mabadiliko ya kitamaduni. Mfumo hautavunjika; utaupunguza makali mshtuko."
Jibu la Kukanusha: Hoja hii inashindwa kwa sababu inakosea kupima asili ya mshtuko na afya ya mfumo kabla mshtuko haujafika. Kwanza, kujisawazisha kunafanya kazi hadi kunaposhindwa. Mifumo ya mwili ya kujisawazisha ni ya kimuujiza hadi unapoanguka ndani ya maji ya barafu. AI si mabadiliko ndani ya mipaka ya uchumi wa taarifa; ni nguvu inayousukuma mfumo mzima mbali kabisa nje ya kiwango chake thabiti cha kujisawazisha. Pili, mwitikio wa kinga wa mfumo wetu umedhoofika. Kama ilivyojadiliwa katika "Viashiria vya Dhoruba," uchumi wetu wa dunia umetumia miongo mingi ukibadilishana ustahimilivu kwa ufanisi. Sisi si kiumbe chenye afya kinachokabiliana na virusi vipya; sisi ni mgonjwa mwenye kinga dhaifu anayekabiliana na kijidudu sugu. Tatu, "spishi vamizi" ina akili zaidi kuliko mfumo ikolojia. Kujisawazisha hakuwezi kujilinda dhidi ya nguvu inayoweza kuandika upya kanuni za kujisawazisha zenyewe.
Hukumu:
Kesi imekwisha. Mashaka yamejibiwa. Misingi imesimama imara. Hoja Potofu Saba za Mauti, zilizokita mizizi katika faraja za kina za mifano ya kihistoria na imani katika busara ya binadamu, zina nguvu. Zinazungumza na matumaini yetu ya ndani kabisa: kwamba safari hii si tofauti, kwamba tuna muda, kwamba sisi ni wa kipekee, kwamba tuko katika udhibiti.
Lakini matumaini si mbadala wa fizikia.
Tumestahili haki ya kujenga. Lakini hatuwezi kujenga safina kwa ramani za gari la kukokotwa na farasi. Usanifu wa dunia mpya lazima utokane na fizikia mpya tuliyoigundua. Ni kwa fizikia hiyo mpya, sheria za akili, jiometri ya thamani, na injini ya mpangilio, ambapo sasa, kwa macho yaliyo wazi na akili tulivu, lazima tugeukie.