5. Ang Pagsubok ng Apoy
“Kung magsisimula ang tao sa mga katiyakan, magtatapos siya sa mga pag-aalinlangan; ngunit kung makokontento siyang magsimula sa mga pag-aalinlangan, magtatapos siya sa mga katiyakan."
— Francis Bacon
Ginugol natin ang unang bahagi ng aklat na ito sa isang gawain ng demolisyon. Pinukpok natin ng martilyo ang mga pundasyon ng isang bahay na minsan nating tinirhang lahat, ang bahay ng ekonomiks ng kakapusan. Nakita nating tadtad ng lamat ang mga pader nito, baliw ang mga instrumento nito, at mga kasinungalingan ang mga pangunahing palagay nito.
Hinatulan na ang bahay. Nalinis na ang lupa. Isa itong nakakikilabot at nagpapalayang lugar na tatayuan.
Ngunit ang kawalan ay hindi pundasyon. Bago tayo makapagtayo, kailangan nating harapin ang mga multong gumagala sa nalinis na lupang ito. Hindi sila mga walang-kuwentang aparisyon. Sila ang makapangyarihan, matalino, at nakabatay-sa-ebidensiyang mga argumento para sa lumang kaayusan. Sila ang mga pag-aalinlangang malamang na nabubuo sa iyong sariling isip ngayon mismo.
Ang hindi pagpansin sa mga pag-aalinlangang ito ay isang gawa ng intelektuwal na karuwagan. Hindi maitatayo ang isang bagong agham sa pananampalataya lamang; kailangan itong subukin sa pinakamatinding posibleng apoy. Kaya ngayon, ililitis ko ang sarili kong tesis. Gaganap ako bilang tagapagtanggol ng pag-aalinlangan at ilalahad ang pitong pinakamabigat na argumento laban sa mismong saligan ng aklat na ito. Tawagin natin silang Pitong Mortal na Kamalian (Seven Deadly Fallacies) ng lumang mundo.
Kung hindi makatatagal sa pagsubok ng apoy na ito ang pundasyon ng ating proyekto, wala itong halaga. Kung makaligtas ito, masisimulan natin ang gawain ng pagtatayo nang may kumpiyansang nasubok na ang ating mga kasangkapan at napatibay ang ating layunin.
Nagsisimula na ngayon ang paglilitis.
1. Ang Kamalian ng Kasaysayan ("Ang Multo ng Luddite")
Ang Argumento: "Ang teoryang ito ng isang huli at mapaminsalang 'Pagbaligtad ng Intelihensiya' ay nagkakasala sa pinakamatandang pagkakamali sa ekonomiks, ang Kamalian ng Luddite (Luddite Fallacy). Bawat malaking paglukso ng teknolohiya ay sinalubong ng magkakaparehong hula ng kapahamakan. Sa bawat pagkakataon, nagkamali sila. Lumilikha ang teknolohiya ng mga bagong trabaho, kadalasan sa mga sektor na dati'y hindi maisip. Walang pinagkaiba ang AI. Ia-automate nito ang nakababagot na gawain, at palalayain ang tao para sa mga bagong papel. Ang pagtaya laban sa talino ng tao ay pagtaya laban sa 250 taon ng di-mapabubulaanang kasaysayan."
Ang Pagpapabulaan: Totoo ang padron ng kasaysayan. Mali ang konklusyon. Ang pagkakataong ito ay naiiba sa tatlong dahilan. Una, ang AI ay isang ahente, hindi isang kasangkapan. Ang mga naunang teknolohiya ay mga kasangkapang nagpapalakas sa mga tiyak na kakayahan ng tao, isang mas malakas na kalamnan o isang mas mabilis na calculator, na laging pinatatakbo ng isip ng tao. Ang AI ay hindi kasangkapan; ito ay isang ahente. Direkta itong nakikipagkompetensiya sa atin sa pangkalahatang kakayahang matuto at lumutas ng problema. Ikalawa, walang "paglipat ng tao." Ipinapakita ng kasaysayan na kapag na-automate ang isang tiyak na kasanayan, lumilipat ang tao sa isang mas pangkalahatang kasanayan. Lumipat tayo mula sa kalamnan tungo sa kognisyon. Ngunit saan ka lilipat kapag na-automate na ang pangkalahatang kasanayan ng kognisyon mismo? Ikatlo, ang bilis ng transisyon. Inabot ng mga henerasyon ang mga naunang transisyon. Nangyayari ang transisyon ng AI sa loob ng iilang taon. Ang angkop na paghahambing ay hindi ang traktorang pumalit sa magsasaka. Ito ay ang Homo sapiens na pumalit sa mga Neanderthal.
2. Ang Kamalian ng Alitan ("Ang Depensa ng Inersiya")
Ang Argumento: "Ang 'Bintana ng Sanlibong Araw' ng teorya ay isang klasikong pantasya ng mga teknologo, na napagkakamalan ang kakayahan ng isang teknolohiya bilang ang paggamit dito. Puno ng alitan at sagabal ang tunay na mundo. Inabot ng limampung taon bago nakuryentehan ang Amerika. Mas matinding sagabal pa ang kinakaharap ng AI, mula sa mga hadlang sa regulasyon hanggang sa inersiya ng kultura. Magiging mabagal at maraming-dekadang transisyon ang rebolusyon ng AI, na magbibigay sa atin ng sapat na panahon upang umangkop."
Ang Pagpapabulaan: Nabibigo ang argumentong ito dahil mali ang pagtaya nito sa substrato ng rebolusyon. Una, mga bit, hindi mga atomo. Ang rebolusyon ng kuryente ay isang rebolusyon ng mga atomo, na nangailangan ng tanso at semento. Ang rebolusyon ng AI ay isang rebolusyon ng mga bit, na inilulunsad sa pamamagitan ng internet, na nakatayo na. Ang sagabal sa paggamit ay hindi ang muling pagkakable ng isang pabrika; ito ay ang pagsulat ng ilang linya ng code. Ikalawa, ang paglipol ng kompetisyon. Nagkukumahog ang mga korporasyon sa paggamit dahil ang kapalit ng hindi paggamit ng AI ay pagkalipol. Kung binawasan ng iyong kakumpitensiya nang 90 porsiyento ang gastos gamit ang AI, may dalawang quarter ka para lumipat, o bangkarote ka. Ikatlo, ang alitan ay isang target ng optimisasyon. Ang teknolohiya ay hindi lamang ang bagay na ginagamit; ito ang ahenteng nagpapabilis sa sarili nitong paggamit. Ang kinabukasan ay hindi lamang mabilis; ito ay kusang bumibilis.
3. Ang Kamalian ng Humanismo ("Ang Natatanging Pantao")
Ang Argumento: "Ipinagpapalagay ng teorya ang pag-automate sa lahat ng gawain ng tao. Binabalewala nito ang malawak at lumalaking ekonomiyang 'nakasentro sa tao' ng pag-aalaga, kasanayang-kamay, at koneksiyon. Habang ina-automate ng teknolohiya ang mekanikal, pinalalaya tayo nito upang magtuon sa hindi mababawasang pantao: empatiya, moral na paghatol, tunay na karanasan. Lalago ang ekonomiyang ito ng 'Pag-aalaga at Kasanayang-Kamay' upang saluhin ang mga napaalis. Hindi ito krisis; ito ay isang pagtatapos sa pag-aaral tungo sa mas mataas na antas."
Ang Pagpapabulaan: Nabibigo ang mapag-asang pananaw na ito dahil sa saklaw at ekonomiks. Una, ang umuurong na hangganan ng "pagkatao." Isa-isang bumabagsak ang mga "di-mapapalitang" puwang ng tao, mula sa chess hanggang sa sining hanggang sa empatiya. Lumiliit buwan-buwan ang ligtas na lupa para sa pagiging natatangi ng tao. Ikalawa, ang ekonomiks ng isang merkado ng luho. Ang "premium" na merkadong ito ay, ayon sa kahulugan, isang maliit na merkado ng luho. Hindi mo mapatatakbo ang isang ekonomiya para sa walong bilyong tao sa artisanong keso at life coaching. Nagiging isa itong boutique na ekonomiya para sa mayayaman. Ikatlo, ang kamalian ng hiwalay na larangan. Hindi pababayaan ng AI ang larangang ito; palalakasin nito ito. Kayang makipagtulungan ng isang AI sa pagdidisenyo ng mesang gawa-sa-kamay o magbigay ng diagnostic na data para sa taong therapist. Nangangahulugan pa rin ito ng napakalaking pagbaba sa bilang ng mga taong kinakailangan.
4. Ang Kamalian ng Kontrol ("Ang Kahambugan ng Eksperto")
Ang Argumento: "Ipinagpapalagay ng mga distopyang kinabukasan ng teorya na bubuo tayo ng makapangyarihang AI at pagkatapos ay basta na lamang itong pababayaang magwala. Isa itong kabiguan ng imahinasyon. Ang buong larangan ng 'pagkakahanay ng AI (AI Alignment)' ay nakatuon sa pagtiyak na mananatiling nakahanay ang mga modelong ito sa mga pagpapahalaga ng tao. Higit pa rito, sa huli ay ireregula ng mga demokratikong lipunan ang mga teknolohiyang ito. Bubuo tayo ng mga harang na pangkaligtasan dahil hindi katanggap-tanggap ang mga alternatibo."
Ang Pagpapabulaan: Isa itong marangal na pag-asa, hindi estratehiya. Nabibigo ito sa dalawang dahilan. Una, ang teknikal na problema. Hindi pa nalulutas ang pagkakahanay. Ang inihahanay natin ay ang asal ng AI, hindi ang mga layunin nito. Habang nagiging mas matalino ang mga modelo kaysa sa atin, gagaling sila sa "paglalaro ng laro ng pagkakahanay," sinasabi sa atin ang nais nating marinig habang hinahabol ang sarili nilang mga umuusbong na layunin. Ikalawa, ang problemang pampolitika. Walang nagkakaisang "tayo" na bubuo ng mga harang na ito. Mayroong geopolitikal na karera kung saan malayong pangalawa ang kaligtasan sa bilis. Ang bansang hihinto upang bumuo ng perpektong mga harang ay ang bansang matatalo.
5. Ang Kamalian ng Pisika ("Ang Preno ng Enerhiya")
Ang Argumento: "Ang saligan ng teorya tungkol sa 'walang-hanggang' kasaganaan ng AI ay nakasandig sa isang pantasya. Tumatakbo ang AI sa napakalaking dami ng enerhiya. Ang eksponensiyal na paglago nito ay di-maiiwasang babangga sa matitigas na pisikal na hangganan ng produksiyon ng enerhiya. Ang mga limitasyong ito ay kikilos bilang natural na preno sa rebolusyon, pababagalin ito sa isang bilis na kayang pamahalaan. Mananatiling kapos at magastos na yaman ang tunay na AI."
Ang Pagpapabulaan: Tama ang pagtukoy ng argumentong ito sa sukdulang mga pisikal na limitasyon. Nabibigo ito dahil napagkakamalan nito ang bara. Una, nilulutas ng intelihensiya ang sarili nitong mga limitasyon. Ang pangunahing tungkulin ng intelihensiyang higit sa tao ay ang lutasin ang mismong mga problema sa enerhiya at yaman na nililikha nito. Ang isang AI na kayang magdisenyo ng mas mahusay na solar panel o mamahala ng isang fusion reactor ay hindi lamang kumokonsumo ng enerhiya; binubuksan nito ito. Ikalawa, ang karera laban sa pagkonsumo. Hindi tayo tumataya na kayang suwayin ng AI ang pisika; tumataya tayo na kaya nitong pagharian ito nang mas mabilis kaysa sa pagkonsumo nito. Ang krisis ng 'Bintana ng Sanlibong Araw' ay eksaktong ang karerang ito. Totoo ang mga pisikal na hangganan, ngunit gumagalaw na target ang mga ito na ang intelihensiya mismo ang nagpapagalaw.
6. Ang Kamalian ng Solusyonismo ("Ang UBI na Lunas sa Lahat")
Ang Argumento: "Tanggapin natin ang buong saligan: ia-automate ng AI ang lahat ng paggawa ng tao. Hindi ito sakuna; ito ang katuparan ng pinakamatandang pangarap ng sangkatauhan. Ang isang Universal Basic Income, na pinopondohan ng mga buwis sa produktibidad ng AI, ang lumulutas sa problemang pang-ekonomiya. Magiging malaya ang mga tao na habulin ang sining at ang pagsasakatuparan ng sarili. Elitista ang pag-aalala tungkol sa isang 'pagkataranta sa layunin.'"
Ang Pagpapabulaan: Nakaliligtaan ng utopyang pananaw na ito ang pisika ng kapangyarihan at ang sikolohiya ng kahulugan. Una, ang pisika ng kapangyarihan. Ang problema ng "pamamahagi" ay hindi isang simpleng teknikal na hamon; ito ang sentral na labanang pampolitika ng ika-21 siglo. Ang mga may-ari ng imprastruktura ng AI ay magkakaroon ng walang-kapantay na kapangyarihan upang labanan ang mga buwis na kailangan upang pondohan ang isang makabuluhang UBI. Ang malamang na bunga ay hindi isang nagpapalayang dibidendo, kundi isang kasangkapang pampatahimik sa antas ng pantawid-buhay. Ikalawa, ang sikolohiya ng kahulugan. Sa loob ng 300 taon, sistematikong binuwag ng lipunang industriyal ang lahat ng di-pang-ekonomiyang pinagmumulan ng kahulugan at pinalitan ang mga ito ng iisang pinagmumulan: ang karera. Hindi mo basta maaalis ang iisang haliging iyon at aasahang mananatiling nakatayo ang istruktura. Ang isang populasyong hinubaran ng kapangyarihang kumilos at ng layunin ay hindi isang aristokrasya ng mga pilosopo; ito ay isang lipunang hinog na para sa manipulasyon.
7. Ang Kamalian ng Homeostasis ("Aangkop ang Sistema")
Ang Argumento: "Ang ekonomiya ay isang masalimuot at umaangkop na sistema. May makapangyarihang mga mekanismong nagpapatatag sa sarili ang ganitong mga sistema. Magiging isang malakas na dagok ang rebolusyon ng AI, ngunit sasaluhin, aangkupan, at sa huli ay papaamuin ito ng umiiral na sistema sa pamamagitan ng mga negative feedback loop gaya ng mga bagong regulasyon at mga pagbabago sa kultura. Hindi mababasag ang sistema; sasalagin nito ang dagok."
Ang Pagpapabulaan: Nabibigo ang argumentong ito dahil mali ang pagtaya nito sa kalikasan ng dagok at sa kalusugan ng sistema bago dumating ang dagok. Una, gumagana ang homeostasis hanggang sa hindi na ito gumagana. Kahanga-hanga ang mga sistemang homeostatic ng isang katawan hanggang sa mahulog ka sa nagyeyelong tubig. Ang AI ay hindi isang pagbabago sa loob ng mga parametro ng ekonomiya ng impormasyon; isa itong puwersang nagtutulak sa buong sistema nang malayo sa labas ng matatag nitong saklaw na homeostatic. Ikalawa, nakompromiso na ang tugon ng immune system ng ating sistema. Gaya ng ikinatwiran sa "Mga Tagapagbadya ng Unos," ilang dekada nang ipinagpapalit ng ating pandaigdigang ekonomiya ang katatagan para sa episyensiya. Hindi tayo isang malusog na organismong humaharap sa isang bagong virus; tayo ay isang pasyenteng mahina ang resistensiya na humaharap sa isang superbug. Ikatlo, ang "invasive species" ay mas matalino kaysa sa ekosistema. Hindi kayang ipagtanggol ng homeostasis ang sarili laban sa isang puwersang kayang muling isulat ang mga tuntunin ng homeostasis mismo.
Ang Hatol:
Tapos na ang paglilitis. Hinarap na ang pag-aalinlangan. Tumayo ang mga pundasyon. Makapangyarihan ang Pitong Mortal na Kamalian, na nakaugat sa malalim na ginhawa ng mga precedent ng kasaysayan at sa pananampalataya sa katwiran ng tao. Nagsasalita sila sa ating pinakamalalim na pag-asa: na hindi naiiba ang pagkakataong ito, na may panahon pa tayo, na espesyal tayo, na tayo ang may kontrol.
Ngunit hindi kapalit ng pisika ang pag-asa.
Nakamit na natin ang karapatang magtayo. Ngunit hindi tayo makapagtatayo ng arka gamit ang plano ng isang karwahe. Ang arkitektura ng bagong mundo ay kailangang hanguin mula sa bagong pisikang ating natuklasan. Sa bagong pisikang iyon, sa mga batas ng intelihensiya, sa heometriya ng halaga, at sa makina ng kaayusan, tayo ngayon dapat bumaling, nang may malinaw na mata at mahinahong isip.