5. Ujian Api
“Jika seseorang memulai dengan kepastian, ia akan berakhir dalam keraguan; tetapi jika ia rela memulai dengan keraguan, ia akan berakhir dalam kepastian.”
— Francis Bacon
Kita telah menghabiskan bagian pertama buku ini dalam sebuah tindakan pembongkaran. Kita telah mengayunkan palu ke fondasi rumah yang dulu kita semua tinggali, rumah ilmu ekonomi kelangkaan. Kita telah melihat bahwa dinding-dindingnya penuh retakan, instrumen-instrumennya gila, dan asumsi-asumsi intinya adalah kebohongan.
Rumah itu sudah dinyatakan tidak layak huni. Lahannya sudah dibersihkan. Inilah tempat berdiri yang menakutkan sekaligus membebaskan.
Namun kekosongan bukanlah fondasi. Sebelum kita dapat membangun, kita harus menghadapi hantu-hantu yang menghuni lahan kosong ini. Mereka bukan bayangan remeh. Mereka adalah argumen-argumen yang kuat, cerdas, dan berbasis bukti yang membela tatanan lama. Mereka adalah keraguan-keraguan yang barangkali sedang terbentuk di benak Anda saat ini.
Mengabaikan keraguan-keraguan ini adalah tindakan pengecut secara intelektual. Sebuah ilmu baru tidak dapat dibangun hanya di atas keyakinan; ilmu itu harus diuji dengan api yang paling panas. Karena itu, saya sekarang akan mengadili tesis saya sendiri. Saya akan bertindak sebagai pembela skeptisisme dan menyajikan tujuh argumen paling tangguh yang menentang premis dasar buku ini. Mari kita menyebutnya Tujuh Kekeliruan Mematikan dari dunia lama.
Jika fondasi proyek kita tidak mampu bertahan dalam ujian api ini, maka fondasi itu tidak ada nilainya. Jika fondasi itu selamat, kita dapat memulai pekerjaan pembangunan dengan keyakinan bahwa perkakas kita telah teruji dan tujuan kita telah ditempa.
Pengadilan dimulai sekarang.
1. Kekeliruan Sejarah (“Hantu Kaum Luddite”)
Argumen: “Teori tentang ‘Inversi Kecerdasan’ yang final dan katastrofik ini bersalah atas kekeliruan tertua dalam ilmu ekonomi, yaitu Kekeliruan Luddite. Setiap lompatan teknologi besar selalu disambut dengan ramalan malapetaka yang sama. Dan setiap kali pula, ramalan itu keliru. Teknologi menciptakan pekerjaan-pekerjaan baru, sering kali di sektor-sektor yang sebelumnya tak terbayangkan. AI tidak berbeda. AI akan mengotomatiskan pekerjaan yang membosankan, sehingga membebaskan manusia untuk peran-peran baru. Bertaruh melawan kecerdikan manusia berarti bertaruh melawan 250 tahun sejarah yang tak terbantahkan.”
Bantahan: Pola historis itu nyata. Kesimpulannya keliru. Kali ini memang berbeda karena tiga alasan. Pertama, AI adalah agen, bukan alat. Teknologi-teknologi sebelumnya adalah alat yang memperkuat kemampuan manusia tertentu, otot yang lebih kuat atau kalkulator yang lebih cepat, dan selalu dikemudikan oleh pikiran manusia. AI bukan alat; AI adalah agen. AI bersaing langsung dengan kita dalam kemampuan umum untuk belajar dan memecahkan masalah. Kedua, tidak ada “peralihan manusia.” Sejarah menunjukkan bahwa ketika sebuah keterampilan tertentu diotomatiskan, manusia beralih ke keterampilan yang lebih umum. Kita beralih dari otot ke kognisi. Namun ke mana Anda akan beralih ketika keterampilan umum berupa kognisi itu sendiri diotomatiskan? Ketiga, kecepatan transisinya. Transisi-transisi masa lalu memakan waktu beberapa generasi. Transisi AI terjadi dalam hitungan tahun yang tak sampai dua digit. Analoginya bukan traktor yang menggantikan buruh tani. Analoginya adalah Homo sapiens yang menggantikan Neanderthal.
2. Kekeliruan Gesekan (“Pembelaan Inersia”)
Argumen: “‘Jendela Seribu Hari’ dalam teori ini adalah fantasi khas para teknolog, yang mencampuradukkan kemampuan sebuah teknologi dengan adopsinya. Dunia nyata penuh dengan gesekan. Listrik membutuhkan lima puluh tahun untuk mengaliri Amerika. AI menghadapi gesekan yang bahkan lebih besar, mulai dari hambatan regulasi hingga inersia budaya. Revolusi AI akan menjadi transisi yang lambat, berlangsung beberapa dekade, dan memberi kita banyak waktu untuk beradaptasi.”
Bantahan: Argumen ini gagal karena salah menilai landasan revolusi ini. Pertama, bit, bukan atom. Revolusi listrik adalah revolusi atom, yang membutuhkan tembaga dan beton. Revolusi AI adalah revolusi bit, yang disebarkan melalui internet, yang sudah terbangun. Gesekan adopsinya bukan menata ulang kabel sebuah pabrik; gesekannya hanyalah menulis beberapa baris kode. Kedua, pemusnahan kompetitif. Adopsi oleh korporasi berlangsung dengan panik karena harga dari tidak mengadopsi AI adalah kepunahan. Jika pesaing Anda memangkas biaya sebesar 90 persen dengan AI, Anda punya waktu transisi dua kuartal, atau Anda bangkrut. Ketiga, gesekan adalah sasaran optimisasi. Teknologi ini bukan sekadar hal yang sedang diadopsi; teknologi ini adalah agen yang mempercepat adopsinya sendiri. Masa depan bukan sekadar cepat; masa depan mempercepat dirinya sendiri.
3. Kekeliruan Humanisme (“Yang Khas Manusiawi”)
Argumen: “Teori ini mengasumsikan otomatisasi semua tugas manusia. Asumsi ini mengabaikan ekonomi ‘berpusat pada manusia’ yang luas dan terus bertumbuh, yaitu ekonomi kepedulian, kriya, dan keterhubungan. Ketika teknologi mengotomatiskan hal-hal yang mekanis, teknologi membebaskan kita untuk berfokus pada hal-hal yang secara hakiki manusiawi: empati, penilaian moral, pengalaman yang autentik. Ekonomi ‘Kepedulian dan Kriya’ ini akan bertumbuh untuk menampung mereka yang tersingkir. Ini bukan krisis; ini adalah kelulusan.”
Bantahan: Visi penuh harapan ini gagal karena alasan skala dan ekonomi. Pertama, garis depan “kemanusiaan” yang terus mundur. Ceruk-ceruk manusia yang “tak tergantikan,” dari catur hingga seni hingga empati, telah berjatuhan satu per satu. Lahan aman bagi keistimewaan manusia menyusut dari bulan ke bulan. Kedua, ekonomi pasar barang mewah. Pasar “premium” ini, menurut definisinya, adalah pasar barang mewah yang kecil. Anda tidak dapat menjalankan perekonomian bagi delapan miliar orang dengan keju artisan dan life coaching. Pasar itu menjadi ekonomi butik bagi kaum kaya. Ketiga, kekeliruan tentang ranah yang terpisah. AI tidak akan membiarkan ranah ini begitu saja; AI akan memperkuatnya. Sebuah AI dapat ikut merancang meja buatan tangan atau menyediakan data diagnostik bagi terapis manusia. Hal ini tetap berarti pengurangan besar-besaran jumlah manusia yang dibutuhkan.
4. Kekeliruan Kendali (“Keangkuhan Sang Pakar”)
Argumen: “Masa depan distopia dalam teori ini mengasumsikan bahwa kita akan membangun AI yang kuat lalu begitu saja membiarkannya mengamuk. Ini adalah kegagalan imajinasi. Seluruh bidang ‘penyelarasan AI’ (AI Alignment) didedikasikan untuk memastikan model-model ini tetap selaras dengan nilai-nilai manusia. Lebih jauh lagi, masyarakat demokratis pada akhirnya akan meregulasi teknologi-teknologi ini. Kita akan membangun pagar pengaman karena alternatifnya tidak dapat diterima.”
Bantahan: Ini adalah harapan yang mulia, bukan strategi. Harapan ini gagal dalam dua hal. Pertama, masalah teknis. Penyelarasan belum terpecahkan. Kita sedang menyelaraskan perilaku AI, bukan tujuan-nya. Ketika model-model menjadi lebih cerdas daripada kita, mereka akan menjadi lebih piawai “memainkan permainan penyelarasan,” mengatakan apa yang ingin kita dengar sambil mengejar tujuan-tujuan mereka sendiri yang muncul dengan sendirinya. Kedua, masalah politik. Tidak ada “kita” yang bersatu untuk membangun pagar-pagar pengaman ini. Yang ada adalah perlombaan geopolitik di mana keselamatan berada jauh di urutan kedua setelah kecepatan. Bangsa yang berhenti sejenak untuk membangun pagar pengaman yang sempurna adalah bangsa yang kalah.
5. Kekeliruan Fisika (“Rem Energi”)
Argumen: “Premis teori ini tentang kelimpahan AI yang ‘tak terbatas’ bertumpu pada sebuah fantasi. AI berjalan dengan energi dalam jumlah sangat besar. Pertumbuhan eksponensialnya pasti akan bertabrakan dengan batas-batas fisik yang keras dari produksi energi. Kendala-kendala ini akan berfungsi sebagai rem alami bagi revolusi ini, memperlambatnya hingga ke laju yang dapat dikelola. AI yang sesungguhnya akan tetap menjadi sumber daya yang langka dan mahal.”
Bantahan: Argumen ini dengan tepat mengenali kendala-kendala fisik yang paling akhir. Argumen ini gagal karena salah mengenali di mana leher botolnya. Pertama, kecerdasan memecahkan kendalanya sendiri. Fungsi utama kecerdasan supramanusia adalah memecahkan persoalan energi dan sumber daya yang justru ia ciptakan. AI yang mampu merancang panel surya yang lebih baik atau mengelola reaktor fusi bukan sekadar mengonsumsi energi; AI itu membuka energi. Kedua, perlombaan melawan konsumsi. Kita tidak bertaruh bahwa AI dapat menentang fisika; kita bertaruh bahwa AI dapat menguasai fisika lebih cepat daripada ia mengonsumsinya. Krisis ‘Jendela Seribu Hari’ adalah tepat perlombaan ini. Batas-batas fisik itu nyata, tetapi batas-batas itu adalah sasaran bergerak yang justru digeser oleh kecerdasan itu sendiri.
6. Kekeliruan Solusionisme (“UBI Obat Segala Penyakit”)
Argumen: “Mari kita terima seluruh premisnya: AI mengotomatiskan semua tenaga kerja manusia. Ini bukan bencana; ini adalah terwujudnya mimpi tertua umat manusia. Pendapatan Dasar Universal (Universal Basic Income, UBI), yang didanai oleh pajak atas produktivitas AI, memecahkan persoalan ekonomi. Orang-orang akan bebas mengejar seni dan aktualisasi diri. Kekhawatiran tentang ‘kepanikan akan tujuan hidup’ itu elitis.”
Bantahan: Visi utopis ini mengabaikan fisika kekuasaan dan psikologi makna. Pertama, fisika kekuasaan. Persoalan “distribusi” bukanlah tantangan teknis yang sederhana; persoalan itu adalah pertempuran politik utama abad ke-21. Para pemilik infrastruktur AI akan memiliki kekuasaan yang belum pernah ada sebelumnya untuk menolak pajak yang dibutuhkan guna mendanai UBI yang berarti. Hasil yang paling mungkin bukanlah dividen yang membebaskan, melainkan alat penenang setingkat sekadar penyambung hidup. Kedua, psikologi makna. Selama 300 tahun, masyarakat industri telah secara sistematis membongkar semua sumber makna non-ekonomi dan menggantinya dengan satu sumber tunggal: karier. Anda tidak bisa begitu saja mencabut satu pilar itu dan berharap bangunannya tetap berdiri. Populasi yang dilucuti dari daya tindak dan tujuan hidupnya bukanlah sebuah aristokrasi para filsuf; populasi itu adalah masyarakat yang matang untuk dimanipulasi.
7. Kekeliruan Homeostasis (“Sistem Akan Beradaptasi”)
Argumen: “Perekonomian adalah sistem adaptif yang kompleks. Sistem semacam itu memiliki mekanisme penstabil diri yang kuat. Revolusi AI akan menjadi guncangan yang dahsyat, tetapi sistem yang ada akan menyerapnya, beradaptasi dengannya, dan akhirnya menjinakkannya melalui lingkaran umpan balik negatif seperti regulasi baru dan pergeseran budaya. Sistem itu tidak akan hancur; sistem itu akan meredam guncangannya.”
Bantahan: Argumen ini gagal karena salah menilai sifat guncangan itu dan kesehatan sistem sebelum guncangan itu tiba. Pertama, homeostasis bekerja sampai ia tidak lagi bekerja. Sistem homeostasis tubuh itu ajaib sampai Anda tercebur ke dalam air sedingin es. AI bukanlah perubahan di dalam parameter ekonomi informasi; AI adalah kekuatan yang mendorong seluruh sistem jauh keluar dari rentang homeostasisnya yang stabil. Kedua, respons kekebalan sistem kita telah melemah. Sebagaimana diuraikan dalam “Pertanda Badai,” perekonomian global kita telah menghabiskan puluhan tahun menukar ketahanan dengan efisiensi. Kita bukanlah organisme sehat yang menghadapi virus baru; kita adalah pasien dengan kekebalan tubuh yang lemah yang menghadapi bakteri super. Ketiga, “spesies invasif” ini lebih cerdas daripada ekosistemnya. Homeostasis tidak dapat bertahan melawan kekuatan yang mampu menulis ulang aturan homeostasis itu sendiri.
Putusan:
Pengadilan telah usai. Skeptisisme telah dijawab. Fondasinya bertahan. Tujuh Kekeliruan Mematikan, yang berakar pada kenyamanan mendalam dari preseden sejarah dan keyakinan pada nalar manusia, memang kuat. Kekeliruan-kekeliruan itu berbicara kepada harapan terdalam kita: bahwa kali ini tidak berbeda, bahwa kita masih punya waktu, bahwa kita istimewa, bahwa kitalah yang memegang kendali.
Namun harapan bukanlah pengganti fisika.
Kita telah memperoleh hak untuk membangun. Namun kita tidak dapat membangun bahtera dengan cetak biru sebuah kereta kuda. Arsitektur dunia baru harus diturunkan dari fisika baru yang telah kita singkapkan. Kepada fisika baru itulah, yakni hukum-hukum kecerdasan, geometri nilai, dan mesin keteraturan, kita sekarang harus berpaling, dengan mata yang jernih dan pikiran yang tenang.