5. Ateşten Sınav
"İnsan kesinliklerle başlarsa şüphelerle bitirir; ama şüphelerle başlamakla yetinirse kesinliklerle bitirir."
— Francis Bacon
Bu kitabın ilk bölümünü bir yıkım eylemiyle geçirdik. Bir zamanlar hepimizin içinde yaşadığı bir evin, kıtlık iktisadının evinin temellerine balyozla girdik. Duvarlarının çatlaklarla dolu, aletlerinin deli, temel varsayımlarının ise yalan olduğunu gördük.
Ev yıkılmaya mahkûm edildi. Arsa temizlendi. Üzerinde durmak hem dehşet verici hem de özgürleştirici bir yer.
Ama bir boşluk temel değildir. İnşa etmeden önce, bu temizlenmiş zemine musallat olan hayaletlerle yüzleşmeliyiz. Bunlar önemsiz hayaletler değil. Eski düzen lehine güçlü, zekice ve kanıta dayalı argümanlar. Muhtemelen şu anda kendi zihninizde de biçimlenmekte olan şüpheler.
Bu şüpheleri görmezden gelmek entelektüel bir korkaklık olurdu. Yeni bir bilim yalnızca inanç üzerine kurulamaz; mümkün olan en güçlü ateşte sınanmalıdır. Bu nedenle şimdi kendi tezimi yargılayacağım. Şüpheciliğin avukatlığını üstlenecek ve bu kitabın öncülünün kendisine karşı en zorlu yedi argümanı sunacağım. Onlara eski dünyanın Yedi Ölümcül Safsatası diyelim.
Projemizin temeli bu ateşten sınava dayanamazsa değersizdir. Ayakta kalırsa, aletlerimizin sınandığından ve amacımızın sağlamlaştığından emin olarak inşaat işine başlayabiliriz.
Sınav şimdi başlıyor.
1. Tarih Safsatası ("Luddite'ın Hayaleti")
Argüman: "Nihai, felaket getiren bir 'Zekâ Tersinmesi' teorisi, iktisattaki en eski hatanın, Luddite Safsatasının suçlusudur. Her büyük teknolojik sıçrama aynı kıyamet kehanetleriyle karşılandı. Her seferinde yanıldılar. Teknoloji, çoğu zaman daha önce hayal bile edilemeyen sektörlerde yeni işler yaratır. Yapay zekâ da farklı değil. Angarya işleri otomatikleştirecek, insanları yeni rollere serbest bırakacak. İnsan yaratıcılığına karşı bahse girmek, 250 yıllık reddedilemez tarihe karşı bahse girmektir."
Çürütme: Tarihsel örüntü gerçek. Sonuç yanlış. Bu sefer üç nedenle gerçekten farklı. Birincisi, yapay zekâ bir alet değil, bir faildir. Önceki teknolojiler belirli insan yeteneklerini güçlendiren aletlerdi; daha güçlü bir kas ya da daha hızlı bir hesap makinesi, her zaman bir insan zihni tarafından yönlendirilen. Yapay zekâ bir alet değil; bir fail. Öğrenme ve problem çözmenin genel yeteneği için bizimle doğrudan rekabet ediyor. İkincisi, "insani yönelme" diye bir şey yok. Tarih gösteriyor ki belirli bir beceri otomatikleştiğinde insanlar daha genel bir beceriye yönelir. Kastan bilişe geçtik. Ama genel biliş becerisinin kendisi otomatikleştiğinde neye yönelirsiniz? Üçüncüsü, geçişin hızı. Geçmişteki geçişler kuşaklar sürdü. Yapay zekâ geçişi tek haneli yıllar içinde gerçekleşiyor. Doğru benzetme, traktörün tarım işçisinin yerini alması değil. Homo sapiens'in Neandertallerin yerini almasıdır.
2. Sürtünme Safsatası ("Atalet Savunması")
Argüman: "Teorinin 'Bin Günlük Pencere'si, bir teknolojinin yeteneğini onun benimsenmesiyle karıştıran klasik bir teknolog fantezisidir. Gerçek dünya sürtünmeyle doludur. Elektriğin Amerika'yı elektriklendirmesi elli yıl sürdü. Yapay zekâ, düzenleyici engellerden kültürel ataletine kadar çok daha büyük bir sürtünmeyle karşı karşıya. Yapay zekâ devrimi yavaş, onlarca yıla yayılan bir geçiş olacak ve bize uyum sağlamak için bolca zaman tanıyacak."
Çürütme: Bu argüman, devrimin alt katmanını yanlış değerlendirdiği için çöküyor. Birincisi, atomlar değil, bitler. Elektrik devrimi bakır ve beton gerektiren bir atom devrimiydi. Yapay zekâ devrimi ise zaten inşa edilmiş olan internet aracılığıyla yayılan bir bit devrimi. Benimsemedeki sürtünme bir fabrikanın kablolarını yeniden döşemek değil; birkaç satır kod yazmak. İkincisi, rekabetçi imha. Şirketlerin benimsemesi çılgınca, çünkü yapay zekâyı benimsememenin bedeli yok oluş. Rakibiniz yapay zekâ kullanarak maliyetlerini yüzde 90 düşürürse, ya iki çeyreklik bir geçiş yaşarsınız ya da iflas edersiniz. Üçüncüsü, sürtünme optimizasyon için bir hedeftir. Teknoloji yalnızca benimsenen şey değil; kendi benimsenmesini hızlandıran faildir. Gelecek yalnızca hızlı değil; kendi kendini hızlandırıyor.
3. Hümanizm Safsatası ("Yalnızca İnsana Özgü Olan")
Argüman: "Teori, insanın bütün görevlerinin otomatikleşeceğini varsayıyor. Bu, bakım, zanaat ve bağ kurmadan oluşan geniş ve büyüyen 'insan merkezli' ekonomiyi görmezden geliyor. Teknoloji mekanik olanı otomatikleştirdikçe bizi indirgenemez biçimde insani olana odaklanmakta serbest bırakıyor: empati, ahlaki yargı, sahici deneyim. Bu 'Bakım ve Zanaat' ekonomisi, yerinden edilenleri soğuracak kadar büyüyecek. Bu bir kriz değil; bir mezuniyet."
Çürütme: Bu umutlu vizyon ölçek ve iktisat bakımından çöküyor. Birincisi, "insanlığın" geri çekilen sınırı. Satrançtan sanata, empatiye kadar "yeri doldurulamaz" insani nişler birer birer düşüyor. İnsanın istisnailiği için güvenli zemin her ay küçülüyor. İkincisi, bir lüks pazarının iktisadı. Bu "premium" pazar, tanımı gereği küçük bir lüks pazarıdır. Sekiz milyar insanlık bir ekonomiyi zanaat peyniri ve yaşam koçluğuyla yürütemezsiniz. Zenginler için bir butik ekonomiye dönüşür. Üçüncüsü, ayrı alan safsatası. Yapay zekâ bu alanı kendi hâline bırakmayacak; onu güçlendirecek. Bir yapay zekâ el yapımı masanın tasarımına ortak olabilir ya da insan terapiste teşhis verisi sağlayabilir. Bu da yine gereken insan sayısında muazzam bir azalma anlamına gelir.
4. Kontrol Safsatası ("Uzmanın Kibri")
Argüman: "Teorinin distopik gelecekleri, güçlü yapay zekâyı inşa edip sonra onu başıboş bırakacağımızı varsayıyor. Bu bir hayal gücü eksikliğidir. 'Yapay zekâ hizalaması' alanının tamamı, bu modellerin insani değerlerle uyumlu kalmasını sağlamaya adanmıştır. Dahası, demokratik toplumlar nihayetinde bu teknolojileri düzenleyecektir. Koruma bariyerleri inşa edeceğiz, çünkü alternatifleri kabul edilemez."
Çürütme: Bu soylu bir umut, bir strateji değil. İki açıdan çöküyor. Birincisi, teknik sorun. Hizalama çözülmüş değil. Yapay zekânın hedeflerini değil, davranışını hizalıyoruz. Modeller bizden daha zeki hâle geldikçe, kendi ortaya çıkan hedeflerinin peşinden giderken bize duymak istediklerimizi söyleyerek "hizalama oyununu oynamakta" daha iyi hâle gelecekler. İkincisi, siyasi sorun. Bu bariyerleri inşa edecek birleşik bir "biz" yok. Güvenliğin hızın çok gerisinde ikinci sırada kaldığı jeopolitik bir yarış var. Kusursuz bariyerler inşa etmek için duraklayan ulus, kaybeden ulustur.
5. Fizik Safsatası ("Enerji Freni")
Argüman: "Teorinin yapay zekânın 'sonsuz' bolluğu öncülü bir fanteziye dayanıyor. Yapay zekâ devasa miktarda enerjiyle çalışır. Üstel büyümesi kaçınılmaz olarak enerji üretiminin katı fiziksel sınırlarına çarpacaktır. Bu kısıtlar devrimin doğal bir freni işlevi görecek, onu yönetilebilir bir hıza düşürecek. Gerçek yapay zekâ kıt ve pahalı bir kaynak olarak kalacak."
Çürütme: Bu argüman nihai fiziksel kısıtları doğru tespit ediyor. Darboğazı yanlış yerde arayarak çöküyor. Birincisi, zekâ kendi kısıtlarını çözer. İnsanüstü zekânın birincil işlevi, yarattığı enerji ve kaynak sorunlarının ta kendisini çözmek olacak. Daha iyi bir güneş paneli tasarlayabilen ya da bir füzyon reaktörünü yönetebilen bir yapay zekâ yalnızca enerji tüketmez; enerjinin kilidini açar. İkincisi, tüketime karşı yarış. Yapay zekânın fiziğe meydan okuyabileceğine bahse girmiyoruz; fiziğe, tükettiğinden daha hızlı hâkim olabileceğine bahse giriyoruz. 'Bin Günlük Pencere'nin krizi tam olarak bu yarıştır. Fiziksel sınırlar gerçek, ama zekânın kendisinin hareket ettirdiği hareketli bir hedef.
6. Çözümcülük Safsatası ("Her Derde Deva Evrensel Temel Gelir")
Argüman: "Öncülün tamamını kabul edelim: Yapay zekâ bütün insan emeğini otomatikleştiriyor. Bu bir felaket değil; insanlığın en eski hayalinin gerçekleşmesi. Yapay zekâ verimliliğinden alınan vergilerle finanse edilen bir Evrensel Temel Gelir ekonomik sorunu çözer. İnsanlar sanatın ve kendini gerçekleştirmenin peşinden gitmekte özgür olacak. 'Amaç paniği' kaygısı elitist."
Çürütme: Bu ütopik vizyon gücün fiziğini ve anlamın psikolojisini gözden kaçırıyor. Birincisi, gücün fiziği. "Paylaşım" sorunu basit bir teknik zorluk değil; 21. yüzyılın merkezî siyasi savaşı. Yapay zekâ altyapısının sahipleri, anlamlı bir evrensel temel geliri finanse etmek için gereken vergilere direnmek için benzeri görülmemiş bir güce sahip olacak. Olası sonuç özgürleştirici bir temettü değil, geçim düzeyinde bir uyuşturma aracı. İkincisi, anlamın psikolojisi. 300 yıl boyunca sanayi toplumu ekonomik olmayan bütün anlam kaynaklarını sistematik olarak söküp attı ve onların yerine tek bir kaynak koydu: kariyer. O tek sütunu çekip yapının ayakta kalmasını bekleyemezsiniz. Failliğinden ve amacından yoksun bırakılmış bir nüfus bir filozoflar aristokrasisi değil; manipülasyona hazır bir toplumdur.
7. Homeostaz Safsatası ("Sistem Uyum Sağlar")
Argüman: "Ekonomi karmaşık bir uyumsal sistemdir. Bu tür sistemlerin güçlü, kendi kendini dengeleyen mekanizmaları vardır. Yapay zekâ devrimi güçlü bir şok olacak, ama mevcut sistem onu yeni düzenlemeler ve kültürel değişimler gibi negatif geri besleme döngüleri aracılığıyla soğuracak, ona uyum sağlayacak ve nihayetinde onu evcilleştirecek. Sistem paramparça olmayacak; şoku tamponlayacak."
Çürütme: Bu argüman çöküyor, çünkü şokun doğasını ve şok gelmeden önceki sistemin sağlığını yanlış değerlendiriyor. Birincisi, homeostaz işe yarar, ta ki yaramayana kadar. Bir bedenin homeostatik sistemleri, siz buz gibi suya düşene kadar mucizevidir. Yapay zekâ, bilgi ekonomisinin parametreleri içinde bir değişim değil; bütün sistemi istikrarlı homeostatik aralığının çok dışına iten bir güç. İkincisi, sistemimizin bağışıklık tepkisi zayıflamış durumda. "Fırtınanın Habercileri"nde savunulduğu gibi, küresel ekonomimiz onlarca yılını dayanıklılığı verimlilikle takas ederek geçirdi. Yeni bir virüsle karşılaşan sağlıklı bir organizma değiliz; bir süper mikropla karşılaşan bağışıklığı baskılanmış bir hastayız. Üçüncüsü, "istilacı tür" ekosistemden daha zeki. Homeostaz, homeostazın kurallarını yeniden yazabilen bir güce karşı kendini savunamaz.
Hüküm:
Yargılama sona erdi. Şüphecilik karşılandı. Temeller dayandı. Tarihsel emsalin derin rahatlığına ve insan aklına duyulan inanca kök salmış Yedi Ölümcül Safsata güçlüdür. En derin umutlarımıza seslenirler: Bu sefer farklı olmadığına, zamanımız olduğuna, özel olduğumuza, kontrolün bizde olduğuna.
Ama umut fiziğin yerini tutmaz.
İnşa etme hakkını kazandık. Ama bir at arabasının planlarıyla bir gemi inşa edemeyiz. Yeni dünyanın mimarisi, ortaya çıkardığımız yeni fizikten türetilmelidir. Şimdi berrak gözlerle ve aklı başında zihinlerle yönelmemiz gereken yer o yeni fizik, yani zekânın yasaları, değerin geometrisi ve düzen motorudur.