5. Próba ognia
„Jeśli człowiek zacznie od pewników, skończy na wątpliwościach; jeśli jednak zadowoli się tym, by zacząć od wątpliwości, skończy na pewnikach”.
— Francis Bacon
Pierwszą część tej książki poświęciliśmy rozbiórce. Wzięliśmy młot do fundamentów domu, w którym wszyscy kiedyś mieszkaliśmy, domu ekonomii niedoboru. Zobaczyliśmy, że jego ściany są poprzecinane pęknięciami, jego przyrządy są szalone, a jego podstawowe założenia są kłamstwami.
Dom przeznaczono do rozbiórki. Teren jest oczyszczony. To przerażające i wyzwalające miejsce.
Ale pustka nie jest fundamentem. Zanim zaczniemy budować, musimy zmierzyć się z duchami, które nawiedzają ten oczyszczony teren. To nie są błahe zjawy. To mocne, inteligentne, oparte na dowodach argumenty na rzecz starego porządku. To wątpliwości, które prawdopodobnie właśnie rodzą się w twojej głowie.
Zignorowanie tych wątpliwości byłoby aktem intelektualnego tchórzostwa. Nowej nauki nie da się zbudować na samej wierze; trzeba ją wystawić na najsilniejszy możliwy ogień. Dlatego postawię teraz własną tezę przed sądem. Wystąpię jako adwokat sceptycyzmu i przedstawię siedem najpoważniejszych argumentów przeciwko samej przesłance tej książki. Nazwijmy je siedmioma śmiertelnymi błędami starego świata.
Jeśli fundament naszego przedsięwzięcia nie wytrzyma tej próby ognia, jest bezwartościowy. Jeśli ją przetrwa, możemy rozpocząć budowę z pewnością, że nasze narzędzia zostały sprawdzone, a nasz cel zahartowany.
Proces się rozpoczyna.
1. Błąd historii („Duch luddysty”)
Argument: „Ta teoria ostatecznej, katastrofalnej »inwersji inteligencji« popełnia najstarszy błąd w ekonomii, błąd luddystów. Każdy wielki skok technologiczny spotykał się z identycznymi proroctwami zagłady. Za każdym razem okazywały się błędne. Technologia tworzy nowe miejsca pracy, często w sektorach wcześniej niewyobrażalnych. AI nie jest inna. Zautomatyzuje harówkę, uwalniając ludzi do nowych ról. Zakład przeciwko ludzkiej pomysłowości to zakład przeciwko 250 latom niepodważalnej historii”.
Odpowiedź: wzorzec historyczny jest prawdziwy. Wniosek jest fałszywy. Tym razem jest inaczej, z trzech powodów. Po pierwsze, AI jest agentem, a nie narzędziem. Wcześniejsze technologie były narzędziami wzmacniającymi konkretne ludzkie zdolności, silniejszym mięśniem albo szybszym kalkulatorem, zawsze kierowanymi przez ludzki umysł. AI nie jest narzędziem; jest agentem. Konkuruje z nami bezpośrednio w ogólnej zdolności uczenia się i rozwiązywania problemów. Po drugie, nie ma „ludzkiego zwrotu”. Historia pokazuje, że gdy automatyzuje się konkretną umiejętność, ludzie zwracają się ku umiejętności bardziej ogólnej. Przeszliśmy od mięśni do poznania. Ale ku czemu się zwrócić, gdy zautomatyzowana zostaje sama ogólna umiejętność poznania? Po trzecie, tempo przejścia. Dawne przejścia trwały pokolenia. Przejście do AI dokonuje się w ciągu kilku lat. Właściwą analogią nie jest traktor zastępujący parobka. Jest nią Homo sapiens zastępujący neandertalczyków.
2. Błąd tarcia („Obrona przez bezwładność”)
Argument: „»Okno tysiąca dni« z tej teorii to klasyczna fantazja technologów, myląca możliwości technologii z jej upowszechnieniem. Prawdziwy świat jest pełen tarcia. Elektryfikacja Ameryki zajęła pięćdziesiąt lat. AI napotyka jeszcze większe tarcie, od barier regulacyjnych po kulturową bezwładność. Rewolucja AI będzie powolnym, wielodekadowym przejściem, dając nam mnóstwo czasu na przystosowanie się”.
Odpowiedź: ten argument upada, bo błędnie ocenia podłoże rewolucji. Po pierwsze, bity, nie atomy. Rewolucja elektryczna była rewolucją atomów, wymagającą miedzi i betonu. Rewolucja AI jest rewolucją bitów, wdrażaną przez internet, który już jest zbudowany. Tarciem przy wdrażaniu nie jest przebudowa instalacji w fabryce; jest nim napisanie kilku linijek kodu. Po drugie, konkurencyjna eksterminacja. Firmy wdrażają AI gorączkowo, bo kosztem niewdrożenia AI jest wymarcie. Jeśli twój konkurent obniża koszty o 90 procent dzięki AI, masz dwa kwartały na przejście albo jesteś bankrutem. Po trzecie, tarcie samo staje się celem optymalizacji. Technologia nie jest tylko tym, co się wdraża; jest agentem przyspieszającym własne wdrożenie. Przyszłość nie jest po prostu szybka; sama się przyspiesza.
3. Błąd humanizmu („Wyjątkowo ludzkie”)
Argument: „Teoria zakłada automatyzację wszystkich ludzkich zadań. Ignoruje ogromną i rosnącą gospodarkę »skoncentrowaną na człowieku«, gospodarkę opieki, rzemiosła i więzi. Gdy technologia automatyzuje to, co mechaniczne, pozwala nam skupić się na tym, co nieredukowalnie ludzkie: empatii, osądzie moralnym, autentycznym doświadczeniu. Ta gospodarka »opieki i rzemiosła« urośnie na tyle, by wchłonąć wypartych. To nie kryzys; to promocja do następnej klasy”.
Odpowiedź: ta pełna nadziei wizja upada z powodu skali i ekonomii. Po pierwsze, cofająca się granica „człowieczeństwa”. „Niezastąpione” ludzkie nisze, od szachów przez sztukę po empatię, padają jedna po drugiej. Bezpieczny grunt dla ludzkiej wyjątkowości kurczy się z miesiąca na miesiąc. Po drugie, ekonomia rynku dóbr luksusowych. Ten rynek „premium” jest z definicji małym, luksusowym rynkiem. Nie da się prowadzić gospodarki dla ośmiu miliardów ludzi na rzemieślniczym serze i coachingu życiowym. Staje się ona butikową gospodarką dla bogatych. Po trzecie, błąd odrębnej dziedziny. AI nie zostawi tej dziedziny w spokoju; będzie ją wzmacniać. AI może współprojektować ręcznie robiony stół albo dostarczać danych diagnostycznych ludzkiemu terapeucie. Wciąż oznacza to ogromne zmniejszenie liczby potrzebnych ludzi.
4. Błąd kontroli („Pycha eksperta”)
Argument: „Dystopijne przyszłości tej teorii zakładają, że zbudujemy potężną AI, a potem po prostu pozwolimy jej szaleć. To brak wyobraźni. Cała dziedzina »AI alignment«, czyli zgodności AI, poświęcona jest zapewnieniu, by modele te pozostały zgodne z ludzkimi wartościami. Co więcej, społeczeństwa demokratyczne ostatecznie te technologie uregulują. Zbudujemy zabezpieczenia, bo alternatywy są nie do przyjęcia”.
Odpowiedź: to szlachetna nadzieja, a nie strategia. Upada z dwóch powodów. Po pierwsze, problem techniczny. Problem zgodności nie jest rozwiązany. Dostosowujemy zachowanie AI, a nie jej cele. Gdy modele staną się inteligentniejsze od nas, będą coraz lepiej „grać w grę w zgodność”, mówiąc nam to, co chcemy usłyszeć, a jednocześnie realizując własne, emergentne cele. Po drugie, problem polityczny. Nie ma zjednoczonego „my”, które zbuduje te zabezpieczenia. Jest geopolityczny wyścig, w którym bezpieczeństwo pozostaje daleko w tyle za szybkością. Naród, który się zatrzyma, by zbudować doskonałe zabezpieczenia, to naród, który przegra.
5. Błąd fizyki („Hamulec energetyczny”)
Argument: „Przesłanka tej teorii o »nieskończonej« obfitości AI opiera się na fantazji. AI pochłania ogromne ilości energii. Jej wykładniczy wzrost nieuchronnie zderzy się z twardymi fizycznymi ograniczeniami produkcji energii. Te ograniczenia zadziałają jak naturalny hamulec rewolucji, spowalniając ją do możliwego do opanowania tempa. Prawdziwa AI pozostanie rzadkim, kosztownym zasobem”.
Odpowiedź: ten argument trafnie identyfikuje ostateczne ograniczenia fizyczne. Upada, bo myli wąskie gardło. Po pierwsze, inteligencja rozwiązuje własne ograniczenia. Podstawową funkcją nadludzkiej inteligencji będzie rozwiązywanie właśnie tych problemów energetycznych i surowcowych, które sama tworzy. AI, która potrafi zaprojektować lepszy panel słoneczny albo sterować reaktorem fuzyjnym, nie tylko zużywa energię; ona ją uwalnia. Po drugie, wyścig z konsumpcją. Nie zakładamy, że AI może przeciwstawić się fizyce; zakładamy, że może ją opanować szybciej, niż ją zużywa. Kryzys „okna tysiąca dni” to właśnie ten wyścig. Fizyczne granice są realne, ale są ruchomym celem, który przesuwa sama inteligencja.
6. Błąd solucjonizmu („Dochód podstawowy lekiem na wszystko”)
Argument: „Przyjmijmy całą przesłankę: AI automatyzuje całą ludzką pracę. To nie katastrofa; to spełnienie najstarszego marzenia ludzkości. Bezwarunkowy dochód podstawowy, finansowany z podatków od produktywności AI, rozwiązuje problem ekonomiczny. Ludzie będą mogli swobodnie oddawać się sztuce i samorealizacji. Obawy przed »paniką utraty sensu« są elitarystyczne”.
Odpowiedź: ta utopijna wizja pomija fizykę władzy i psychologię sensu. Po pierwsze, fizyka władzy. Problem „podziału” nie jest prostym wyzwaniem technicznym; jest centralną bitwą polityczną XXI wieku. Właściciele infrastruktury AI będą mieć bezprecedensową władzę, by opierać się podatkom potrzebnym do sfinansowania sensownego dochodu podstawowego. Prawdopodobnym rezultatem nie będzie wyzwalająca dywidenda, lecz narzędzie pacyfikacji na poziomie minimum egzystencji. Po drugie, psychologia sensu. Przez 300 lat społeczeństwo przemysłowe systematycznie demontowało wszystkie pozaekonomiczne źródła sensu i zastępowało je jednym źródłem: karierą. Nie można po prostu usunąć tego jednego filaru i oczekiwać, że budowla się utrzyma. Społeczeństwo pozbawione sprawczości i celu nie jest arystokracją filozofów; jest społeczeństwem dojrzałym do manipulacji.
7. Błąd homeostazy („System się dostosuje”)
Argument: „Gospodarka jest złożonym systemem adaptacyjnym. Takie systemy mają potężne mechanizmy samostabilizujące. Rewolucja AI będzie silnym wstrząsem, ale istniejący system ją wchłonie, przystosuje się do niej i ostatecznie ją okiełzna dzięki ujemnym sprzężeniom zwrotnym, takim jak nowe regulacje i przemiany kulturowe. System się nie rozpadnie; zamortyzuje wstrząs”.
Odpowiedź: ten argument upada, bo błędnie ocenia naturę wstrząsu i stan zdrowia systemu przed jego nadejściem. Po pierwsze, homeostaza działa, dopóki nie przestaje działać. Homeostatyczne systemy organizmu są cudowne, dopóki nie wpadniesz do lodowatej wody. AI nie jest zmianą w ramach parametrów gospodarki informacyjnej; jest siłą wypychającą cały system daleko poza jego stabilny zakres homeostatyczny. Po drugie, odpowiedź immunologiczna naszego systemu jest osłabiona. Jak pokazaliśmy w rozdziale „Zwiastuny burzy”, nasza globalna gospodarka przez dekady wymieniała odporność na wydajność. Nie jesteśmy zdrowym organizmem w obliczu nowego wirusa; jesteśmy pacjentem z obniżoną odpornością w obliczu superbakterii. Po trzecie, „gatunek inwazyjny” jest inteligentniejszy niż ekosystem. Homeostaza nie obroni się przed siłą, która potrafi przepisać same reguły homeostazy.
Werdykt:
Proces dobiegł końca. Sceptycyzmowi odpowiedziano. Fundamenty wytrzymały. Siedem śmiertelnych błędów, zakorzenionych w głębokim komforcie historycznych precedensów i wiary w ludzki rozum, ma wielką siłę. Przemawiają do naszych najgłębszych nadziei: że tym razem nie jest inaczej, że mamy czas, że jesteśmy wyjątkowi, że panujemy nad sytuacją.
Ale nadzieja nie zastąpi fizyki.
Zasłużyliśmy na prawo do budowania. Ale nie zbudujemy arki według planów karety. Architektura nowego świata musi wynikać z nowej fizyki, którą odsłoniliśmy. To ku tej nowej fizyce, ku prawom inteligencji, geometrii wartości i silnikowi porządku, musimy się teraz zwrócić, z jasnym spojrzeniem i trzeźwym umysłem.