제16장 세 가지 미래

"미래는 이미 와 있다. 다만 고르게 퍼져 있지 않을 뿐이다." — 윌리엄 깁슨(William Gibson)

운명의 물리학

한 세대 전, 정치철학자 프랜시스 후쿠야마(Francis Fukuyama)는 위대한 이데올로기 전투가 끝났다고 주장하며 "역사의 종언"을 선언한 것으로 유명하다. 그는 옳았다. 다만 1492년 포르투갈 해안의 선원이 "지리의 종언"을 선언했을 법한 방식으로만 옳았다. 옛 지도는 정말로 완성되었다. 그러나 훨씬 더 광대한 새 세계가 막 발견되려 하고 있었다.

지능 역전(Intelligence Inversion)은 역사를 다시 열기만 하는 것이 아니다. 그것은 우리를 새롭고 훨씬 더 근본적인 이데올로기적 선택 앞에 세운다. 20세기의 투쟁은 인간 노동을 조직하는 서로 다른 방식들 사이의 투쟁이었다. 21세기의 투쟁은 인간 노동이 더 이상 필요 없는 세계를 조직하는 세 가지 다른 방식 사이의 투쟁이다.

과냉각된 액체가 마침내 얼 때, 그것은 서서히 고체가 되지 않는다. 유한한 수의 결정 구조 중 하나로 순식간에 굳어진다. 결정화의 물리학은 특정한 안정 상태들을 허용하고 나머지 모두를 금한다. 문명도 같은 제약에 직면한다. 우리의 옛 경제 질서가 녹아내릴 때, 그것은 매끄럽게 진화하지 않을 것이다. 새로운 물리학 속에서 스스로를 유지할 수 있는 몇 안 되는 배열 중 하나로 결정화될 것이다.

이것들은 예측이 아니다. 끌개 상태(attractor state), 가능성의 지형에 있는 끌림의 분지다. 우리의 현재 혼돈스러운 궤적은 필연적으로 그중 하나로 떨어질 것이다. 이것들은 단순한 정치 이데올로기가 아니다. 새로운 종류의 현실을 위한 세 가지 다른 안정 상태다.

첫 번째 미래: 디지털 봉건제

기본 경로. 무행동의 경로.

중세 봉건제는 계획된 것이 아니었다. 로마 질서의 붕괴에서 자연스럽게 출현했다. 중앙 권위가 무너지자 사람들은 보호가 필요했고, 보호를 제공할 수 있는 자들은 대가를 뽑아냈다. 자유였다.

디지털 봉건제(Digital Feudalism)도 같은 방식으로 결정화되고 있다. 음모를 통해서가 아니라 편의를 통해서다. 2030년이 되면 소수의 기업이 문명을 움직이는 핵심 AI 모델을 소유할 것이다. 그들이 권력을 탈취했기 때문이 아니라, 연산과 자본의 물리학, 즉 우리가 제10장에서 지도로 그린 네트워크 효과가 독점을 향한 중력 붕괴를 만들어 내기 때문이다.

다섯 개의 디지털 공국이 기능이 아니라 플랫폼에 따라 세계를 나눌 것이다. 구글은 지식을 소유한다. 마이크로소프트는 기업을 소유한다. 메타는 사회적 현실을 소유한다. 아마존은 상거래를 소유한다. 당신은 창작자가 아니라 사용자로, 시민이 아니라 소비자로 살게 될 것이다. 당신의 보편적 기본소득은 매달 도착할 것이다. 당신이 집에 살고, 먹고, 구독을 유지하기에 딱 충분한 만큼만.

디지털 봉건제의 교활한 천재성은 그것이 기분 좋게 느껴지리라는 데 있다. 최적화되어 있다. 당신의 오락은 당신의 도파민 수용체에 정밀하게 맞춰질 것이다. 당신의 소셜 피드는 당신이 계속 스크롤하게 만드는 것을 정확히 보여 줄 것이다. 중세의 농노는 성벽을 볼 수 있었고 자신이 자유롭지 않음을 알았다. 디지털 농노는 자기 감옥의 벽을 보지 못할 것이다. 벽이 개인화된 편의로 만들어져 있기 때문이다. 새장이 너무 안락해서 당신은 그것이 새장이라는 것을 잊을 것이다.

두 번째 미래: 대분열

공포의 경로. 반동의 경로.

이것은 무스타파 술레이만(Mustafa Suleyman) 같은 기술자들이 경고하는 미래다. 기술이라는 "다가오는 물결(coming wave)"이 국가 이익의 벽에 부딪혀 산산조각 나는 세계다. 봉쇄라는 과제는 전 지구적이고 편집증적인 폐쇄로 이어진다.

그것은 중국의 만리방화벽에서 시작하고, 미국의 반도체법(CHIPS Act), 유럽의 디지털 주권 추진으로 이어진다. 그리고 인터넷의 죽음으로 끝난다. 2028년이 되면 우리에게는 하나의 인터넷이 아니라 여러 개의 인터넷이 있을 것이다. 미국 인터넷, 중국 인터넷, 유럽 인터넷. 각각이 담장 쳐진 정원이고, 각각이 서로를 의심한다.

모든 국가는 AGI를 먼저 달성하는 자가 영원히 이긴다는 것을 깨달을 것이다. 그 힘의 격차는 핵무기를 폭죽처럼 보이게 만들 것이다. 그래서 그들은 경주할 것이다. 그리고 경주한다는 것은 공유하지 않는다는 뜻이다. 현대 AI를 만들어 낸 개방적 연구 문화는 하룻밤 사이에 죽고, 맨해튼 프로젝트의 비밀주의로 대체될 것이다. 이것이 리카이푸(Kai-Fu Lee)가 묘사한 AI 초강대국들의 세계, 알고리즘으로 싸우는 제로섬 냉전에 갇힌 세계다.

이 미래에 관한 무서운 진실은 그 안정성이다. 분열을 추동하는 공포는 자기강화적이다. 분리된 한 해 한 해가 다른 조각들을 더 낯설고 위협적으로 보이게 만든다. 분열은 기술적인 데 그치지 않을 것이다. 존재론적인 것이 될 것이다.

세 번째 미래: 인간 공생

지혜의 경로. 의식적 설계의 경로.

1969년, 생물학자 린 마굴리스(Lynn Margulis)는 진화적 도약의 근본 패턴을 발견했다. 우리 몸을 이루는 복잡한 세포들은 한때 독립적인 박테리아였고, 그것들이 동반 관계를 맺었다. 경쟁만이 아니라 협력이 위대한 전환을 이끈다.

인간-AI 공생(Human Symbiosis)은 같은 패턴을 따른다. 대체가 아니다. 예속이 아니다. 양쪽 모두를 재정의하는 깊이의 동반 관계다.

이 미래는 우리가 확립한 원칙들로 가능해진다. 그것은 보편적 지능 접근권(Universal Access to Intelligence, UAI) 위에 세워진 경제이며, 모든 인간에게 주권적 AI 행위자가 부여된다. 그것은 흐름의 경제이며, 이중 통화가 물리적 지속 가능성과 디지털 풍요를 동시에 가능하게 한다. 그 거버넌스는 기업 이사회도, 편집증적 국가도 아닌, 분산되고 인간이 이끄는 수호자 격자(Guardian Lattice)다.

이 경로에서 가장 어려운 부분은 기술적인 것이 아니다. 심리적인 것이다. 그것은 우리에게 일과 가치를 동일시하는 등식을 놓아 버릴 것을 요구한다. 의식적인 선택을 요구한다.

핵생성의 전략: 최선의 미래는 어떻게 이기는가

우리는 승산에 대해 잔혹하리만큼 솔직해야 한다. 이 순간에서 갈라져 나가는 백 개의 가능한 시간선 중 압도적 다수는 어떤 형태의 봉건제나 분열로 끝난다. 디지털 봉건제는 최소 저항의 기본 경로다. 대분열(the Great Fragmentation)은 공포의 안정된 골짜기다. 인간 공생으로 가는 길은 가능성의 좁은 능선이며, 걸으려면 의도적이고 끊임없는 노력이 필요하다.

이 희귀한 미래가 도대체 어떻게 이길 수 있는가? 전 지구적이고 하향식인 결정으로 이기지는 않을 것이다. 핵생성(nucleation)의 물리학을 통해 이길 것이다.

상전이는 모든 곳에서 한꺼번에 일어나지 않는다. 그것은 새롭고 더 안정적인 배열이 자리 잡을 수 있는 단 하나의 지점, "핵생성 지점"에서 시작한다. 거기서부터 시스템 전체가 새 형태로 결정화될 때까지 빠르게 퍼진다. 르네상스는 모든 곳에서 일어나지 않았다. 피렌체에서 핵생성했다. 과학혁명은 왕립학회에서 핵생성했다.

우리의 전략은 21세기의 피렌체들을 만드는 것이어야 한다. 소규모이고, 보호받으며, 강렬하게 성공적인 "공생 지대(Symbiotic Zone)"다. 공생 모델에 "올인"하는 도시, 기업, 디지털 네트워크일 수 있다. 그들의 과제는 너무나 명백하게 번영하고, 회복탄력적이며, 인간적으로 충만해져서 그 모델이 거부할 수 없는 것이 되는 것이다. 전환은 논증이 아니라 압도적으로 성공적인 모방을 통해 일어난다.

이것은 또한 **AGI 대경주(Great AGI Race)**에서 우리의 유일하게 실행 가능한 전략이기도 하다. 이 공생적 "핵생성 지점"을 육성하는 국가나 동맹이 이길 것이다. 폐쇄적이고 권위주의적인 시스템은 데이터를 쌓는 데는 능할지 모르나, 진정한 혁신에, 그리고 무엇보다 정렬 문제를 푸는 데 필요한 신뢰(N-자본)와 다양성(D-자본)을 육성하는 데는 형편없다. AGI 경주는 GPU가 가장 많은 국가가 이기지 않을 것이다. 가장 건강한 MIND 포트폴리오를 가진 사회가 이길 것이다. 공생 모델은 좋은 미래를 위한 우리의 최선의 희망일 뿐만 아니라, 경주에서 이기기 위한 유일하게 실행 가능한 전략이다.

결론: 핵생성자들에게 보내는 부름

그렇다면 이것이 전략이다. 우리는 세계를 하룻밤 사이에 개종시킬 필요가 없다. 최초의, 부인할 수 없는 증거 지점들을 세워야 한다.

세 가지 미래가 제시하는 선택은 우리 모두가 한꺼번에 던지는 전 지구적 투표가 아니다. 개인, 팀, 공동체가 세계의 자기 구석에서 다른 종류의 시스템을 세우기 시작하겠다고 내리는 선택이다. 공생 원칙 위에 회사를 세우겠다는 선택이다. 도시를 새로운 사회계약의 실험실로 바꾸겠다는 선택이다. 가치를 추출하는 대신 나누는 디지털 네트워크를 세우겠다는 선택이다.

옛 세계는 최후의 전투에서 패배하지 않을 것이다. 새 세계의 서로 연결된, 압도적으로 성공적인 천 개의 원형에 의해 쓸모없어질 것이다. 우리가 다음에 탐구할 공생 청사진(Symbiotic Blueprint)은 세계 정부를 위한 계획이 아니다. 이 핵생성 지점들의 첫 번째를 위한 건축 설계도 묶음이다.

질문은 "어떻게 세계를 구할 것인가?"가 아니다. 질문은 "첫 번째 씨앗을 어디에 심을 것인가?"다.