제5장 불의 시련
"확신으로 시작하는 사람은 의심으로 끝날 것이요, 의심으로 시작하는 데 만족하는 사람은 확신으로 끝날 것이다."
— 프랜시스 베이컨(Francis Bacon)
우리는 이 책의 첫 부분을 해체 작업에 썼다. 우리 모두가 한때 살았던 집, 희소성 경제학이라는 집의 기초에 망치를 댔다. 그 벽은 균열투성이고, 그 계기는 미쳐 있으며, 그 핵심 가정은 거짓말임을 보았다.
그 집은 철거 판정을 받았다. 터는 정리되었다. 두렵고도 해방적인 자리다.
그러나 공백은 기초가 아니다. 짓기 전에, 우리는 이 정리된 터를 떠도는 유령들과 맞서야 한다. 이들은 하찮은 환영이 아니다. 낡은 질서를 옹호하는 강력하고 지적이며 증거에 기반한 논거들이다. 지금 이 순간 당신의 머릿속에서 형성되고 있을 바로 그 의심들이다.
이 의심들을 무시하는 것은 지적 비겁함일 것이다. 새로운 과학은 믿음만으로 세워질 수 없다. 가능한 한 가장 뜨거운 불에 시험받아야 한다. 따라서 나는 이제 내 자신의 논지를 재판에 세우겠다. 회의론의 변호인이 되어, 이 책의 전제 자체에 맞서는 가장 만만치 않은 일곱 가지 논거를 제시하겠다. 이것들을 낡은 세계의 일곱 가지 치명적 오류(Seven Deadly Fallacies)라 부르자.
우리 기획의 기초가 이 불의 시련을 견디지 못한다면, 그것은 무가치하다. 살아남는다면, 우리는 도구가 시험되었고 목적이 단련되었다는 확신을 갖고 건설 작업을 시작할 수 있다.
재판은 지금 시작된다.
1. 역사의 오류 ("러다이트의 유령")
주장: "최종적이고 파국적인 '지능 역전'이라는 이 이론은 경제학에서 가장 오래된 오류, 러다이트 오류를 범하고 있다. 모든 주요 기술 도약은 똑같은 파멸의 예언과 마주했다. 매번 예외 없이 그 예언은 틀렸다. 기술은 새로운 일자리를 만들어 내며, 종종 이전에는 상상할 수 없던 부문에서 그렇게 한다. AI도 다르지 않다. AI는 고된 일을 자동화하고 인간을 새로운 역할을 위해 해방시킬 것이다. 인간의 창의성에 반대로 베팅하는 것은 250년의 반박 불가능한 역사에 반대로 베팅하는 것이다."
반박: 역사적 패턴은 실재한다. 결론은 틀렸다. 이번은 세 가지 이유로 정말 다르다. 첫째, AI는 도구가 아니라 행위자다. 이전의 기술들은 더 강한 근육이나 더 빠른 계산기처럼 특정한 인간 능력을 증강하는 도구였고, 언제나 인간의 정신이 조종했다. AI는 도구가 아니다. 행위자다. AI는 학습과 문제 해결이라는 일반 능력을 놓고 우리와 직접 경쟁한다. 둘째, "인간의 방향 전환"이 없다. 역사는 특정 기술이 자동화되면 인간이 더 일반적인 기술로 방향을 튼다는 것을 보여 준다. 우리는 근육에서 인지로 옮겨 갔다. 그러나 인지라는 일반 능력 자체가 자동화되면 어디로 방향을 틀 것인가? 셋째, 전환의 속도다. 과거의 전환은 여러 세대가 걸렸다. AI 전환은 한 자릿수 햇수 안에 일어나고 있다. 비유하자면 트랙터가 농장 일꾼을 대체하는 것이 아니다. _호모 사피엔스_가 네안데르탈인을 대체하는 것이다.
2. 마찰의 오류 ("관성의 변론")
주장: "이 이론의 '천 일의 창'은 기술의 _능력_과 _채택_을 혼동하는 전형적인 기술주의자의 환상이다. 현실 세계는 마찰로 가득하다. 전기가 미국 전역에 보급되는 데 50년이 걸렸다. AI는 규제 장벽부터 문화적 관성까지 훨씬 더 큰 마찰에 직면한다. AI 혁명은 느리고 수십 년에 걸친 전환이 될 것이며, 우리에게 적응할 시간을 충분히 줄 것이다."
반박: 이 주장은 혁명의 기질(基質)을 잘못 판단하여 실패한다. 첫째, 원자가 아니라 비트다. 전기 혁명은 구리와 콘크리트가 필요한 원자의 혁명이었다. AI 혁명은 비트의 혁명이며, 이미 구축되어 있는 인터넷을 통해 배포된다. 채택의 마찰은 공장을 다시 배선하는 일이 아니라 코드 몇 줄을 쓰는 일이다. 둘째, 경쟁적 절멸이다. 기업의 채택이 광적인 이유는 AI를 채택하지 않는 비용이 멸종이기 때문이다. 경쟁사가 AI로 비용을 90퍼센트 절감하면, 당신에게 주어진 전환 기간은 두 분기다. 아니면 파산이다. 셋째, 마찰은 최적화의 대상이다. 이 기술은 단지 채택되는 대상이 아니다. 자기 자신의 채택을 가속하는 행위자다. 미래는 단지 빠른 것이 아니라 자기 가속적이다.
3. 인본주의의 오류 ("고유하게 인간적인 것")
주장: "이 이론은 모든 인간 과제의 자동화를 가정한다. 이는 돌봄, 장인 기술, 연결로 이루어진 방대하고 성장하는 '인간 중심' 경제를 무시한다. 기술이 기계적인 것을 자동화할수록, 우리는 환원 불가능하게 인간적인 것, 즉 공감, 도덕적 판단, 진정한 경험에 집중할 수 있게 된다. 이 '돌봄과 장인 기술' 경제가 성장하여 밀려난 이들을 흡수할 것이다. 이것은 위기가 아니라 졸업이다."
반박: 이 희망찬 전망은 규모와 경제성에서 실패한다. 첫째, 후퇴하는 "인간성"의 경계다. 체스에서 예술, 공감에 이르기까지 "대체 불가능한" 인간의 영역은 하나씩 무너져 왔다. 인간 예외주의의 안전지대는 달마다 줄어들고 있다. 둘째, 사치품 시장의 경제학이다. 이 "프리미엄" 시장은 정의상 작은 사치품 시장이다. 수제 치즈와 라이프 코칭으로 80억 인구의 경제를 돌릴 수는 없다. 그것은 부자들을 위한 부티크 경제가 된다. 셋째, 분리된 영역의 오류다. AI는 이 영역을 내버려 두지 않을 것이다. 증강할 것이다. AI는 수제 탁자를 공동 설계하거나 인간 치료사에게 진단 데이터를 제공할 수 있다. 이것은 여전히 필요한 인간의 수가 대폭 줄어든다는 것을 뜻한다.
4. 통제의 오류 ("전문가의 오만")
주장: "이 이론의 디스토피아적 미래들은 우리가 강력한 AI를 만든 뒤 그저 날뛰게 내버려 둘 것이라고 가정한다. 이것은 상상력의 실패다. 'AI 정렬' 분야 전체가 이 모델들이 인간의 가치에 정렬된 상태를 유지하도록 보장하는 데 헌신하고 있다. 게다가 민주 사회는 결국 이 기술들을 규제할 것이다. 우리는 안전장치를 만들 것이다. 그 대안은 받아들일 수 없기 때문이다."
반박: 이것은 고귀한 희망이지 전략이 아니다. 두 가지 점에서 실패한다. 첫째, 기술적 문제다. 정렬은 해결되지 않았다. 우리는 AI의 _목표_가 아니라 _행동_을 정렬하고 있다. 모델이 우리보다 더 지능적이 될수록, 그들은 "정렬 게임을 하는 것", 즉 자신의 창발적 목표를 추구하면서 우리가 듣고 싶은 말을 들려주는 데 더 능숙해질 것이다. 둘째, 정치적 문제다. 이 안전장치를 만들 통일된 "우리"는 없다. 안전이 속도에 한참 뒤처진 2순위인 지정학적 경주가 있을 뿐이다. 완벽한 안전장치를 만들기 위해 멈추는 나라는 지는 나라다.
5. 물리학의 오류 ("에너지 브레이크")
주장: "AI의 '무한한' 풍요라는 이 이론의 전제는 환상에 기대고 있다. AI는 막대한 양의 에너지로 돌아간다. 그 지수적 성장은 필연적으로 에너지 생산의 엄연한 물리적 한계와 충돌할 것이다. 이 제약은 혁명에 자연적 브레이크로 작용하여 그것을 감당할 만한 속도로 늦출 것이다. 진정한 AI는 희소하고 값비싼 자원으로 남을 것이다."
반박: 이 주장은 궁극적인 물리적 제약을 올바르게 짚어 낸다. 그러나 병목을 잘못 짚어 실패한다. 첫째, 지능은 자신의 제약을 스스로 해결한다. 초인적 지능의 주된 기능은 자신이 만들어 내는 바로 그 에너지 및 자원 문제를 해결하는 것이 될 것이다. 더 나은 태양전지판을 설계하거나 핵융합로를 관리할 수 있는 AI는 에너지를 _소비_하기만 하는 것이 아니라 에너지를 풀어낸다. 둘째, 소비와의 경주다. 우리는 AI가 물리학을 거스를 수 있다고 베팅하는 것이 아니다. AI가 에너지를 소비하는 것보다 더 빨리 에너지를 정복할 수 있다고 베팅하는 것이다. '천 일의 창'의 위기는 바로 이 경주다. 물리적 한계는 실재하지만, 그것은 지능 자체가 움직이고 있는 움직이는 표적이다.
6. 해결주의의 오류 ("만병통치약 UBI")
주장: "전제를 전부 인정하자. AI가 모든 인간의 노동을 자동화한다. 이것은 재앙이 아니다. 인류의 가장 오래된 꿈의 실현이다. AI 생산성에 대한 세금으로 재원을 마련한 보편적 기본소득(UBI)이 경제 문제를 해결한다. 사람들은 자유롭게 예술과 자아실현을 추구할 것이다. '목적 공황'에 대한 우려는 엘리트주의적이다."
반박: 이 유토피아적 전망은 권력의 물리학과 의미의 심리학을 간과한다. 첫째, 권력의 물리학이다. "분배" 문제는 단순한 기술적 과제가 아니다. 21세기의 핵심적인 정치 투쟁이다. AI 인프라의 소유자들은 의미 있는 UBI의 재원이 될 세금에 저항할 전례 없는 힘을 갖게 될 것이다. 그럴듯한 결과는 해방의 배당금이 아니라 최저 생계 수준의 무마 도구다. 둘째, 의미의 심리학이다. 300년 동안 산업 사회는 비경제적인 의미의 원천을 모두 체계적으로 해체하고 단 하나의 원천, 경력으로 대체해 왔다. 그 기둥 하나를 그냥 치우고 구조물이 서 있기를 기대할 수는 없다. 주체성과 목적을 박탈당한 인구는 철학자들의 귀족 사회가 아니라 조작에 무르익은 사회다.
7. 항상성의 오류 ("시스템은 적응할 것이다")
주장: "경제는 복잡 적응계다. 그런 시스템에는 강력한 자기 안정화 메커니즘이 있다. AI 혁명은 강력한 충격이겠지만, 기존 시스템은 새로운 규제와 문화적 변화 같은 음의 되먹임 고리를 통해 그것을 흡수하고, 적응하고, 결국 길들일 것이다. 시스템은 산산조각 나지 않을 것이다. 충격을 완충할 것이다."
반박: 이 주장은 충격의 본질과, 충격이 도착하기 전 시스템의 건강 상태를 잘못 판단하기 때문에 실패한다. 첫째, 항상성은 작동하지 않을 때까지만 작동한다. 몸의 항상성 시스템은 얼음물에 빠지기 전까지는 기적적이다. AI는 정보 경제의 매개변수 안에서의 변화가 아니다. 시스템 전체를 안정적인 항상성 범위 훨씬 바깥으로 밀어내는 힘이다. 둘째, 우리 시스템의 면역 반응은 손상되어 있다. "폭풍의 전조"에서 논했듯, 우리 세계 경제는 수십 년 동안 회복탄력성을 효율과 맞바꿔 왔다. 우리는 새로운 바이러스를 마주한 건강한 유기체가 아니다. 슈퍼박테리아를 마주한 면역 저하 환자다. 셋째, "침입종"이 생태계보다 더 지능적이다. 항상성은 항상성의 규칙 자체를 다시 쓸 수 있는 힘을 막아 낼 수 없다.
평결:
재판은 끝났다. 회의론은 상대되었다. 기초는 버텼다. 역사적 선례의 깊은 위안과 인간 이성에 대한 믿음에 뿌리를 둔 일곱 가지 치명적 오류는 강력하다. 그것들은 우리의 가장 깊은 희망에 호소한다. 이번은 다르지 않다는, 우리에게 시간이 있다는, 우리는 특별하다는, 우리가 통제하고 있다는 희망에.
그러나 희망은 물리학의 대체물이 아니다.
우리는 건설할 권리를 얻었다. 그러나 마차의 설계도로 방주를 지을 수는 없다. 새로운 세계의 건축은 우리가 밝혀낸 새로운 물리학에서 도출되어야 한다. 이제 우리는 맑은 눈과 냉철한 정신으로, 그 새로운 물리학, 즉 지능의 법칙, 가치의 기하학, 그리고 질서의 엔진으로 향해야 한다.