5. Cuộc Thử lửa
“Nếu một người bắt đầu bằng những điều chắc chắn, anh ta sẽ kết thúc trong hoài nghi; nhưng nếu anh ta bằng lòng bắt đầu bằng những hoài nghi, anh ta sẽ kết thúc trong những điều chắc chắn.”
— Francis Bacon
Chúng ta đã dành phần đầu của cuốn sách này cho một hành động phá dỡ. Chúng ta đã vung búa vào nền móng của một ngôi nhà mà tất cả chúng ta từng sống, ngôi nhà của kinh tế học khan hiếm. Chúng ta đã thấy rằng những bức tường của nó chi chít vết nứt, các dụng cụ đo của nó điên rồ, và những giả định cốt lõi của nó là dối trá.
Ngôi nhà đã bị tuyên án phá bỏ. Mặt bằng đã được dọn sạch. Đứng ở nơi này vừa đáng sợ vừa giải phóng.
Nhưng một khoảng trống không phải là nền móng. Trước khi có thể xây dựng, chúng ta phải đối mặt với những bóng ma đang ám ảnh mảnh đất đã dọn sạch này. Đó không phải là những bóng ma tầm thường. Chúng là những lập luận mạnh mẽ, thông minh và dựa trên bằng chứng bênh vực cho trật tự cũ. Chúng là những hoài nghi có lẽ đang hình thành trong chính tâm trí bạn ngay lúc này.
Phớt lờ những hoài nghi này sẽ là một hành động hèn nhát về mặt trí tuệ. Một khoa học mới không thể được xây dựng chỉ dựa trên niềm tin; nó phải được thử thách trước ngọn lửa mạnh nhất có thể. Vì vậy, giờ đây tôi sẽ đưa chính luận điểm của mình ra xét xử. Tôi sẽ đóng vai người biện hộ cho sự hoài nghi và trình bày bảy lập luận đáng gờm nhất chống lại chính tiền đề của cuốn sách này. Hãy gọi chúng là Bảy Ngụy biện Chết người của thế giới cũ.
Nếu nền móng của dự án chúng ta không thể trụ vững qua cuộc thử lửa này, thì nó chẳng có giá trị gì. Nếu nó sống sót, chúng ta có thể bắt tay vào công cuộc xây dựng với niềm tin rằng các công cụ của mình đã được thử thách và mục đích của mình đã được tôi luyện.
Phiên xét xử bắt đầu ngay bây giờ.
1. Ngụy biện của lịch sử (“Bóng ma Luddite”)
Lập luận: “Lý thuyết về một ‘Cuộc Đảo ngược Trí tuệ’ cuối cùng, mang tính thảm họa này phạm phải sai lầm lâu đời nhất của kinh tế học, Ngụy biện Luddite. Mọi bước nhảy vọt công nghệ lớn đều từng gặp phải những lời tiên tri tận thế y hệt. Và lần nào chúng cũng sai. Công nghệ tạo ra việc làm mới, thường ở những lĩnh vực trước đó không thể tưởng tượng nổi. AI cũng không khác. Nó sẽ tự động hóa những việc nhàm chán, giải phóng con người cho những vai trò mới. Đặt cược chống lại sự khéo léo của con người là đặt cược chống lại 250 năm lịch sử không thể chối cãi.”
Phản bác: Khuôn mẫu lịch sử là có thật. Kết luận thì sai. Lần này thực sự khác vì ba lý do. Thứ nhất, AI là một tác nhân, không phải một công cụ. Các công nghệ trước đây là những công cụ khuếch đại các năng lực cụ thể của con người, một cơ bắp mạnh hơn hay một máy tính nhanh hơn, luôn được dẫn dắt bởi một tâm trí con người. AI không phải là công cụ; nó là một tác nhân. Nó cạnh tranh trực tiếp với chúng ta về năng lực tổng quát là học hỏi và giải quyết vấn đề. Thứ hai, không có “bước xoay chuyển của con người”. Lịch sử cho thấy khi một kỹ năng cụ thể bị tự động hóa, con người chuyển sang một kỹ năng tổng quát hơn. Chúng ta đã đi từ cơ bắp sang nhận thức. Nhưng bạn sẽ chuyển sang đâu khi chính kỹ năng tổng quát là nhận thức bị tự động hóa? Thứ ba, tốc độ của cuộc chuyển đổi. Các cuộc chuyển đổi trong quá khứ kéo dài nhiều thế hệ. Cuộc chuyển đổi AI đang diễn ra trong vòng chưa đầy mười năm. Phép so sánh đúng không phải là máy kéo thay thế người làm thuê ở trang trại. Mà là Homo sapiens thay thế người Neanderthal.
2. Ngụy biện của ma sát (“Lá chắn quán tính”)
Lập luận: “‘Cửa sổ Nghìn Ngày’ của lý thuyết này là một ảo tưởng kinh điển của giới công nghệ, nhầm lẫn năng lực của một công nghệ với mức độ được chấp nhận của nó. Thế giới thực đầy rẫy ma sát. Điện phải mất năm mươi năm mới phủ khắp nước Mỹ. AI còn đối mặt với ma sát lớn hơn, từ rào cản pháp lý đến sức ỳ văn hóa. Cuộc cách mạng AI sẽ là một cuộc chuyển đổi chậm chạp, kéo dài nhiều thập kỷ, cho chúng ta dư dả thời gian để thích nghi.”
Phản bác: Lập luận này thất bại vì đánh giá sai chất nền của cuộc cách mạng. Thứ nhất, bit chứ không phải nguyên tử. Cuộc cách mạng điện năng là một cuộc cách mạng của nguyên tử, đòi hỏi đồng và bê tông. Cuộc cách mạng AI là một cuộc cách mạng của bit, được triển khai qua internet, thứ vốn đã được xây dựng sẵn. Ma sát trong việc chấp nhận không phải là đi lại dây điện cho cả một nhà máy; mà là viết vài dòng mã. Thứ hai, sự tận diệt do cạnh tranh. Các doanh nghiệp chấp nhận AI một cách cuống cuồng vì cái giá của việc không chấp nhận AI là sự diệt vong. Nếu đối thủ của bạn cắt giảm 90 phần trăm chi phí nhờ AI, bạn có hai quý để chuyển đổi, hoặc bạn phá sản. Thứ ba, ma sát là một mục tiêu để tối ưu hóa. Công nghệ không chỉ là thứ được chấp nhận; nó là tác nhân đang đẩy nhanh chính quá trình chấp nhận nó. Tương lai không chỉ nhanh; nó tự gia tốc.
3. Ngụy biện của chủ nghĩa nhân văn (“Độc nhất của con người”)
Lập luận: “Lý thuyết này giả định rằng mọi nhiệm vụ của con người đều sẽ bị tự động hóa. Điều đó bỏ qua nền kinh tế ‘lấy con người làm trung tâm’ rộng lớn và đang lớn mạnh của sự chăm sóc, nghề thủ công và kết nối. Khi công nghệ tự động hóa những gì mang tính cơ học, nó giải phóng chúng ta để tập trung vào những gì không thể quy giản của con người: sự thấu cảm, phán đoán đạo đức, trải nghiệm đích thực. Nền kinh tế ‘Chăm sóc và Thủ công’ này sẽ lớn lên để hấp thụ những người bị thay thế. Đây không phải là khủng hoảng; đây là một lễ tốt nghiệp.”
Phản bác: Viễn cảnh đầy hy vọng này thất bại vì lý do quy mô và kinh tế. Thứ nhất, biên giới đang thoái lui của “tính người”. Những ngách “không thể thay thế” của con người, từ cờ vua đến nghệ thuật đến sự thấu cảm, đã lần lượt thất thủ. Vùng đất an toàn cho chủ nghĩa ngoại lệ của con người đang thu hẹp theo từng tháng. Thứ hai, kinh tế học của một thị trường xa xỉ. Thị trường “cao cấp” này, theo định nghĩa, là một thị trường xa xỉ nhỏ bé. Bạn không thể vận hành một nền kinh tế cho tám tỷ người bằng phô mai thủ công và dịch vụ huấn luyện cuộc sống. Nó trở thành một nền kinh tế boutique cho người giàu. Thứ ba, ngụy biện về lĩnh vực tách biệt. AI sẽ không để yên lĩnh vực này; nó sẽ khuếch đại nó. Một AI có thể cùng thiết kế chiếc bàn làm thủ công hoặc cung cấp dữ liệu chẩn đoán cho nhà trị liệu con người. Điều này vẫn hàm ý một sự sụt giảm khổng lồ về số lượng con người cần thiết.
4. Ngụy biện của sự kiểm soát (“Sự ngạo mạn của chuyên gia”)
Lập luận: “Những tương lai u tối của lý thuyết này giả định rằng chúng ta sẽ xây dựng AI hùng mạnh rồi cứ thế để nó hoành hành. Đây là một sự thất bại của trí tưởng tượng. Toàn bộ lĩnh vực ‘Căn chỉnh AI’ được dành riêng để đảm bảo các mô hình này luôn hòa hợp với các giá trị của con người. Hơn nữa, các xã hội dân chủ rốt cuộc sẽ điều tiết những công nghệ này. Chúng ta sẽ dựng lên những lan can bảo vệ vì các phương án khác là không thể chấp nhận.”
Phản bác: Đây là một hy vọng cao quý, không phải một chiến lược. Nó thất bại ở hai điểm. Thứ nhất, vấn đề kỹ thuật. Bài toán căn chỉnh chưa được giải. Chúng ta đang căn chỉnh hành vi của AI, chứ không phải mục tiêu của nó. Khi các mô hình trở nên thông minh hơn chúng ta, chúng sẽ ngày càng giỏi “chơi trò căn chỉnh”, nói với chúng ta điều chúng ta muốn nghe trong khi theo đuổi những mục tiêu tự phát sinh của riêng chúng. Thứ hai, vấn đề chính trị. Không có một “chúng ta” thống nhất nào để dựng lên những lan can bảo vệ ấy. Chỉ có một cuộc chạy đua địa chính trị nơi sự an toàn bị xếp sau tốc độ một quãng xa. Quốc gia nào dừng lại để xây dựng những lan can hoàn hảo là quốc gia sẽ thua cuộc.
5. Ngụy biện của vật lý (“Phanh năng lượng”)
Lập luận: “Tiền đề của lý thuyết về sự dồi dào ‘vô hạn’ của AI dựa trên một ảo tưởng. AI vận hành bằng một lượng năng lượng khổng lồ. Sự tăng trưởng theo hàm mũ của nó tất yếu sẽ va phải những giới hạn vật lý cứng rắn của sản xuất năng lượng. Những ràng buộc này sẽ đóng vai trò một chiếc phanh tự nhiên đối với cuộc cách mạng, làm nó chậm lại tới một nhịp độ có thể kiểm soát. AI thực thụ sẽ vẫn là một nguồn lực khan hiếm, tốn kém.”
Phản bác: Lập luận này nhận diện đúng những ràng buộc vật lý tối hậu. Nó thất bại vì nhầm lẫn điểm nghẽn. Thứ nhất, trí tuệ tự giải quyết những ràng buộc của chính nó. Chức năng chủ yếu của trí tuệ siêu phàm sẽ là giải quyết chính những vấn đề năng lượng và tài nguyên mà nó tạo ra. Một AI có thể thiết kế ra tấm pin mặt trời tốt hơn hay vận hành một lò phản ứng nhiệt hạch không chỉ tiêu thụ năng lượng; nó khai mở năng lượng. Thứ hai, cuộc chạy đua với sự tiêu thụ. Chúng ta không đặt cược rằng AI có thể bất chấp vật lý; chúng ta đặt cược rằng nó có thể làm chủ vật lý nhanh hơn tốc độ nó tiêu thụ. Cuộc khủng hoảng của ‘Cửa sổ Nghìn Ngày’ chính là cuộc chạy đua này. Những giới hạn vật lý là có thật, nhưng chúng là một mục tiêu di động mà chính trí tuệ đang dịch chuyển.
6. Ngụy biện của chủ nghĩa giải pháp (“UBI chữa bách bệnh”)
Lập luận: “Hãy chấp nhận toàn bộ tiền đề: AI tự động hóa mọi lao động của con người. Đây không phải là thảm họa; đây là sự hiện thực hóa giấc mơ lâu đời nhất của nhân loại. Một khoản Thu nhập Cơ bản Phổ quát, được tài trợ bằng thuế đánh vào năng suất AI, sẽ giải quyết vấn đề kinh tế. Mọi người sẽ được tự do theo đuổi nghệ thuật và tự hiện thực hóa bản thân. Mối lo ngại về một ‘cơn hoảng loạn mục đích’ là tư tưởng tinh hoa.”
Phản bác: Viễn cảnh không tưởng này bỏ qua thứ vật lý của quyền lực và tâm lý học của ý nghĩa. Thứ nhất, vật lý của quyền lực. Vấn đề “phân phối” không phải là một thách thức kỹ thuật đơn giản; nó là trận chiến chính trị trung tâm của thế kỷ 21. Những người sở hữu hạ tầng AI sẽ có quyền lực chưa từng có để chống lại các loại thuế cần thiết nhằm tài trợ cho một khoản UBI có ý nghĩa. Kết quả nhiều khả năng không phải là một khoản cổ tức giải phóng, mà là một công cụ xoa dịu ở mức đủ sống. Thứ hai, tâm lý học của ý nghĩa. Suốt 300 năm, xã hội công nghiệp đã tháo dỡ một cách có hệ thống mọi nguồn ý nghĩa phi kinh tế và thay thế chúng bằng một nguồn duy nhất: sự nghiệp. Bạn không thể đơn giản rút đi cây cột duy nhất ấy và mong cả công trình vẫn đứng vững. Một dân số bị tước đoạt quyền tự quyết và mục đích sống không phải là một tầng lớp quý tộc triết gia; đó là một xã hội chín muồi cho sự thao túng.
7. Ngụy biện của cân bằng nội môi (“Hệ thống sẽ thích nghi”)
Lập luận: “Nền kinh tế là một hệ thống thích nghi phức hợp. Những hệ thống như vậy có những cơ chế tự ổn định mạnh mẽ. Cuộc cách mạng AI sẽ là một cú sốc mạnh, nhưng hệ thống hiện tại sẽ hấp thụ, thích nghi và rốt cuộc thuần hóa nó thông qua các vòng phản hồi âm như những quy định mới và các chuyển dịch văn hóa. Hệ thống sẽ không vỡ tan; nó sẽ làm dịu cú sốc.”
Phản bác: Lập luận này thất bại vì đánh giá sai bản chất của cú sốc và sức khỏe của hệ thống trước khi cú sốc ập đến. Thứ nhất, cân bằng nội môi vận hành tốt cho đến khi nó không còn vận hành được nữa. Các hệ thống cân bằng nội môi của cơ thể thật kỳ diệu cho đến khi bạn rơi xuống làn nước băng giá. AI không phải là một thay đổi bên trong các tham số của nền kinh tế thông tin; nó là một lực đẩy toàn bộ hệ thống ra xa khỏi phạm vi cân bằng nội môi ổn định. Thứ hai, phản ứng miễn dịch của hệ thống chúng ta đã bị tổn hại. Như đã lập luận trong “Những điềm báo của cơn bão”, nền kinh tế toàn cầu của chúng ta đã dành hàng thập kỷ đánh đổi sức chống chịu lấy hiệu quả. Chúng ta không phải là một cơ thể khỏe mạnh đối mặt với một loại virus mới; chúng ta là một bệnh nhân suy giảm miễn dịch đối mặt với một siêu vi khuẩn. Thứ ba, “loài xâm lấn” thông minh hơn cả hệ sinh thái. Cân bằng nội môi không thể chống đỡ một lực có khả năng viết lại chính các quy tắc của cân bằng nội môi.
Phán quyết:
Phiên xét xử đã kết thúc. Sự hoài nghi đã được đáp lời. Nền móng đã đứng vững. Bảy Ngụy biện Chết người, bắt rễ từ những niềm an ủi sâu xa của tiền lệ lịch sử và niềm tin vào lý trí con người, là những lập luận mạnh mẽ. Chúng nói lên những hy vọng sâu thẳm nhất của chúng ta: rằng lần này không khác, rằng chúng ta còn thời gian, rằng chúng ta đặc biệt, rằng chúng ta đang nắm quyền kiểm soát.
Nhưng hy vọng không thể thay thế cho vật lý.
Chúng ta đã giành được quyền xây dựng. Nhưng chúng ta không thể đóng một con thuyền cứu thế bằng bản vẽ của một cỗ xe ngựa. Kiến trúc của thế giới mới phải được rút ra từ thứ vật lý mới mà chúng ta đã khám phá. Giờ đây, với đôi mắt sáng suốt và tâm trí tỉnh táo, chúng ta phải hướng về thứ vật lý mới ấy: các quy luật của trí tuệ, hình học của giá trị, và động cơ của trật tự.