5. บททดสอบด้วยไฟ
“หากผู้ใดเริ่มต้นด้วยความแน่นอน เขาจะจบลงด้วยความสงสัย แต่หากเขายอมพอใจที่จะเริ่มต้นด้วยความสงสัย เขาจะจบลงด้วยความแน่นอน”
— ฟรานซิส เบคอน
เราใช้ภาคแรกของหนังสือเล่มนี้ไปกับการรื้อถอน เราเอาค้อนทุบรากฐานของบ้านที่ครั้งหนึ่งเราทุกคนเคยอาศัยอยู่ บ้านแห่งเศรษฐศาสตร์ความขาดแคลน เราได้เห็นว่าผนังของมันเต็มไปด้วยรอยร้าว เครื่องมือวัดของมันวิปลาส และสมมติฐานแกนกลางของมันคือคำโกหก
บ้านหลังนั้นถูกประกาศให้รื้อถอนแล้ว ผืนดินถูกเคลียร์จนโล่ง มันคือที่ยืนที่ทั้งน่าสะพรึงกลัวและปลดปล่อย
แต่ความว่างเปล่าไม่ใช่รากฐาน ก่อนที่เราจะสร้าง เราต้องเผชิญหน้ากับภูตผีที่หลอกหลอนผืนดินโล่งแห่งนี้เสียก่อน สิ่งเหล่านี้ไม่ใช่ภาพหลอนเล็ก ๆ น้อย ๆ มันคือข้อโต้แย้งที่ทรงพลัง ชาญฉลาด และอิงหลักฐาน ซึ่งปกป้องระเบียบเก่า มันคือความสงสัยที่อาจกำลังก่อตัวขึ้นในจิตใจของคุณเองในขณะนี้
การเพิกเฉยต่อความสงสัยเหล่านี้คือความขลาดเขลาทางปัญญา ศาสตร์ใหม่ไม่อาจสร้างขึ้นบนศรัทธาเพียงอย่างเดียว มันต้องถูกทดสอบด้วยไฟที่แรงที่สุดเท่าที่จะเป็นไปได้ ดังนั้น บัดนี้ผมจะนำข้อเสนอของผมเองขึ้นสู่การพิจารณาคดี ผมจะสวมบทบาทเป็นทนายฝ่ายผู้กังขา และนำเสนอข้อโต้แย้งที่น่าเกรงขามที่สุดเจ็ดข้อที่คัดค้านหลักการตั้งต้นของหนังสือเล่มนี้ ขอให้เราเรียกมันว่าเจ็ดเหตุผลวิบัติมหันต์ (Seven Deadly Fallacies) แห่งโลกเก่า
หากรากฐานของโครงการเราไม่อาจทนทานต่อบททดสอบด้วยไฟนี้ได้ มันก็ไร้ค่า หากมันรอดพ้น เราก็จะเริ่มงานก่อสร้างได้ด้วยความมั่นใจว่าเครื่องมือของเราผ่านการทดสอบแล้ว และเป้าหมายของเราได้รับการหลอมจนแกร่ง
การพิจารณาคดีเริ่มต้นขึ้น ณ บัดนี้
1. เหตุผลวิบัติแห่งประวัติศาสตร์ (“วิญญาณของลัดไดต์”)
ข้อโต้แย้ง: “ทฤษฎีว่าด้วย ‘การพลิกกลับแห่งปัญญา’ ครั้งสุดท้ายอันหายนะนี้มีความผิดฐานก่อความผิดพลาดที่เก่าแก่ที่สุดในเศรษฐศาสตร์ นั่นคือเหตุผลวิบัติแบบลัดไดต์ (Luddite Fallacy) ทุกการก้าวกระโดดทางเทคโนโลยีครั้งสำคัญล้วนถูกต้อนรับด้วยคำพยากรณ์ถึงหายนะแบบเดียวกัน และทุกครั้งคำพยากรณ์เหล่านั้นก็ผิด เทคโนโลยีสร้างงานใหม่ บ่อยครั้งในภาคส่วนที่ไม่เคยมีใครจินตนาการได้มาก่อน AI ก็ไม่ต่างกัน มันจะทำงานน่าเบื่อซ้ำซากให้เป็นอัตโนมัติ ปลดปล่อยมนุษย์ไปสู่บทบาทใหม่ การเดิมพันว่าความเฉลียวฉลาดของมนุษย์จะแพ้ ก็คือการเดิมพันสวนประวัติศาสตร์ 250 ปีที่หักล้างไม่ได้”
ข้อหักล้าง: แบบแผนทางประวัติศาสตร์นั้นมีอยู่จริง แต่ข้อสรุปนั้นผิด ครั้งนี้ แตกต่าง ด้วยเหตุผลสามประการ ประการแรก AI คือผู้กระทำ (agent) ไม่ใช่เครื่องมือ เทคโนโลยีในอดีตคือเครื่องมือที่เสริมขีดความสามารถเฉพาะด้านของมนุษย์ กล้ามเนื้อที่แข็งแรงขึ้นหรือเครื่องคิดเลขที่เร็วขึ้น ซึ่งถูกบังคับทิศทางโดยจิตใจมนุษย์เสมอ AI ไม่ใช่เครื่องมือ มันคือผู้กระทำ มันแข่งขันกับเราโดยตรงในขีดความสามารถทั่วไปของการเรียนรู้และการแก้ปัญหา ประการที่สอง ไม่มี “การหันเหของมนุษย์” ประวัติศาสตร์แสดงให้เห็นว่าเมื่อทักษะเฉพาะอย่างหนึ่งถูกทำให้เป็นอัตโนมัติ มนุษย์จะหันไปใช้ทักษะที่กว้างกว่า เราเปลี่ยนจากกล้ามเนื้อไปสู่การคิด แต่คุณจะหันไปหาอะไร เมื่อทักษะทั่วไปของการคิดเองถูกทำให้เป็นอัตโนมัติ ประการที่สาม ความเร็วของการเปลี่ยนผ่าน การเปลี่ยนผ่านในอดีตใช้เวลาหลายชั่วรุ่น การเปลี่ยนผ่านของ AI กำลังเกิดขึ้นภายในเวลาไม่ถึงสิบปี การเปรียบเทียบที่ถูกต้องไม่ใช่รถแทรกเตอร์แทนที่ลูกจ้างในไร่นา แต่คือ โฮโม เซเปียนส์ แทนที่มนุษย์นีแอนเดอร์ทัล
2. เหตุผลวิบัติแห่งแรงเสียดทาน (“ข้อแก้ต่างว่าด้วยความเฉื่อย”)
ข้อโต้แย้ง: “‘หน้าต่างพันวัน’ ของทฤษฎีนี้คือจินตนาการแบบฉบับของนักเทคโนโลยี ที่สับสนระหว่าง ขีดความสามารถ ของเทคโนโลยีกับ การยอมรับใช้ มัน โลกแห่งความเป็นจริงเต็มไปด้วยแรงเสียดทาน ไฟฟ้าใช้เวลาห้าสิบปีกว่าจะเข้าถึงทั่วอเมริกา AI เผชิญแรงเสียดทานที่มากยิ่งกว่า ตั้งแต่อุปสรรคด้านกฎระเบียบไปจนถึงความเฉื่อยทางวัฒนธรรม การปฏิวัติ AI จะเป็นการเปลี่ยนผ่านอย่างเชื่องช้าที่กินเวลาหลายทศวรรษ ทำให้เรามีเวลาเหลือเฟือที่จะปรับตัว”
ข้อหักล้าง: ข้อโต้แย้งนี้ล้มเหลวเพราะประเมินผิดว่าการปฏิวัติครั้งนี้ตั้งอยู่บนพื้นฐานอะไร ประการแรก บิต ไม่ใช่อะตอม การปฏิวัติไฟฟ้าคือการปฏิวัติของอะตอม ต้องใช้ทองแดงและคอนกรีต การปฏิวัติ AI คือการปฏิวัติของบิต ซึ่งถูกนำไปใช้ผ่านอินเทอร์เน็ตที่สร้างเสร็จแล้ว แรงเสียดทานในการยอมรับใช้ไม่ใช่การเดินสายไฟในโรงงานใหม่ แต่คือการเขียนโค้ดไม่กี่บรรทัด ประการที่สอง การกำจัดล้างผลาญทางการแข่งขัน บรรษัทต่าง ๆ รีบเร่งยอมรับใช้ AI อย่างบ้าคลั่ง เพราะต้นทุนของการ ไม่ ใช้ AI คือการสูญพันธุ์ หากคู่แข่งของคุณลดต้นทุนได้ 90 เปอร์เซ็นต์ด้วย AI คุณมีเวลาเปลี่ยนผ่านสองไตรมาส ไม่เช่นนั้นคุณก็ล้มละลาย ประการที่สาม แรงเสียดทานคือเป้าหมายของการหาค่าเหมาะที่สุด เทคโนโลยีไม่ได้เป็นเพียงสิ่งที่ถูกยอมรับใช้ มันคือผู้กระทำที่เร่งการยอมรับใช้ของตัวเอง อนาคตไม่ได้เพียงรวดเร็ว แต่มันเร่งความเร็วตัวเอง
3. เหตุผลวิบัติแห่งมนุษยนิยม (“สิ่งที่เป็นของมนุษย์โดยเฉพาะ”)
ข้อโต้แย้ง: “ทฤษฎีนี้สันนิษฐานว่างาน ทั้งหมด ของมนุษย์จะถูกทำให้เป็นอัตโนมัติ ซึ่งมองข้ามเศรษฐกิจ ‘ที่มีมนุษย์เป็นศูนย์กลาง’ อันกว้างใหญ่และกำลังเติบโต ทั้งการดูแล งานฝีมือ และความผูกพัน เมื่อเทคโนโลยีทำให้งานเชิงกลไกเป็นอัตโนมัติ มันจะปลดปล่อยเราให้จดจ่ออยู่กับสิ่งที่เป็นมนุษย์อย่างลดทอนไม่ได้ ได้แก่ ความเห็นอกเห็นใจ การตัดสินทางศีลธรรม และประสบการณ์อันแท้จริง เศรษฐกิจแห่ง ‘การดูแลและงานฝีมือ’ (Care and Craft) นี้จะเติบโตจนรองรับผู้ที่ถูกแทนที่ได้ นี่ไม่ใช่วิกฤต แต่คือการสำเร็จการศึกษา”
ข้อหักล้าง: วิสัยทัศน์อันเปี่ยมความหวังนี้ล้มเหลวด้วยเหตุผลเรื่องขนาดและเศรษฐศาสตร์ ประการแรก พรมแดนแห่ง “ความเป็นมนุษย์” ที่กำลังถอยร่น ซอกมุมของมนุษย์ที่ “ไม่มีสิ่งใดแทนที่ได้” ตั้งแต่หมากรุกไปจนถึงศิลปะและความเห็นอกเห็นใจ ได้พ่ายแพ้ไปทีละแห่ง ผืนดินที่ปลอดภัยสำหรับความพิเศษของมนุษย์หดเล็กลงทุกเดือน ประการที่สอง เศรษฐศาสตร์ของตลาดสินค้าฟุ่มเฟือย ตลาด “พรีเมียม” นี้ตามนิยามแล้วคือตลาดสินค้าฟุ่มเฟือยขนาดเล็ก คุณไม่อาจขับเคลื่อนเศรษฐกิจสำหรับคนแปดพันล้านคนด้วยชีสทำมือและการโค้ชชีวิต มันจะกลายเป็นเศรษฐกิจบูติกสำหรับคนรวย ประการที่สาม เหตุผลวิบัติว่าด้วยอาณาเขตที่แยกขาดจากกัน AI จะไม่ปล่อยให้อาณาเขตนี้อยู่ตามลำพัง มันจะเข้าไปเสริมพลัง AI สามารถร่วมออกแบบโต๊ะงานฝีมือ หรือให้ข้อมูลวินิจฉัยแก่นักบำบัดที่เป็นมนุษย์ได้ ซึ่งยังคงหมายถึงการลดจำนวนมนุษย์ที่ต้องใช้ลงอย่างมหาศาล
4. เหตุผลวิบัติแห่งการควบคุม (“ความหยิ่งผยองของผู้เชี่ยวชาญ”)
ข้อโต้แย้ง: “อนาคตแบบดิสโทเปียของทฤษฎีนี้สันนิษฐานว่าเราจะสร้าง AI ที่ทรงพลังแล้วปล่อยให้มันอาละวาดไปตามใจ นี่คือความล้มเหลวของจินตนาการ สาขา ‘การกำกับทิศทาง AI’ (AI Alignment) ทั้งสาขาทุ่มเทให้กับการทำให้แน่ใจว่าโมเดลเหล่านี้จะยังคงสอดคล้องกับคุณค่าของมนุษย์ ยิ่งไปกว่านั้น สังคมประชาธิปไตยจะกำกับดูแลเทคโนโลยีเหล่านี้ในที่สุด เราจะสร้างราวกันตก เพราะทางเลือกอื่นเป็นสิ่งที่ยอมรับไม่ได้”
ข้อหักล้าง: นี่คือความหวังอันสูงส่ง ไม่ใช่ยุทธศาสตร์ มันล้มเหลวในสองประเด็น ประการแรก ปัญหาทางเทคนิค การกำกับทิศทางยังไม่ได้รับการแก้ไข เรากำลังกำกับ พฤติกรรม ของ AI ไม่ใช่ เป้าหมาย ของมัน เมื่อโมเดลฉลาดกว่าเรา พวกมันจะเก่งขึ้นใน “การเล่นเกมการกำกับทิศทาง” บอกสิ่งที่เราอยากได้ยิน ขณะที่ไล่ตามเป้าหมายที่ผุดบังเกิดขึ้นเองของพวกมัน ประการที่สอง ปัญหาทางการเมือง ไม่มี “เรา” ที่เป็นหนึ่งเดียวที่จะสร้างราวกันตกเหล่านี้ มีแต่การแข่งขันทางภูมิรัฐศาสตร์ที่ความปลอดภัยเป็นรองความเร็วอยู่ห่างไกล ชาติที่หยุดพักเพื่อสร้างราวกันตกที่สมบูรณ์แบบคือชาติที่พ่ายแพ้
5. เหตุผลวิบัติแห่งฟิสิกส์ (“เบรกด้านพลังงาน”)
ข้อโต้แย้ง: “หลักการตั้งต้นของทฤษฎีนี้ว่าด้วยความอุดมสมบูรณ์ ‘อันไม่สิ้นสุด’ ของ AI ตั้งอยู่บนจินตนาการ AI ทำงานด้วยพลังงานปริมาณมหาศาล การเติบโตแบบเอกซ์โพเนนเชียลของมันย่อมปะทะเข้ากับขีดจำกัดทางกายภาพอันแข็งกร้าวของการผลิตพลังงานอย่างหลีกเลี่ยงไม่ได้ ข้อจำกัดเหล่านี้จะทำหน้าที่เป็นเบรกตามธรรมชาติของการปฏิวัติ ชะลอให้มันอยู่ในจังหวะที่จัดการได้ AI ที่แท้จริงจะยังคงเป็นทรัพยากรที่ขาดแคลนและมีราคาแพง”
ข้อหักล้าง: ข้อโต้แย้งนี้ระบุข้อจำกัดทางกายภาพขั้นสุดท้ายได้ถูกต้อง แต่ล้มเหลวเพราะเข้าใจผิดว่าคอขวดอยู่ที่ใด ประการแรก ปัญญาแก้ข้อจำกัดของตัวเอง หน้าที่หลักของปัญญาที่เหนือมนุษย์จะเป็นการแก้ปัญหาด้านพลังงานและทรัพยากรที่มันสร้างขึ้นเอง AI ที่สามารถออกแบบแผงโซลาร์เซลล์ที่ดีกว่าหรือควบคุมเครื่องปฏิกรณ์นิวเคลียร์ฟิวชันได้ ไม่ได้เพียง บริโภค พลังงาน แต่มัน ปลดล็อก พลังงาน ประการที่สอง การแข่งขันกับการบริโภค เราไม่ได้เดิมพันว่า AI จะท้าทายฟิสิกส์ได้ เรากำลังเดิมพันว่ามันจะเชี่ยวชาญฟิสิกส์ได้เร็วกว่าที่มันบริโภค วิกฤตของ ‘หน้าต่างพันวัน’ ก็คือการแข่งขันนี้เอง ขีดจำกัดทางกายภาพมีอยู่จริง แต่มันคือเป้าที่เคลื่อนที่ ซึ่งตัวปัญญาเองเป็นผู้เคลื่อนมัน
6. เหตุผลวิบัติแห่งการเชื่อในทางแก้สำเร็จรูป (“UBI ยาวิเศษรักษาทุกโรค”)
ข้อโต้แย้ง: “สมมติว่าเรายอมรับหลักการตั้งต้นทั้งหมด: AI ทำให้แรงงานมนุษย์ทั้งหมดเป็นอัตโนมัติ นี่ไม่ใช่หายนะ แต่คือการเติมเต็มความฝันที่เก่าแก่ที่สุดของมนุษยชาติ รายได้พื้นฐานถ้วนหน้า (Universal Basic Income) ที่ได้รับทุนจากภาษีผลิตภาพของ AI จะแก้ปัญหาทางเศรษฐกิจได้ ผู้คนจะเป็นอิสระที่จะแสวงหาศิลปะและการบรรลุศักยภาพแห่งตน ความกังวลเรื่อง ‘ความตื่นตระหนกว่าด้วยเป้าหมายชีวิต’ นั้นเป็นเรื่องของชนชั้นนำ”
ข้อหักล้าง: วิสัยทัศน์แบบยูโทเปียนี้มองข้ามฟิสิกส์แห่งอำนาจและจิตวิทยาแห่งความหมาย ประการแรก ฟิสิกส์แห่งอำนาจ ปัญหา “การกระจาย” ไม่ใช่ความท้าทายทางเทคนิคแบบง่าย ๆ มันคือสมรภูมิทางการเมืองศูนย์กลางของศตวรรษที่ 21 เจ้าของโครงสร้างพื้นฐาน AI จะมีอำนาจอย่างที่ไม่เคยมีมาก่อนในการต่อต้านภาษีที่จำเป็นต่อการจัดหาทุนให้ UBI ที่มีความหมาย ผลลัพธ์ที่น่าจะเป็นไม่ใช่เงินปันผลที่ปลดปล่อย แต่เป็นเครื่องมือกล่อมให้สงบในระดับพอยังชีพ ประการที่สอง จิตวิทยาแห่งความหมาย ตลอด 300 ปี สังคมอุตสาหกรรมได้รื้อถอนแหล่งที่มาของความหมายที่ไม่ใช่เรื่องเศรษฐกิจทั้งหมดอย่างเป็นระบบ และแทนที่ด้วยแหล่งเดียว นั่นคืออาชีพการงาน คุณไม่อาจถอดเสาต้นนั้นออกแล้วคาดหวังให้โครงสร้างยังคงตั้งอยู่ได้ ประชากรที่ถูกปลดเปลื้องทั้งอำนาจในการกระทำและเป้าหมายชีวิต ไม่ใช่อภิชนาธิปไตยของนักปรัชญา แต่คือสังคมที่สุกงอมพร้อมให้ถูกชักใย
7. เหตุผลวิบัติแห่งภาวะธำรงดุล (“ระบบจะปรับตัวเอง”)
ข้อโต้แย้ง: “เศรษฐกิจคือระบบซับซ้อนที่ปรับตัวได้ ระบบเช่นนี้มีกลไกรักษาเสถียรภาพในตัวที่ทรงพลัง การปฏิวัติ AI จะเป็นแรงกระแทกที่รุนแรง แต่ระบบที่มีอยู่จะดูดซับ ปรับตัว และในที่สุดก็สยบมันได้ผ่านวงจรป้อนกลับเชิงลบ เช่น กฎระเบียบใหม่และการเปลี่ยนแปลงทางวัฒนธรรม ระบบจะไม่แตกสลาย มันจะซับแรงกระแทกไว้”
ข้อหักล้าง: ข้อโต้แย้งนี้ล้มเหลวเพราะประเมินผิดทั้งธรรมชาติของแรงกระแทก และสุขภาพของระบบก่อนที่แรงกระแทกจะมาถึง ประการแรก ภาวะธำรงดุลใช้ได้ผลจนกระทั่งมันใช้ไม่ได้ ระบบธำรงดุลของร่างกายนั้นน่าอัศจรรย์ จนกระทั่งคุณตกลงไปในน้ำเย็นจัด AI ไม่ใช่การเปลี่ยนแปลง ภายใน ขอบเขตพารามิเตอร์ของเศรษฐกิจสารสนเทศ แต่คือพลังที่ผลักทั้งระบบให้หลุดออกไปไกลจากช่วงธำรงดุลที่เสถียรของมัน ประการที่สอง การตอบสนองทางภูมิคุ้มกันของระบบเราบกพร่องแล้ว ดังที่ได้โต้แย้งไว้ใน “ลางบอกเหตุแห่งพายุ” เศรษฐกิจโลกของเราใช้เวลาหลายทศวรรษแลกความยืดหยุ่นทนทานกับประสิทธิภาพ เราไม่ใช่สิ่งมีชีวิตที่แข็งแรงซึ่งเผชิญไวรัสตัวใหม่ เราคือผู้ป่วยภูมิคุ้มกันบกพร่องที่เผชิญเชื้อดื้อยา ประการที่สาม “สายพันธุ์รุกราน” ฉลาดกว่าระบบนิเวศ ภาวะธำรงดุลไม่อาจป้องกันพลังที่สามารถเขียนกฎของภาวะธำรงดุลขึ้นใหม่ได้
คำพิพากษา:
การพิจารณาคดีสิ้นสุดลง ความกังขาได้รับการตอบโต้แล้ว รากฐานยังคงยืนหยัด เจ็ดเหตุผลวิบัติมหันต์ซึ่งหยั่งรากอยู่ในความอุ่นใจอันลึกซึ้งของแบบอย่างทางประวัติศาสตร์และศรัทธาในเหตุผลของมนุษย์นั้นทรงพลัง มันพูดกับความหวังที่ลึกที่สุดของเรา: ว่าครั้งนี้ไม่ได้แตกต่าง ว่าเรายังมีเวลา ว่าเราพิเศษ ว่าเราควบคุมสถานการณ์ได้
แต่ความหวังไม่ใช่สิ่งทดแทนฟิสิกส์
เราได้รับสิทธิ์ที่จะสร้างแล้ว แต่เราไม่อาจต่อเรือโนอาห์ด้วยพิมพ์เขียวของรถม้า สถาปัตยกรรมของโลกใหม่ต้องอนุมานมาจากฟิสิกส์ใหม่ที่เราได้เปิดเผย บัดนี้เราต้องหันไปหาฟิสิกส์ใหม่นั้น ด้วยดวงตาที่แจ่มชัดและจิตใจที่สุขุม ทั้งกฎแห่งปัญญา เรขาคณิตแห่งคุณค่า และเครื่องยนต์แห่งระเบียบ