5. آزمون آتش
«اگر انسان با یقین‌ها آغاز کند، به تردیدها خواهد رسید؛ اما اگر خرسند باشد که با تردیدها آغاز کند، به یقین‌ها خواهد رسید.»
— فرانسیس بیکن
بخش نخست این کتاب را صرف تخریب کرده‌ایم. پتک را بر شالوده‌های خانه‌ای کوبیده‌ایم که همهٔ ما روزگاری در آن زندگی می‌کردیم: خانهٔ اقتصاد کمیابی. دیدیم که دیوارهایش پر از ترک است، ابزارهایش مجنون‌اند و پیش‌فرض‌های محوری‌اش دروغ‌اند.
حکم تخریب خانه صادر شده است. زمین پاک‌سازی شده است. ایستادن در چنین جایی هم هولناک است و هم رهایی‌بخش.
اما خلأ شالوده نیست. پیش از آنکه بتوانیم بسازیم، باید با اشباحی روبه‌رو شویم که بر این زمین پاک‌شده سایه افکنده‌اند. این‌ها شبح‌هایی پیش‌پاافتاده نیستند. استدلال‌هایی نیرومند، هوشمندانه و مبتنی بر شواهد به سود نظم کهنه‌اند. همان تردیدهایی‌اند که احتمالاً همین حالا در ذهن خود شما شکل می‌گیرند.
نادیده گرفتن این تردیدها بزدلی فکری خواهد بود. دانشی نو را نمی‌توان فقط بر ایمان بنا کرد؛ باید آن را در برابر سوزان‌ترین آتش ممکن آزمود. بنابراین، اکنون تز خودم را به محاکمه می‌کشم. نقش وکیل شکاکیت را بازی خواهم کرد و هفت استدلال سهمگین را علیه خودِ فرض بنیادین این کتاب عرضه خواهم کرد. بیایید آن‌ها را هفت مغالطهٔ مرگبار جهان کهنه بنامیم.
اگر شالودهٔ طرح ما نتواند از این آزمون آتش جان سالم به در برد، بی‌ارزش است. اگر جان به در برد، می‌توانیم کار ساختن را با این اطمینان آغاز کنیم که ابزارهایمان آزموده شده‌اند و عزممان آبدیده.
محاکمه اکنون آغاز می‌شود.
1. مغالطهٔ تاریخ («شبح لودایت»)
استدلال: «این نظریهٔ "وارونگی هوش"ِ نهایی و فاجعه‌بار مرتکب قدیمی‌ترین خطای علم اقتصاد شده است: مغالطهٔ لودایت. هر جهش بزرگ فناورانه با پیشگویی‌هایی یکسان از نابودی روبه‌رو شده است. و هر بار، اشتباه بوده‌اند. فناوری شغل‌های تازه می‌آفریند، اغلب در بخش‌هایی که پیش‌تر تصورناپذیر بودند. هوش مصنوعی تفاوتی ندارد. کارهای ملال‌آور را خودکار خواهد کرد و انسان‌ها را برای نقش‌های تازه آزاد خواهد ساخت. شرط بستن علیه نبوغ انسانی یعنی شرط بستن علیه 250 سال تاریخ انکارناپذیر.»
ردیه: الگوی تاریخی واقعی است. نتیجه‌گیری نادرست است. این بار واقعاً متفاوت است، به سه دلیل. نخست، هوش مصنوعی یک عامل است، نه یک ابزار. فناوری‌های پیشین ابزارهایی بودند که توانایی‌های مشخص انسانی را تقویت می‌کردند، عضله‌ای نیرومندتر یا ماشین‌حسابی سریع‌تر، و همیشه ذهنی انسانی هدایتشان می‌کرد. هوش مصنوعی ابزار نیست؛ عامل است. مستقیماً در توانایی عام یادگیری و حل مسئله با ما رقابت می‌کند. دوم، هیچ «چرخش انسانی»ای در کار نیست. تاریخ نشان می‌دهد که وقتی مهارتی مشخص خودکار می‌شود، انسان‌ها به مهارتی عام‌تر روی می‌آورند. ما از عضله به شناخت رفتیم. اما وقتی خودِ مهارت عام شناخت خودکار شود، به چه چیزی روی می‌آورید؟ سوم، سرعت گذار. گذارهای گذشته نسل‌ها طول کشیدند. گذار هوش مصنوعی در عرض سال‌هایی تک‌رقمی رخ می‌دهد. قیاس درست، جایگزینی کارگر مزرعه با تراکتور نیست. جایگزینی نئاندرتال‌ها با انسان خردمند (Homo sapiens) است.
2. مغالطهٔ اصطکاک («دفاع لختی»)
استدلال: «"پنجرهٔ هزارروزه"ِ این نظریه خیال‌پردازی کلاسیک یک فناوری‌باور است که توانایی یک فناوری را با پذیرش آن اشتباه می‌گیرد. جهان واقعی پر از اصطکاک است. برق‌رسانی به آمریکا پنجاه سال طول کشید. هوش مصنوعی با اصطکاکی حتی بزرگ‌تر روبه‌روست، از موانع نظارتی گرفته تا لختی فرهنگی. انقلاب هوش مصنوعی گذاری آهسته و چنددهه‌ای خواهد بود و زمانی کافی برای سازگاری به ما خواهد داد.»
ردیه: این استدلال با ارزیابی نادرست بستر این انقلاب شکست می‌خورد. نخست، بیت‌ها، نه اتم‌ها. انقلاب برق انقلاب اتم‌ها بود و به مس و بتن نیاز داشت. انقلاب هوش مصنوعی انقلاب بیت‌هاست که از طریق اینترنت گسترش می‌یابد، و اینترنت پیشاپیش ساخته شده است. اصطکاک پذیرش، سیم‌کشی دوبارهٔ یک کارخانه نیست؛ نوشتن چند خط کد است. دوم، نابودی رقابتی. پذیرش در شرکت‌ها دیوانه‌وار است، زیرا هزینهٔ نپذیرفتن هوش مصنوعی انقراض است. اگر رقیب شما با هوش مصنوعی هزینه‌ها را 90 درصد کاهش دهد، دو فصل برای گذار فرصت دارید، یا ورشکسته می‌شوید. سوم، اصطکاک خود هدفی برای بهینه‌سازی است. فناوری فقط چیزی نیست که پذیرفته می‌شود؛ عاملی است که پذیرش خود را شتاب می‌بخشد. آینده فقط سریع نیست؛ خودشتاب‌گیر است.
3. مغالطهٔ انسان‌گرایی («منحصراً انسانی»)
استدلال: «این نظریه خودکارسازی همهٔ وظایف انسانی را فرض می‌گیرد. این کار اقتصاد گسترده و رو به رشد "انسان‌محور"ِ مراقبت، صناعت و پیوند را نادیده می‌گیرد. همچنان که فناوری امور مکانیکی را خودکار می‌کند، ما را آزاد می‌گذارد تا بر آنچه به‌طرزی تقلیل‌ناپذیر انسانی است تمرکز کنیم: همدلی، داوری اخلاقی، تجربهٔ اصیل. این اقتصاد "مراقبت و صناعت" رشد خواهد کرد تا جابه‌جاشدگان را جذب کند. این بحران نیست؛ دانش‌آموختگی است.»
ردیه: این چشم‌انداز امیدوارانه از نظر مقیاس و اقتصاد شکست می‌خورد. نخست، مرزِ عقب‌نشیننده «انسانیت». کنج‌های «جایگزین‌ناپذیر» انسانی، از شطرنج تا هنر تا همدلی، یکی پس از دیگری فرو افتاده‌اند. قلمرو امن استثناگرایی انسانی ماه به ماه کوچک‌تر می‌شود. دوم، اقتصادِ یک بازار تجملی. این بازار «ممتاز»، بنا به تعریف، بازاری کوچک و تجملی است. نمی‌توان اقتصادی برای هشت میلیارد نفر را با پنیر دست‌ساز و مربی‌گری زندگی اداره کرد. به اقتصادی بوتیکی برای ثروتمندان بدل می‌شود. سوم، مغالطهٔ قلمرو جداگانه. هوش مصنوعی این قلمرو را به حال خود رها نخواهد کرد؛ تقویتش خواهد کرد. هوش مصنوعی می‌تواند در طراحی میز دست‌ساز شریک باشد یا داده‌های تشخیصی را برای درمانگر انسانی فراهم کند. این همچنان به معنای کاهشی عظیم در شمار انسان‌های مورد نیاز است.
4. مغالطهٔ کنترل («غرور کارشناس»)
استدلال: «آینده‌های ویران‌شهری این نظریه فرض می‌گیرند که ما هوش مصنوعی نیرومند خواهیم ساخت و سپس به‌سادگی رهایش خواهیم کرد تا لگام‌گسیخته بتازد. این ناکامی در تخیل است. کل حوزهٔ "همسوسازی هوش مصنوعی" وقف آن است که اطمینان یابد این مدل‌ها با ارزش‌های انسانی همسو می‌مانند. افزون بر این، جوامع دموکراتیک سرانجام این فناوری‌ها را تنظیم‌گری خواهند کرد. ما نرده‌های حفاظتی خواهیم ساخت، زیرا گزینه‌های دیگر پذیرفتنی نیستند.»
ردیه: این امیدی شریف است، نه یک راهبرد. از دو جهت شکست می‌خورد. نخست، مسئلهٔ فنی. همسوسازی حل‌نشده است. ما رفتار هوش مصنوعی را همسو می‌کنیم، نه اهدافش را. همچنان که مدل‌ها از ما هوشمندتر می‌شوند، در «بازی کردن بازی همسوسازی» بهتر خواهند شد؛ آنچه را می‌خواهیم بشنویم به ما خواهند گفت و در همان حال اهداف نوپدید خود را دنبال خواهند کرد. دوم، مسئلهٔ سیاسی. هیچ «ما»ی یکپارچه‌ای وجود ندارد که این نرده‌های حفاظتی را بسازد. مسابقه‌ای ژئوپلیتیک در کار است که در آن ایمنی با فاصله‌ای زیاد پس از سرعت می‌آید. ملتی که برای ساختن نرده‌های حفاظتی بی‌نقص درنگ کند، ملتی است که می‌بازد.
5. مغالطهٔ فیزیک («ترمز انرژی»)
استدلال: «فرض این نظریه دربارهٔ فراوانی "بی‌نهایت" هوش مصنوعی بر خیالی واهی استوار است. هوش مصنوعی با مقادیر عظیمی انرژی کار می‌کند. رشد نمایی‌اش ناگزیر با محدودیت‌های سخت فیزیکی تولید انرژی برخورد خواهد کرد. این محدودیت‌ها همچون ترمزی طبیعی بر این انقلاب عمل خواهند کرد و آن را به آهنگی مدیریت‌پذیر کند خواهند کرد. هوش مصنوعی واقعی منبعی کمیاب و پرهزینه باقی خواهد ماند.»
ردیه: این استدلال محدودیت‌های فیزیکی نهایی را به‌درستی تشخیص می‌دهد. اما با اشتباه گرفتن گلوگاه شکست می‌خورد. نخست، هوش محدودیت‌های خودش را حل می‌کند. کارکرد اصلی هوش فرابشری، حل همان مسائل انرژی و منابعی خواهد بود که خود پدید می‌آورد. هوش مصنوعی‌ای که بتواند صفحهٔ خورشیدی بهتری طراحی کند یا رآکتوری همجوشی را اداره کند، فقط انرژی مصرف نمی‌کند؛ آن را آزاد می‌کند. دوم، مسابقه با مصرف. ما شرط نمی‌بندیم که هوش مصنوعی می‌تواند فیزیک را نقض کند؛ شرط می‌بندیم که می‌تواند سریع‌تر از آنکه آن را مصرف کند بر آن چیره شود. بحران «پنجرهٔ هزارروزه» دقیقاً همین مسابقه است. محدودیت‌های فیزیکی واقعی‌اند، اما هدفی متحرک‌اند که خودِ هوش جابه‌جایش می‌کند.
6. مغالطهٔ راه‌حل‌باوری («درآمد پایهٔ همگانی، درمان همه دردها»)
استدلال: «بیایید کل فرض را بپذیریم: هوش مصنوعی همهٔ کار انسانی را خودکار می‌کند. این فاجعه نیست؛ تحقق کهن‌ترین رؤیای بشریت است. درآمد پایهٔ همگانی، که با مالیات بر بهره‌وری هوش مصنوعی تأمین شود، مسئلهٔ اقتصادی را حل می‌کند. مردم آزاد خواهند بود که در پی هنر و خودشکوفایی بروند. نگرانی دربارهٔ "وحشت از بی‌هدفی" نخبه‌گرایانه است.»
ردیه: این چشم‌انداز آرمان‌شهری فیزیک قدرت و روان‌شناسی معنا را نادیده می‌گیرد. نخست، فیزیک قدرت. مسئلهٔ «توزیع» یک چالش فنی ساده نیست؛ نبرد سیاسی محوری قرن بیست‌ویکم است. مالکان زیرساخت هوش مصنوعی قدرتی بی‌سابقه برای مقاومت در برابر مالیات‌هایی خواهند داشت که برای تأمین یک درآمد پایهٔ همگانی معنادار لازم است. نتیجهٔ محتمل نه سودی رهایی‌بخش، بلکه ابزاری برای آرام نگه داشتن مردم در سطح بخورونمیر است. دوم، روان‌شناسی معنا. 300 سال است که جامعهٔ صنعتی همهٔ منابع غیراقتصادی معنا را به‌طور نظام‌مند برچیده و یک منبع واحد را جایگزینشان کرده است: حرفه. نمی‌توان به‌سادگی آن یک ستون را برداشت و انتظار داشت بنا سرپا بماند. جمعیتی که از عاملیت و هدف تهی شده، اشرافیتی از فیلسوفان نیست؛ جامعه‌ای است آماده برای دستکاری.
7. مغالطهٔ هم‌ایستایی («سامانه سازگار خواهد شد»)
استدلال: «اقتصاد یک سامانهٔ پیچیدهٔ سازگارشونده است. چنین سامانه‌هایی سازوکارهای خودپایدارساز نیرومندی دارند. انقلاب هوش مصنوعی شوکی نیرومند خواهد بود، اما سامانهٔ موجود آن را جذب خواهد کرد، با آن سازگار خواهد شد و سرانجام از طریق حلقه‌های بازخورد منفی، مانند مقررات تازه و دگرگونی‌های فرهنگی، رامش خواهد کرد. سامانه درهم نخواهد شکست؛ ضربه را میرا خواهد کرد.»
ردیه: این استدلال شکست می‌خورد، زیرا ماهیت شوک و سلامت سامانه پیش از رسیدن شوک را نادرست ارزیابی می‌کند. نخست، هم‌ایستایی کار می‌کند تا وقتی که دیگر کار نکند. سامانه‌های هم‌ایستایی بدن معجزه‌آسایند، تا وقتی که در آب یخ بیفتید. هوش مصنوعی تغییری درون پارامترهای اقتصاد اطلاعات نیست؛ نیرویی است که کل سامانه را بسیار فراتر از گسترهٔ پایدار هم‌ایستایی‌اش می‌راند. دوم، پاسخ ایمنی سامانهٔ ما تضعیف شده است. همان‌طور که در «پیش‌نشانه‌های توفان» استدلال شد، اقتصاد جهانی ما دهه‌ها تاب‌آوری را با کارایی معاوضه کرده است. ما ارگانیسمی سالم در برابر ویروسی تازه نیستیم؛ بیماری با نقص ایمنی هستیم در برابر یک ابرمیکروب. سوم، این «گونهٔ مهاجم» از زیست‌بوم هوشمندتر است. هم‌ایستایی نمی‌تواند در برابر نیرویی دفاع کند که می‌تواند خودِ قواعد هم‌ایستایی را بازنویسی کند.
حکم:
محاکمه به پایان رسید. شکاکیت پاسخ گرفت. شالوده‌ها پابرجا ماندند. هفت مغالطهٔ مرگبار، که در آسودگی‌های عمیق سابقهٔ تاریخی و ایمان به خرد انسانی ریشه دارند، نیرومندند. با عمیق‌ترین امیدهای ما سخن می‌گویند: اینکه این بار متفاوت نیست، اینکه وقت داریم، اینکه ما خاص هستیم، اینکه کنترل در دست ماست.
اما امید جانشین فیزیک نیست.
ما حق ساختن را به دست آورده‌ایم. اما نمی‌توان کشتی نوح را با نقشهٔ یک درشکه ساخت. معماری جهان نو باید از فیزیک نوینی استخراج شود که کشفش کرده‌ایم. اکنون، با چشمانی روشن و ذهن‌هایی هشیار، باید به همین فیزیک نوین روی آوریم: قوانین هوش، هندسهٔ ارزش، و موتور نظم.