پیوست ب: آینهٔ هوش مصنوعی زایا
کدِ زیرِ کد
این کتاب ادعایی رادیکال مطرح می‌کند: این‌که اقتصاد فرایندی زایا و محاسباتی است، و این‌که پیدایش هوش مصنوعی همان لحظه‌ای است که سرانجام ماشینی ساختیم که به ما اجازه می‌دهد کد منبع را ببینیم.
این پیوست اثبات آن است.
این پیوست راهنمای ترجمه‌ای یک‌به‌یک است، سنگ روزتایی برای نگاشتِ هر مفهوم محوریِ اقتصاد هوشمند به همتای ریاضی و معماریِ مستقیمش در جهانِ هوش مصنوعی زایای مدرن و پیشرفته. این فهرستی از تمثیل‌های سست نیست. این نمایشی از یک یک‌ریختیِ ساختاری و ژرف است.
برای مهندس هوش مصنوعی، این پیوست آشکار خواهد کرد که شما بی‌آن‌که بدانید فیزیکِ بنیادینِ تمدن را مطالعه می‌کرده‌اید. برای اقتصاددان و خوانندهٔ عام، اثبات خواهد کرد که ایده‌های به ظاهر غریب و پیچیدهٔ این کتاب فلسفه‌بافیِ گمانه‌زنانه نیستند. آن‌ها همان اصول مهندسی‌ای هستند که دگرگون‌کننده‌ترین فناوریِ روزگار ما را به حرکت درمی‌آورند.
بیایید در آینه بنگریم.
بخش I: اصل بنیادین
| مفهوم اقتصاد هوشمند | همتای آن در هوش مصنوعی زایا و تمثیل ژرف |
|---|---|
| نظریهٔ هوش (IT) | هدف یادگیری ماشینِ مدرن. اصل محوری IT، یعنی این‌که سامانه‌ها چنان تکامل می‌یابند که به ازای هزینهٔ فیزیکیِ معین، هوش پیش‌بینانه را بیشینه کنند، تعمیمی مستقیم و در مقیاس کلان از کمینه‌سازیِ تابع زیان است که بر سراسر یادگیری ماشین حاکم است. «کنش هوش» لاگرانژیِ همگانیِ هر سامانهٔ یادگیرنده است. اقتصادی «هوشمند» است که سریع بیاموزد و خوب تعمیم دهد. |
| «بهای دیو» (هزینه‌های هوش) | تابع زیان. لاگرانژیِ نظریهٔ هوش (H - C - K) تابع زیانِ اقتصاد است. این همان عددی است که کل سامانه می‌کوشد کمینه‌اش کند. تابع زیانی که در هوش مصنوعی خوب طراحی شده باشد نتایجی زیبا به بار می‌آورد. تابع زیانی که بد طراحی شده باشد کابوس می‌آفریند. نقد ما بر تولید ناخالص داخلی این است که برای یک تمدن تابع زیانی به‌طرزی فاجعه‌بار بد است. |
| پل ماندگاری | یادگیری تقویتی و الگوریتم‌های تکاملی. اصل ماندگاری بیانِ کلان‌مقیاسِ یک الگوریتم گزینش است. در هوش مصنوعی، جمعیتی از مدل‌ها را روی یک وظیفه آموزش می‌دهید. مدل‌هایی که کمترین «زیان» (بالاترین دقت پیش‌بینی) را دارند برگزیده و «پرورش» داده می‌شوند تا نسل بعد را بسازند. کیهان محیطی عظیم و موازی برای یادگیری تقویتی است. ماندگاری همان سیگنال پاداش است. |
بخش II: پویایی‌ها و معماری
| مفهوم اقتصاد هوشمند | همتای آن در هوش مصنوعی زایا و تمثیل ژرف |
|---|---|
| موتور زایا | مدل‌های انتشارِ نوفه‌زدا. ریاضیات آن‌ها یکسان است. تکامل اقتصاد همان فرایند وارونِ یک مدل انتشار است. کنشی زایاست که از حالتی از نوفه با آنتروپی بالا (امکانِ بی‌پایان)، حالتی منسجم و منظم (جامعه‌ای کارآمد) می‌آفریند و نیازِ کمینه کردن تابع زیانش راهبرِ آن است. |
| سه قانون یک سامانهٔ زنده | شرایط آموزشِ پایدار. این‌ها قوانین اخلاقی نیستند؛ ضرورت‌هایی مهندسی برای یک محاسبهٔ موفق و طولانی‌مدت‌اند. جریان = مدل به جریانی پیوسته از توان و داده نیاز دارد. گشودگی = مدل برای پرهیز از فروپاشی مدل / بیش‌برازش به داده‌های تازه و متنوع نیاز دارد. تاب‌آوری = مدل برای اطمینان از تعمیم‌پذیری‌اش به منظم‌سازی و تنوع معماری نیاز دارد. |
| توپولوژی شبکه | شبکه‌های عصبی گرافی (GNN) و سوگیری استقرایی. معماریِ یک هوش مصنوعی «سوگیری استقرایی» آن را فراهم می‌کند، یعنی فرض‌های درونی‌اش دربارهٔ ساختار یک مسئله. توپولوژیِ شبکهٔ اقتصادی سوگیری استقرایی جامعه است. شبکهٔ توپی و پره‌ای همانند یک شبکهٔ پیش‌خورِ ساده است. شبکهٔ جهان کوچک همانند یک ترنسفورمر است که در یافتن پیوندهای دوربُرد و نوآورانه درخشان عمل می‌کند. |
| بنگاه در برابر بازار | شبکهٔ عصبیِ تخصصی در برابر فرایند آموزش. بنگاه مدلی تخصصی و ازپیش‌آموزش‌دیده است که برای اجرا (استنتاج) با کاراییِ بی‌رحمانه روی مسئله‌ای شناخته‌شده طراحی شده است. شرکتی بزرگ همانند مدلِ آمیختهٔ متخصصان (MoE) است. بازار فرایندِ پرآشوب و پرانرژیِ کشف (آموزش) است، الگوریتم جست‌وجویی که «فضای ابرپارامترِ» پهناورِ همهٔ مدل‌های کسب‌وکارِ ممکن را می‌کاود. |
| موتور دوگانه | حلقهٔ استنتاج در برابر آموزش. این چرخهٔ بنیادینِ همهٔ هوش‌های مصنوعیِ پیشرفته است. هوش مصنوعی با وزن‌های کنونی و ثابتش استنتاج (موتور تند) انجام می‌دهد. نتایج به‌صورت داده گردآوری می‌شوند و برای دور بعدیِ آموزش (موتور کند) به کار می‌روند که وزن‌های مدل را به‌روز می‌کند. این دقیقاً همان پویاییِ هم‌تکاملیِ بازارها و نهادهاست. |
بخش III: نقشهٔ راه و رابط انسانی
| مفهوم اقتصاد هوشمند | همتای آن در هوش مصنوعی زایا و تمثیل ژرف |
|---|---|
| داشبورد MIND | معیارهای ارزیابیِ چندوجهی. یک مدل هوش مصنوعیِ نیرومند را با یک معیار واحد داوری نمی‌کنید. داشبوردی دارید: دقت، سرعت، هزینهٔ محاسباتی، استواری در برابر حمله‌های خصمانه، سوگیری و غیره. سرمایه‌های MIND مجموعه‌ای ارزیابیِ چندوجهی برای فرایند زایای یک تمدن‌اند. |
| سیاست‌گذاری به‌مثابهٔ مهندسی هندسه | تولیدِ هدایت‌شده / هدایت با طبقه‌بند. این پیوند دقیق است. سیاست‌گذاری سازوکارِ «هدایت» است. مالیات کربن طبقه‌بندی است که به یک کنش اقتصادی نگاه می‌کند و می‌پرسد: «آیا این کم‌کربن است؟» سپس تلنگری کوچک به تابع زیانِ سامانه می‌افزاید و کل فرایند زایا را، بی‌آن‌که مستقیماً مهارش کند، به سوی ناحیه‌ای دیگر از فضای امکان‌ها می‌راند. |
| اقتصاد همسوسازی | مسئلهٔ همسوسازی هوش مصنوعی. استدلال محوری کتاب، که مسئلهٔ اقتصادیِ نو این است که «چه کسی بر ماشین‌ها فرمان می‌راند؟»، صورت‌بندیِ دوبارهٔ مستقیمِ مسئلهٔ همسوسازی هوش مصنوعی است. همسوسازی بیرونی یعنی برگزیدن تابع هدفِ درست (برای نمونه، MIND به جای تولید ناخالص داخلی). همسوسازی درونی یعنی جلوگیری از پیدایش هدف‌های ابزاریِ کژکارکرد در اقتصاد ماشین‌به‌ماشین (M2M). |
| نقش نهایی بشر | یادگیری تقویتی از بازخورد انسانی (RLHF). این نقش غاییِ بشر در اقتصاد نو است. پس از همهٔ یادگیری‌های بی‌نظارت، نیرومندترین مدل‌های هوش مصنوعی با یک انتخاب سادهٔ انسانی همسو می‌شوند: «این خروجی از آن یکی بهتر است.» «کارِ» بشر فراهم آوردن سیگنال‌های پاداش، داوری‌های ارزشی، ذوق و خردی است که توان زایای عظیمِ فناوری ما را با شکوفایی همسو می‌کند. ما آموزش‌دهندگانِ ماشینیم، و با این کار تعیین می‌کنیم که چه چیزی ارزش آفریدن دارد. |