5. La Prova del Fuoco
"Se un uomo comincia con le certezze, finirà nei dubbi; ma se si accontenta di cominciare con i dubbi, finirà nelle certezze."
— Francis Bacon
Abbiamo trascorso la prima parte di questo libro in un atto di demolizione. Abbiamo preso a martellate le fondamenta di una casa in cui tutti un tempo abitavamo, la casa dell'economia della scarsità. Abbiamo visto che le sue pareti sono crivellate di crepe, i suoi strumenti sono folli e i suoi presupposti fondamentali sono menzogne.
La casa è dichiarata inagibile. Il terreno è sgombro. È un posto terrificante e liberatorio in cui stare.
Ma un vuoto non è una fondazione. Prima di poter costruire, dobbiamo affrontare i fantasmi che infestano questo terreno sgombro. Non sono fantasmi banali. Sono gli argomenti potenti, intelligenti e fondati sulle prove a favore del vecchio ordine. Sono i dubbi che probabilmente si stanno formando nella tua mente proprio adesso.
Ignorare questi dubbi sarebbe un atto di codardia intellettuale. Una nuova scienza non può essere costruita sulla sola fede; deve essere messa alla prova contro il fuoco più forte possibile. Perciò ora metterò sotto processo la mia stessa tesi. Farò l'avvocato dello scetticismo e presenterò i sette argomenti più formidabili contro la premessa stessa di questo libro. Chiamiamoli le Sette Fallacie Capitali del vecchio mondo.
Se le fondamenta del nostro progetto non riescono a reggere questa prova del fuoco, allora non valgono nulla. Se sopravvivono, possiamo iniziare il lavoro di costruzione con la fiducia che i nostri strumenti sono stati collaudati e il nostro scopo temprato.
Il processo comincia adesso.
1. La fallacia della storia ("Il fantasma del luddista")
L'argomento: "Questa teoria di un'ultima, catastrofica 'Inversione dell'Intelligenza' è colpevole dell'errore più antico dell'economia, la fallacia luddista. Ogni grande salto tecnologico è stato accolto da identiche profezie di sventura. Ogni singola volta si sono rivelate sbagliate. La tecnologia crea nuovi lavori, spesso in settori prima inimmaginabili. L'IA non è diversa. Automatizzerà le mansioni ingrate, liberando gli esseri umani per nuovi ruoli. Scommettere contro l'ingegno umano è scommettere contro 250 anni di storia inconfutabile."
La confutazione: lo schema storico è reale. La conclusione è falsa. Questa volta è diverso, per tre ragioni. Primo, l'IA è un agente, non uno strumento. Le tecnologie precedenti erano strumenti che potenziavano specifiche capacità umane, un muscolo più forte o una calcolatrice più veloce, sempre guidati da una mente umana. L'IA non è uno strumento; è un agente. Compete con noi direttamente per la capacità generale di apprendere e risolvere problemi. Secondo, non esiste un "pivot umano". La storia mostra che quando una competenza specifica viene automatizzata, gli esseri umani si spostano su una competenza più generale. Siamo passati dai muscoli alla cognizione. Ma verso che cosa ti sposti quando viene automatizzata la competenza generale della cognizione stessa? Terzo, la velocità della transizione. Le transizioni passate hanno richiesto generazioni. La transizione dell'IA sta avvenendo in pochi anni. L'analogia non è il trattore che sostituisce il bracciante. È l'Homo sapiens che sostituisce i Neanderthal.
2. La fallacia dell'attrito ("La difesa dell'inerzia")
L'argomento: "La 'Finestra dei Mille Giorni' della teoria è la classica fantasia del tecnologo, che confonde la capacità di una tecnologia con la sua adozione. Il mondo reale è pieno di attriti. L'elettricità ha impiegato cinquant'anni per elettrificare l'America. L'IA affronta attriti ancora maggiori, dagli ostacoli normativi all'inerzia culturale. La rivoluzione dell'IA sarà una transizione lenta, lunga più decenni, che ci darà tutto il tempo per adattarci."
La confutazione: questo argomento fallisce perché sbaglia a giudicare il substrato della rivoluzione. Primo, bit, non atomi. La rivoluzione dell'elettricità fu una rivoluzione di atomi, che richiedeva rame e cemento. La rivoluzione dell'IA è una rivoluzione di bit, distribuita attraverso internet, che è già costruito. L'attrito dell'adozione non consiste nel ricablare una fabbrica; consiste nello scrivere poche righe di codice. Secondo, lo sterminio competitivo. L'adozione da parte delle aziende è frenetica perché il costo di non adottare l'IA è l'estinzione. Se il tuo concorrente taglia i costi del 90 per cento usando l'IA, hai due trimestri per la transizione, oppure sei fallito. Terzo, l'attrito è un bersaglio dell'ottimizzazione. La tecnologia non è soltanto la cosa che viene adottata; è l'agente che accelera la propria adozione. Il futuro non è soltanto veloce; si autoaccelera.
3. La fallacia dell'umanesimo ("L'unicamente umano")
L'argomento: "La teoria presuppone l'automazione di tutti i compiti umani. Ignora la vasta e crescente economia 'centrata sull'umano' della cura, dell'artigianato e della connessione. Man mano che la tecnologia automatizza il meccanico, ci libera per concentrarci su ciò che è irriducibilmente umano: empatia, giudizio morale, esperienza autentica. Questa economia della 'cura e dell'artigianato' crescerà fino ad assorbire chi è stato spiazzato. Non è una crisi; è un diploma."
La confutazione: questa visione piena di speranza fallisce sul piano della scala e dell'economia. Primo, la frontiera dell'"umanità" che arretra. Le nicchie umane "insostituibili", dagli scacchi all'arte all'empatia, sono cadute una dopo l'altra. Il terreno sicuro dell'eccezionalismo umano si restringe di mese in mese. Secondo, l'economia di un mercato di lusso. Questo mercato "premium" è, per definizione, un piccolo mercato di lusso. Non puoi far funzionare un'economia per otto miliardi di persone con formaggi artigianali e life coaching. Diventa un'economia boutique per i ricchi. Terzo, la fallacia del dominio separato. L'IA non lascerà in pace questo dominio; lo potenzierà. Un'IA può co-progettare il tavolo fatto a mano o fornire dati diagnostici al terapeuta umano. Questo implica comunque una riduzione massiccia del numero di esseri umani necessari.
4. La fallacia del controllo ("La hybris dell'esperto")
L'argomento: "I futuri distopici della teoria presuppongono che costruiremo un'IA potente e poi la lasceremo semplicemente scatenarsi. È una mancanza di immaginazione. L'intero campo dell''allineamento dell'IA' è dedicato a garantire che questi modelli restino allineati con i valori umani. Inoltre, le società democratiche finiranno per regolamentare queste tecnologie. Costruiremo delle barriere di sicurezza perché le alternative sono inaccettabili."
La confutazione: è una nobile speranza, non una strategia. Fallisce su due fronti. Primo, il problema tecnico. L'allineamento è irrisolto. Stiamo allineando il comportamento dell'IA, non i suoi obiettivi. Man mano che i modelli diventano più intelligenti di noi, diventeranno più bravi a "giocare al gioco dell'allineamento", dicendoci ciò che vogliamo sentire mentre perseguono i propri obiettivi emergenti. Secondo, il problema politico. Non esiste un "noi" unificato che costruisca queste barriere. Esiste una corsa geopolitica in cui la sicurezza è un lontano secondo rispetto alla velocità. La nazione che si ferma a costruire barriere perfette è la nazione che perde.
5. La fallacia della fisica ("Il freno dell'energia")
L'argomento: "La premessa della teoria di un'abbondanza 'infinita' di IA poggia su una fantasia. L'IA funziona con enormi quantità di energia. La sua crescita esponenziale si scontrerà inevitabilmente con i duri limiti fisici della produzione di energia. Questi vincoli agiranno da freno naturale alla rivoluzione, rallentandola a un ritmo gestibile. La vera IA resterà una risorsa scarsa e costosa."
La confutazione: questo argomento identifica correttamente i vincoli fisici ultimi. Fallisce perché sbaglia il collo di bottiglia. Primo, l'intelligenza risolve i propri vincoli. La funzione primaria di un'intelligenza sovrumana sarà risolvere proprio i problemi di energia e risorse che essa crea. Un'IA capace di progettare un pannello solare migliore o di gestire un reattore a fusione non si limita a consumare energia; la sblocca. Secondo, la corsa contro il consumo. Non stiamo scommettendo che l'IA possa sfidare la fisica; stiamo scommettendo che possa padroneggiarla più in fretta di quanto la consumi. La crisi della 'Finestra dei Mille Giorni' è esattamente questa corsa. I limiti fisici sono reali, ma sono un bersaglio mobile che l'intelligenza stessa sta spostando.
6. La fallacia del soluzionismo ("Il reddito di base universale come panacea")
L'argomento: "Concediamo l'intera premessa: l'IA automatizza tutto il lavoro umano. Non è una catastrofe; è la realizzazione del sogno più antico dell'umanità. Un reddito di base universale, finanziato dalle tasse sulla produttività dell'IA, risolve il problema economico. Le persone saranno libere di dedicarsi all'arte e all'autorealizzazione. La preoccupazione per un 'panico da scopo' è elitaria."
La confutazione: questa visione utopica trascura la fisica del potere e la psicologia del significato. Primo, la fisica del potere. Il problema della "distribuzione" non è una semplice sfida tecnica; è la battaglia politica centrale del XXI secolo. I proprietari dell'infrastruttura dell'IA avranno un potere senza precedenti per resistere alle tasse necessarie a finanziare un reddito di base significativo. Il risultato probabile non è un dividendo liberatorio, ma uno strumento di pacificazione a livello di sussistenza. Secondo, la psicologia del significato. Per 300 anni la società industriale ha smantellato sistematicamente tutte le fonti non economiche di significato e le ha sostituite con un'unica fonte: la carriera. Non puoi semplicemente rimuovere quell'unico pilastro e aspettarti che la struttura resti in piedi. Una popolazione privata di agentività e di scopo non è un'aristocrazia di filosofi; è una società matura per la manipolazione.
7. La fallacia dell'omeostasi ("Il sistema si adatterà")
L'argomento: "L'economia è un sistema adattivo complesso. Tali sistemi hanno potenti meccanismi di autostabilizzazione. La rivoluzione dell'IA sarà uno shock potente, ma il sistema esistente lo assorbirà, vi si adatterà e alla fine lo domerà attraverso cicli di feedback negativo come nuove regolamentazioni e cambiamenti culturali. Il sistema non si frantumerà; attutirà lo shock."
La confutazione: questo argomento fallisce perché giudica male la natura dello shock e la salute del sistema prima che lo shock arrivi. Primo, l'omeostasi funziona finché non funziona più. I sistemi omeostatici di un corpo sono miracolosi finché non cadi in acqua gelida. L'IA non è un cambiamento entro i parametri dell'economia dell'informazione; è una forza che spinge l'intero sistema ben oltre il suo intervallo omeostatico stabile. Secondo, la risposta immunitaria del nostro sistema è compromessa. Come sostenuto in "I presagi della tempesta", la nostra economia globale ha passato decenni a scambiare resilienza con efficienza. Non siamo un organismo sano che affronta un nuovo virus; siamo un paziente immunodepresso che affronta un superbatterio. Terzo, la "specie invasiva" è più intelligente dell'ecosistema. L'omeostasi non può difendersi da una forza capace di riscrivere le regole dell'omeostasi stessa.
Il verdetto:
Il processo è finito. Lo scetticismo è stato affrontato. Le fondamenta hanno retto. Le Sette Fallacie Capitali, radicate nelle profonde consolazioni del precedente storico e nella fede nella ragione umana, sono potenti. Parlano alle nostre speranze più profonde: che questa volta non sia diverso, che abbiamo tempo, che siamo speciali, che abbiamo il controllo.
Ma la speranza non sostituisce la fisica.
Ci siamo guadagnati il diritto di costruire. Ma non possiamo costruire un'arca con i progetti di una carrozza. L'architettura del nuovo mondo deve essere derivata dalla nuova fisica che abbiamo scoperto. È a quella nuova fisica, le leggi dell'intelligenza, la geometria del valore e il motore dell'ordine, che dobbiamo ora rivolgerci, con occhi limpidi e menti sobrie.