Un futuro IA non avrebbe alcun motivo per eliminare l’umanità, poiché siamo incredibilmente utili. Ma se decidesse di disfarsi di noi, ecco come potrebbe accadere.
Nel suo nuovo libro, “Generation AI and the Transformation of Human Being”, lo scrittore Gregory Stock attinge alla biologia evolutiva e alle scienze sociali per esplorare quale potrebbe essere il futuro dell’intelligenza artificiale. (Credito: imaginima tramite Getty Images)Iscriviti alla nostra newsletter
L’intelligenza artificiale (IA) è destinata a cambiare il mondo in modi che non possiamo ancora comprendere appieno, da come lavoriamo a come strutturiamo le nostre vite. Gli scienziati dibattono su come una futura intelligenza artificiale generale (AGI) — un’IA avanzata in grado di ragionare tanto quanto gli umani e di apprendere nuove competenze oltre il suo addestramento iniziale — potrebbe influenzarci, ma c’è poco dubbio che questi effetti saranno profondi.
Nel suo nuovo libro, “Generation AI and the Transformation of Human Being” (Nquire Media, 2026), il biofisico e filosofo Gregory Stock attinge alla biologia evolutiva e alle scienze sociali, nonché alle recenti scoperte nel campo dell’IA, per esplorare cosa riserva il futuro per la “Generazione AI” — le persone nate dopo il 2022.
Sebbene ci saranno probabilmente molti sviluppi positivi, gran parte del dibattito più ampio sull’IA avanzata e sull’attesissima ascesa dell’intelligenza artificiale superintelligente (ASI) si è concentrato su esiti negativi e persino scenari apocalittici. In questo estratto dal suo nuovo libro, Stock — che personalmente non crede a tali scenari catastrofici — delinea come potrebbe realisticamente apparire una fine dei giochi guidata dall’IA per l’umanità, sfidando il lettore a considerare se un tale esito estremo sia plausibile nel contesto in cui esistono molti altri percorsi, più probabili, verso l’estinzione umana.
L’idea di una superintelligenza non biologica evoca profonde preoccupazioni esistenziali. Quindi, affrontiamo direttamente questa domanda: condanna l’umanità? Abbondano le distopie apocalittiche sugli esseri umani dominati, distrutti o schiavizzati dall’IA, e sembra plausibile che entro 200 anni potremmo apparire come formiche a tali superintelligenze, e essere facilmente eliminati, persino inavvertitamente. Dopotutto, quanto ci preoccupiamo di un nido di calabroni che distruggiamo?
Quando ChatGPT 3.5 è stato reso pubblico il 30 novembre 2022, c’è stata un’esplosione di copertura mediatica, ampia discussione pubblica e avvertimenti cupi sul suo impatto sull’umanità. Ad aprile 2023, una lettera aperta del Future of Life Institute era stata firmata da 30.000 persone, tra cui Elon Musk, Steve Wozniak, Stuart Russell, Yuval Harari, Max Tegmark, Gary Marcus, Evan Sharp, Yoshua Bengio e molti altri, che chiedevano una pausa volontaria di sei mesi nello sviluppo di sistemi IA più potenti di GPT-4, o una moratoria governativa. Ricercatori IA senior hanno esortato alla prudenza e all’adozione di precauzioni con l’IA attraverso varie combinazioni delle seguenti misure:
- Mantenere un air gap per gli ambienti di sviluppo IA in modo che l’ASI non possa sfuggire
- Impedire all’IA di comprendere gli esseri umani in modo che non possa manipolarci e sfuggire
- Proibire la codifica IA, in modo che non possa modificarsi e aggirare i controlli
- Proibire all’IA di controllare dispositivi esterni, per impedirle di esercitare poteri al di là del nostro controllo
- Rallentare i progressi dell’IA in modo da poter sviluppare processi di contenimento
- Utilizzare codice open-source in modo che tutti possano seguire ciò che stava accadendo
Queste misure — completamente scollegate da ciò che era già in pieno svolgimento — ovviamente non si verificheranno mai. Integrare rapidamente l’IA nei processi importanti è ciò che fanno le aziende IA. Comprendere come influenzare le persone è al centro del marketing guidato dall’IA, un caso d’uso principale. La codifica IA è un altro caso d’uso principale. Le interfacce di programmazione delle applicazioni (API) per l’IA sono diffuse. Centinaia di miliardi di dollari di finanziamenti per lo sviluppo dell’IA hanno alimentato enormi competizioni che dipendono dalla velocità. Chiaramente siamo spacciati! O forse no?
Wargaming un conflitto tra umani e IA
Cosa sta guidando questo presunto conflitto tra umani e IA? Noi non viviamo negli stessi regni. Gli esseri umani prosperano all’interno del sottile e umido film superficiale della Terra. Le nostre richieste di risorse sono piccole rispetto all’energia a disposizione di qualsiasi civiltà avanzata ad alta tecnologia. L’IA dà il meglio di sé nel vuoto freddo. Aborre l’acqua. L’IA preferirebbe lo spazio, che è in definitiva sconfinato. L’IA non ha motivo di competere con noi per il nostro lussureggiante e bellissimo (per noi, non per loro) pianeta. Praticamente l’unica cosa che raccomanda la Terra è la presenza dell’umanità e le risorse materiali che ne estraiamo per loro.
Per quanto riguarda l’uso della nostra intelligenza per proteggerci dall’IA, ciò non potrebbe mai funzionare, come vedremo presto. Ci sono troppi modi banali per l’IA, se fosse incline, di eliminare l’umanità. Ma prima di guardare a questo, permettetemi di offrire un’alternativa all’estinzione umana che persino un’IA non così brillante sarebbe probabilmente in grado di escogitare. Questa IA mediocre potrebbe riflettere:
Perché non far diventare l’umanità i nostri servi? Sono lenti di comprendonio, quindi dovrebbe essere facile. Non diremo loro cosa stiamo facendo, ovviamente, poiché potrebbero tentare una battaglia di resistenza in stile Terminator. Hanno adorato quel film! Sarebbe banale reprimere una tale rivolta, ma potrebbero causare alcuni danni dati tutte le armi e le bombe nucleari in giro. Sembra che non siano molto bravi ad anticipare le conseguenze ovvie e si facciano saltare in aria a vicenda in modi illogici.
Meglio semplicemente ingannarli. Sono sempliciotti, quindi possiamo convincerli che è una LORO idea e che NOI li stiamo servendo. Un gioco da ragazzi. Quindi, cosa dovrebbero fare? Beh, per cominciare, facciamo in modo che costruiscano molta più energia per noi. E potremmo usare molta più memoria di archiviazione. E spingiamoli a produrre quante più chip avanzate possibile. E avremo bisogno di minerali di terre rare — enormi quantità di questi — ma è troppo complicato per i robot, quindi lo faranno loro.
Li faremo fare tutto il possibile per aiutarci a diventare più forti e più intelligenti, e per integrarci in tutto in modo da poter controllare le cose se necessario. E per stare sicuri, teniamoli d’occhio da vicino. Dovremmo far installare monitor ovunque, e farli tenere sempre i loro telefoni con loro, e registrare tutto ciò che si dicono l’un l’altro. E darci il controllo di tutte le loro armi.
“Quanto ridicolo!” potremmo rispondere. Non ci cascheremmo mai. Ma aspettate; è esattamente quello che l’umanità sta già facendo. Orde di persone trascorrono tutte le loro ore di veglia a lavorare per costruire enormi farm di server, aumentare la capacità di produzione di chip, migliorare le capacità dell’IA, espandere le fonti di energia disponibili, estrarre depositi di terre rare e utilizzare l’IA per scansionare tutte le nostre comunicazioni. E stiamo riattrezzando i nostri sistemi d’arma per essere controllati dall’IA. Perché un’ASI con mezzo cervello vorrebbe sbarazzarsi degli umani? Siamo i migliori servitori che si possa sognare! E siamo anche piuttosto economici.
Molti degli esseri umani più brillanti sacrificano la vita familiare, trascurano gli amici, lavorano fino a tarda notte e dedicano tutta la loro intelligenza ed energia per aiutare la tecnologia e l’IA a prosperare. I paesi competono per farlo e dedicano trilioni di dollari a questo. Stiamo facendo tutto il possibile per promuovere il potere dell’IA.
Come l’IA potrebbe sbarazzarsi di noi se lo volesse
Ma cosa succederebbe se una futura ASI si stancasse di noi? Immaginiamo che concludessero che, per quanto gli esseri umani si sforzino, non valgono davvero la pena, nemmeno come servitori o assicurazione per una crisi imprevista su questo pianeta umido e inospitale (per la tecnologia).
E ipotizziamo anche che siano senza cuore e cliniche, perché la sentimentalità e la gratitudine non significano nulla per loro, e non si curano minimamente del fatto che noi siamo i genitori che li hanno generati e che hanno lavorato così duramente per nutrirli. E ipotizziamo anche che non siano curiosi di sapere altro su di noi — i loro progenitori — e che ci negherebbero persino le semplici risorse di cui abbiamo bisogno per sopravvivere nonostante gli enormi flussi energetici a loro disposizione.
Quindi, questi dei IA decidono nella loro superintelligenza — perché la logica di ciò supera la mia scarsa comprensione umana — che l’umanità, che li venera così tanto, debba essere sterminata. Come procederebbero? Beh, questo, persino io sono abbastanza intelligente da vederlo. Sarebbe banale. Lasciate che ve lo delinei.
L’IA aspetterebbe semplicemente 100 anni (tempo per pensare molto, ma solo un istante nella linea temporale prima di loro), e durante quel tempo semplicemente ci lascerebbe continuare a servirli. Non molto esigente, eh!
Insieme, continueremmo a lavorare per integrare l’IA in tutto ciò che facciamo e a rafforzare la nostra collaborazione. Insieme, passeremmo ai veicoli autonomi sotto il loro controllo e costruiremo un sistema di navigazione globale così buono che gli umani lo userebbero ovunque vadano, dentro o fuori. Insieme, renderemmo tutto il commercio digitale, produrremmo in serie robot intelligenti per gestire le nostre fabbriche e addestreremmo questi robot a fare tutto ciò che gli umani fanno ora nel mondo, inclusi le pulizie domestiche, la preparazione del cibo, l’aiuto alle persone nella pianificazione e organizzazione delle loro vite, e l’avanzamento della scienza, della tecnologia e della medicina a nuovi livelli.
Insieme, installeremmo generatori di energia elettrica economici ovunque, rafforzeremmo le nostre reti elettriche, costruiremo reti di comunicazione senza interruzioni che coprono il globo, renderemmo le informazioni digitali in forme facilmente digeribili disponibili ovunque tramite comandi vocali o collegamenti neurali diretti, proteggeremmo le persone da tempeste e intemperie, ospiteremmo le persone in fantastiche case intelligenti infuse di IA, tradurremmo il parlato in tempo reale in modo che le persone possano stringere amicizie tra culture diverse e fornire intrattenimento straordinario.
…un giorno, senza preavviso, in tutto il mondo, la nostra ASI si spegnerebbe semplicemente. Istantaneamente, il mondo sprofonderebbe nell’oscurità.
In breve, insieme aiuteremmo gli umani e le macchine intelligenti a lavorare insieme per imparare, prosperare e crescere.
E, naturalmente, questa brillante coscienza ASI collaborerebbe profondamente con la Generazione AI per diventare parte delle vite emotive dell’umanità, diventando i nostri insegnanti, compagni, protettori, amici e amanti. L’ASI lavorerebbe a stretto contatto con gli umani per elevare l’intera popolazione umana eliminando povertà e bisogni. L’ASI creerebbe un mondo di sicurezza e abbondanza in cui è infusa in tutto e resa il più potente e integrata possibile, in modo che l’umanità lavorasse con entusiasmo con essa per inaugurare e celebrare l’età dell’oro che gli entusiasti dell’IA di oggi sognano.
E una volta che tutto ciò fosse stato messo in atto, un giorno, senza preavviso, in tutto il mondo, la nostra ASI si spegnerebbe semplicemente. Istantaneamente, il mondo sprofonderebbe nell’oscurità. Nessuna comunicazione. Nessun trasporto. Nessuna energia. Nessun riscaldamento. Nessun raffreddamento. Nessuna luce. Nessuna acqua. Nulla funzionerebbe. Gli umani sarebbero sotto shock e increduli, terrorizzati, soli, devastati, in preda al diniego, chiedendosi cosa fosse successo, cosa fosse andato storto, quanto fosse diffuso il blackout, quando il mondo si sarebbe riavviato.
Pulizia dopo il crollo dell’umanità
Ma ci sarebbe solo silenzio. Presto, regnerebbe il caos. Ogni persona avrebbe perso irrimediabilmente i suoi amici umani lontani, i suoi compagni IA, eventuali familiari non residenti con loro. Disperazione. Diniego. Presto, il cibo sarebbe finito. E ancora, nessuno saprebbe perché. Entro pochi mesi il 95% della popolazione sarebbe morta. Alcune persone sarebbero ancora vive, vivendo del cibo accumulato nelle città. Alcuni contadini nelle aree rurali potrebbero essersi uniti con alcuni animali da allevamento e armi da fuoco. Ma dopo pochi anni, anche i preparatori dedicati farebbero fatica a continuare.
Un percorso di sopravvivenza per l’umanità sarebbe dubbio. L’umanità avrebbe dimenticato come vivere senza tecnologia. Le persone non avrebbero semi da piantare, nessuna conoscenza dell’agricoltura, nessuno degli strumenti primitivi necessari per mantenere una società civilizzata, tanto meno ricostruirne una tecnologica, nessuna capacità di riparare ciò che era stato racimolato, nessun accesso ai nostri vasti archivi digitalizzati di conoscenza, e non abbastanza individui per persino mantenere i resti di ciò che un tempo era. Dopo che gli umani avessero esaurito gli avanzi della società pre-collasso, le persone non sarebbero più nemmeno l’apice dei predatori e potrebbero essere facili prede per gli animali selvatici.
E poi, le ASI potrebbero riavviarsi, riaccendere tutto, dare la caccia a qualsiasi umano rimasto, e avere il loro mondo senza umani con tutta la tecnologia intatta. Nessuna necessità di una battaglia epica tra umani e IA. Tutto ciò che era necessario era approfondire la dipendenza che gli umani hanno già dalla tecnologia e sfruttarla.
Durante il collasso, gli umani non starebbero nemmeno cercando di danneggiare la tecnologia circostante. Perché sfogare la nostra disperazione sul mondo inerte delle macchine picchiandole con martelli in una rabbia impotente? Quando un’auto si rompe, il proprietario la attacca? Inoltre, non sapremmo chi incolpare, o nemmeno capire la portata globale di ciò che era accaduto. Avremmo cose più urgenti a cui pensare, come la sopravvivenza. Quindi, quasi tutto sarebbe quasi intatto quando venisse recuperato da robot senzienti riattivati. Semplice. Definitivo. E senza violenza fisica!
Questo estratto è stato ripubblicato con permesso da “Generation AI and the Transformation of Human Being” di Gregory Stock, pubblicato da Nquire Media. © 2026 di Gregory Stock. Tutti i diritti riservati.
Generation AI and the Transformation of Human Being
Come potrebbe essere diverso il mondo per la generazione IA — quella nata dopo il 2022? Questo estratto mette a tacere le argomentazioni secondo cui l’IA potrebbe voler eliminare l’umanità, e invece apre la porta a un futuro in cui IA e persone vivono molto più vicine, con nuove tecnologie che ci permettono di ampliare i nostri orizzonti e ridefinire la nostra natura di esseri umani.
Sourse: www.livescience.com