Dune di Frank Herbert non è solo un’epopea di fantascienza su vermi giganti e viaggi spaziali alimentati da spezie. Sepolta nel suo vasto universo c’è una trama agghiacciante e preveggente: la Jihad Butleriana. Questo evento storico nel canone Dune descrive una brutale guerra durata un secolo in cui l’umanità ha sistematicamente distrutto tutti i computer avanzati, l’intelligenza artificiale e le “macchine pensanti”.
Ma il motivo non era che i robot si rivoltassero contro i loro creatori. Invece, la vera minaccia era la concentrazione del potere nelle mani di coloro che controllavano l’intelligenza artificiale. Herbert immaginava un futuro in cui i tecnocrati governassero attraverso gli algoritmi, non con la forza. L’umanità non temeva le macchine stesse; temevano le persone che li maneggiavano.
“Una volta gli uomini rivolgevano il loro pensiero alle macchine nella speranza che questo li rendesse liberi. Ma questo permetteva solo ad altri uomini con macchine di schiavizzarli.”
Questo passaggio, che ora circola sui social media, risuona stranamente con le preoccupazioni contemporanee. La Jihad culminò con il divieto totale delle menti artificiali, sancito nel comandamento dell’universo: “Non creare una macchina a somiglianza di una mente umana”. Non si trattava del terrore luddista; si trattava di prevenire un futuro in cui l’autorità tecnologica incontrollata schiacciasse l’autonomia individuale.
Anche se l’intento di Herbert non era necessariamente predittivo, la storia funge da forte promemoria. Il pericolo non è necessariamente l’aumento dell’intelligenza artificiale, ma il potenziale per l’intelligenza artificiale di diventare uno strumento di controllo concentrato. Anche se la sottomissione su vasta scala non si materializza, la ricerca emergente suggerisce che l’eccessivo affidamento a questi sistemi potrebbe già erodere le nostre capacità cognitive.
Dune non avvisa contro l’IA; mette in guardia contro il potere incontrollato di coloro che lo costruiscono e lo dispiegano. La vera lotta potrebbe non essere contro le macchine, ma contro le strutture che permettono a pochi di controllare molti attraverso di esse.
