Dune van Frank Herbert is niet alleen een sci-fi-epos over gigantische wormen en ruimtevaart vol specerijen. Begraven in het uitgestrekte universum ligt een huiveringwekkend vooruitziende verhaallijn: de Butleriaanse Jihad. Deze historische gebeurtenis in de Dune -canon beeldt een meedogenloze, eeuwenlange oorlog af waarin de mensheid systematisch alle geavanceerde computers, kunstmatige intelligentie en ‘denkmachines’ vernietigde.
Maar de reden was niet dat robots zich tegen hun scheppers keerden. In plaats daarvan was de echte dreiging de concentratie van macht in de handen van degenen die de AI controleerden. Herbert stelde zich een toekomst voor waarin technocraten regeerden door middel van algoritmen, en niet door middel van geweld. De mensheid was niet bang voor de machines zelf; ze waren bang voor de mensen die ze hanteerden.
“Ooit richtten mensen hun denken op machines, in de hoop dat dit hen zou bevrijden. Maar daardoor konden andere mannen met machines hen alleen maar tot slaaf maken.”
Deze passage, die nu op sociale media circuleert, resoneert op griezelige wijze met hedendaagse zorgen. De Jihad culmineerde in een volledig verbod op kunstmatige geesten, vastgelegd in het universele gebod: ‘Gij zult geen machine maken die lijkt op een menselijke geest.’ Dit ging niet over de terreur van de Luddieten; het ging over het voorkomen van een toekomst waarin ongecontroleerde technologische autoriteit de individuele autonomie verpletterde.
Hoewel de bedoeling van Herbert niet noodzakelijkerwijs voorspellend was, dient het verhaal als een duidelijke herinnering. Het gevaar is niet noodzakelijkerwijs de opkomst van kunstmatige intelligentie, maar het potentieel dat AI een instrument voor geconcentreerde controle kan worden. Zelfs als er geen sprake is van volledige onderwerping, wijst opkomend onderzoek erop dat een te groot vertrouwen in deze systemen onze cognitieve vermogens al kan aantasten.
Dune waarschuwt niet voor AI; het waarschuwt voor de ongecontroleerde macht van degenen die het bouwen en inzetten. Het echte gevecht is misschien niet tegen de machines, maar tegen de structuren die enkelen in staat stellen de velen via hen te controleren.
