Powieść Franka Herberta Diuna to coś więcej niż tylko epos science-fiction o gigantycznych robakach i podróżach kosmicznych napędzanych przyprawami. W jego rozgałęzionym wszechświecie ukryta jest przerażająco prorocza fabuła: Dżihad Butlera. To historyczne wydarzenie w kanonie Wydmy przedstawia brutalną, wielowiekową wojnę, podczas której ludzkość systematycznie niszczyła wszystkie zaawansowane komputery, sztuczną inteligencję i „myślące maszyny”.
Ale powodem nie było to, że roboty zbuntowały się przeciwko swoim twórcom. Zamiast tego prawdziwym zagrożeniem była koncentracja władzy w rękach tych, którzy kontrolowali sztuczną inteligencję. Herbert wyobrażał sobie przyszłość, w której technologiczni biurokraci będą rządzić za pomocą algorytmów, a nie siły. Ludzkość nie bała się samych maszyn; bał się ludzi, którzy ich używali.
“Kiedyś ludzie powierzali swoje myśli maszynom w nadziei, że to ich wyzwoli. Ale to pozwoliło tylko innym ludziom z maszynami zniewolić ich.”
Fragment, który krąży obecnie w mediach społecznościowych, w niesamowity sposób nawiązuje do współczesnych obaw. Dżihad zakończył się całkowitym zakazem sztucznej inteligencji, zapisanym w wewnątrzświatowym przykazaniu: „Nie twórzcie sobie maszyny na podobieństwo ludzkiego umysłu”. Tu nie chodziło o luddyjski terror; chodziło o zapobieganie przyszłości, w której nieograniczona władza technologiczna tłumi indywidualną autonomię.
Chociaż Herbert mógł nie mieć zamiaru przewidywać, ta historia służy jako przejmujące przypomnienie. Niebezpieczeństwo niekoniecznie polega na rozwoju sztucznej inteligencji, ale na jej potencjale, aby stać się narzędziem skoncentrowanej kontroli. Nawet jeśli nie nastąpi pełna zgodność, nowe badania sugerują, że nadmierne poleganie na tych systemach może już osłabiać nasze zdolności poznawcze.
Dune nie ostrzega przed sztuczną inteligencją; ostrzega przed nieograniczoną władzą tych, którzy ją tworzą i wykorzystują. Prawdziwa walka może nie toczyć się przeciwko maszynom, ale przeciwko strukturom, które pozwalają nielicznym kontrolować za ich pośrednictwem wielu.
