Román Duna od Franka Herberta je víc než jen sci-fi epos o obřích červech a cestování vesmírem poháněném kořením. V jeho rozvětveném vesmíru se skrývá děsivě prorocký příběh: Služebník džihád. Tato historická událost v kánonu Duna zobrazuje násilnou, staletí trvající válku, ve které lidstvo systematicky ničilo všechny pokročilé počítače, umělou inteligenci a „myslící stroje“.
Důvodem ale nebylo to, že by se roboti vzbouřili proti svým stvořitelům. Místo toho byla skutečnou hrozbou koncentrace moci v rukou těch, kteří ovládali AI. Herbert si představoval budoucnost, kde by technologičtí byrokraté vládli spíše pomocí algoritmů než silou. Lidstvo se nebálo samotných strojů; bál se lidí, kteří je používají.
“Lidé kdysi svěřili své myšlenky strojům v naději, že je to osvobodí. Ale to jen umožnilo ostatním lidem se stroji, aby je zotročili.”
Pasáž, která nyní koluje na sociálních sítích, děsivě odráží současné obavy. Džihád skončil úplným zákazem umělé inteligence, zakotveným v přikázání uvnitř světa: „Nevytvářejte pro sebe stroj podobný lidské mysli. Tady nešlo o luddistický teror; šlo o zabránění budoucnosti, ve které neomezená technologická moc potlačuje individuální autonomii.
I když Herbert možná neměl v úmyslu předpovídat, tento příběh slouží jako dojemná připomínka. Nebezpečí nespočívá nutně ve vzestupu umělé inteligence, ale v potenciálu umělé inteligence stát se nástrojem koncentrované kontroly. I když nedojde k úplné shodě, nový výzkum naznačuje, že přílišné spoléhání na tyto systémy již může podkopávat naše kognitivní schopnosti.
Duna nevaruje před AI; varuje před neomezenou mocí těch, kdo ji tvoří a používají. Skutečný boj nemusí být proti strojům, ale proti strukturám, které několika málo lidem umožňují jejich prostřednictvím ovládat mnohé.
