Dune de Frank Herbert n’est pas seulement une épopée de science-fiction sur les vers géants et les voyages spatiaux alimentés par les épices. Enfoui dans son univers tentaculaire se trouve un scénario effrayant et prémonitoire : le Jihad Butlérien. Cet événement historique dans le canon Dune dépeint une guerre brutale d’un siècle au cours de laquelle l’humanité a systématiquement détruit tous les ordinateurs avancés, l’intelligence artificielle et les « machines pensantes ».
Mais la raison n’était pas que les robots se retournaient contre leurs créateurs. Au lieu de cela, la véritable menace était la concentration du pouvoir entre les mains de ceux qui contrôlaient l’IA. Herbert imaginait un avenir où les technocrates gouverneraient par des algorithmes et non par la force. L’humanité n’avait pas peur des machines elles-mêmes ; ils craignaient les gens qui les brandissaient.
” Autrefois, les hommes confiaient leur réflexion aux machines dans l’espoir que cela les libérerait. Mais cela ne faisait que permettre à d’autres hommes dotés de machines de les asservir. ”
Ce passage, qui circule désormais sur les réseaux sociaux, résonne étrangement avec les préoccupations contemporaines. Le Jihad a culminé avec l’interdiction totale des esprits artificiels, inscrite dans le commandement de l’univers : « Tu ne fabriqueras pas de machine à l’image d’un esprit humain ». Il ne s’agissait pas ici de terreur luddite ; il s’agissait de empêcher un avenir où une autorité technologique incontrôlée écrasait l’autonomie individuelle.
Même si l’intention d’Herbert n’était pas nécessairement prédictive, l’histoire sert de rappel brutal. Le danger ne vient pas nécessairement de l’essor de l’intelligence artificielle, mais plutôt du potentiel de l’IA à devenir un outil de contrôle concentré. Même si l’assujettissement à grande échelle ne se matérialise pas, de nouvelles recherches suggèrent qu’une dépendance excessive à l’égard de ces systèmes pourrait déjà éroder nos capacités cognitives.
Dune ne met pas en garde contre l’IA ; il met en garde contre le pouvoir incontrôlé de ceux qui le construisent et le déploient. Le vrai combat n’est peut-être pas contre les machines, mais contre les structures qui permettent à quelques-uns de contrôler le plus grand nombre à travers elles.
