Роман Френка Герберта Дюна – це не просто науково-фантастична епопея про гігантські хробаки і космічні подорожі, що підживлюються пряністю. У його розгалуженому всесвіті прихована страшно пророча сюжетна лінія: Джихад Батлеров. Ця історична подія в каноні Дюни зображує жестову, вікову війну, в ході якої людство систематично знищило всі передові комп’ютери, штучний інтелект і мислячі машини.
Але причина не в тому, що роботи повстали проти своїх творців. Навпаки, реальна загроза полягала у концентрації влади у руках тих, хто контролював ІІ. Герберт представив майбутнє, де технологічні бюрократи правили у вигляді алгоритмів, а чи не сили. Людство не боялося самих машин; воно боялося людей, які їх використовують.
«Одного разу люди довірили свої думки машинам, сподіваючись, що це звільнить їх. Але це лише дозволило іншим людям з машинами поневолити їх».
Цей уривок, який зараз розповсюджується в соціальних мережах, дуже перегукується з сучасними побоюваннями. Джихад завершився повною забороною на штучний розум, закріпленим у внутрішньосвітовому заповіді: «Не створи собі машину на кшталт людського розуму». Йшлося не про луддитський терор; йшлося про запобігання майбутньому, в якому необмежена технологічна влада придушує індивідуальну автономію.
Хоча Герберт, можливо, і не прагнув пророцтв, ця історія служить різким нагадуванням. Небезпека полягає не обов’язково у повстанні штучного інтелекту, а у потенціалі ІІ стати інструментом концентрованого контролю. Навіть якщо повномасштабне підпорядкування не відбудеться, нові дослідження показують, що надмірна залежність від цих систем може підривати наші когнітивні здібності.
Дюна не застерігає від ІІ; вона застерігає від необмеженої влади тих, хто створює та використовує його. Реальна боротьба, можливо, не проти машин, а проти структур, що дозволяють небагатьом контролювати багатьох за допомогою них.
