Роман Фрэнка Герберта Дюна – это не просто научно-фантастическая эпопея о гигантских червях и космических путешествиях, подпитываемых пряностью. В его разветвленной вселенной скрыта пугающе пророческая сюжетная линия: Джихад Батлеров. Это историческое событие в каноне Дюны изображает жестовую, вековую войну, в ходе которой человечество систематически уничтожило все передовые компьютеры, искусственный интеллект и «мыслящие машины».
Но причина заключалась не в том, что роботы восстали против своих создателей. Напротив, реальная угроза заключалась в концентрации власти в руках тех, кто контролировал ИИ. Герберт представил будущее, где технологические бюрократы правили посредством алгоритмов, а не силы. Человечество не боялось самих машин; оно боялось людей, использующих их.
«Однажды люди доверили свои мысли машинам в надежде, что это освободит их. Но это лишь позволило другим людям с машинами поработить их».
Этот отрывок, сейчас распространяющийся в социальных сетях, жутко перекликается с современными опасениями. Джихад завершился полным запретом на искусственный разум, закрепленным во внутримировом заповеди: «Не сотвори себе машину в подобии человеческого разума». Речь шла не о луддитском терроре; речь шла о предотвращении будущего, в котором неограниченная технологическая власть подавляет индивидуальную автономию.
Хотя Герберт, возможно, и не стремился к предсказаниям, эта история служит резким напоминанием. Опасность заключается не обязательно в восстании искусственного интеллекта, а в потенциале ИИ стать инструментом концентрированного контроля. Даже если полномасштабное подчинение не произойдет, новые исследования показывают, что чрезмерная зависимость от этих систем уже может подрывать наши когнитивные способности.
Дюна не предостерегает от ИИ; она предостерегает от неограниченной власти тех, кто создает и использует его. Реальная борьба, возможно, не против машин, а против структур, позволяющих немногим контролировать многих посредством них.
