Advertencia de Dune: Por qué la humanidad teme a quienes controlan la IA, no a la IA misma

18

Dune de Frank Herbert no es sólo una epopeya de ciencia ficción sobre gusanos gigantes y viajes espaciales alimentados con especias. Enterrada dentro de su extenso universo hay una historia escalofriantemente profética: la Jihad Butleriana. Este evento histórico en el canon Dune describe una guerra brutal que duró un siglo en la que la humanidad destruyó sistemáticamente todas las computadoras avanzadas, la inteligencia artificial y las “máquinas pensantes”.

Pero la razón no fue que los robots se volvieran contra sus creadores. En cambio, la verdadera amenaza era la concentración de poder en manos de quienes controlaban la IA. Herbert imaginó un futuro en el que los tecnócratas gobernarían mediante algoritmos, no mediante la fuerza. La humanidad no temía a las máquinas mismas; temían a la gente que los empuñaba.

“Una vez los hombres entregaron su pensamiento a las máquinas con la esperanza de que esto los liberaría. Pero eso sólo permitió que otros hombres con máquinas los esclavizaran.”

Este pasaje, que ahora circula en las redes sociales, resuena inquietantemente con las preocupaciones contemporáneas. La Jihad culminó con una prohibición total de las mentes artificiales, consagrada en el mandamiento del universo: “No harás una máquina a semejanza de una mente humana”. No se trataba de terror ludita; se trataba de prevenir un futuro en el que la autoridad tecnológica desenfrenada aplastara la autonomía individual.

Si bien la intención de Herbert no fue necesariamente predictiva, la historia sirve como un claro recordatorio. El peligro no es necesariamente el surgimiento de la inteligencia artificial, sino el potencial de que la IA se convierta en una herramienta para el control concentrado. Incluso si no se materializa una subyugación a gran escala, las investigaciones emergentes sugieren que la dependencia excesiva de estos sistemas puede ya estar erosionando nuestras capacidades cognitivas.

Dune no advierte contra la IA; advierte contra el poder desenfrenado de quienes lo construyen y lo implementan. La verdadera lucha puede que no sea contra las máquinas, sino contra las estructuras que permiten a unos pocos controlar a muchos a través de ellas.