Aviso de Duna: Por que a humanidade teme aqueles que controlam a IA, e não a própria IA

21

Duna de Frank Herbert não é apenas um épico de ficção científica sobre vermes gigantes e viagens espaciais movidas a especiarias. Enterrado em seu vasto universo está um enredo assustadoramente presciente: a Jihad Butleriana. Este evento histórico no cânone Dune retrata uma guerra brutal que durou um século, onde a humanidade destruiu sistematicamente todos os computadores avançados, inteligência artificial e “máquinas pensantes”.

Mas a razão não foram os robôs se voltando contra seus criadores. Em vez disso, a verdadeira ameaça era a concentração de poder nas mãos daqueles que controlavam a IA. Herbert imaginou um futuro onde os tecnocratas governassem através de algoritmos, não através da força. A humanidade não temia as próprias máquinas; eles temiam as pessoas que os empunhavam.

“Uma vez que os homens entregaram seus pensamentos às máquinas na esperança de que isso os libertasse. Mas isso apenas permitiu que outros homens com máquinas os escravizassem.”

Esta passagem, que agora circula nas redes sociais, ressoa estranhamente com as preocupações contemporâneas. A Jihad culminou com a proibição total de mentes artificiais, consagrada no mandamento do universo: “Não farás uma máquina à semelhança de uma mente humana.” Não se tratava de terror ludita; tratava-se de prevenir um futuro onde a autoridade tecnológica desenfreada esmagasse a autonomia individual.

Embora a intenção de Herbert não fosse necessariamente preditiva, a história serve como um lembrete claro. O perigo não é necessariamente o surgimento da inteligência artificial, mas o potencial da IA ​​para se tornar uma ferramenta de controle concentrado. Mesmo que a subjugação em grande escala não se concretize, pesquisas emergentes sugerem que a dependência excessiva destes sistemas pode já estar a desgastar as nossas capacidades cognitivas.

Dune não alerta contra IA; alerta contra o poder desenfreado daqueles que o constroem e implantam. A verdadeira luta pode não ser contra as máquinas, mas contra as estruturas que permitem que alguns controlem muitos através delas.