En este libro Harari se dedica a reconstruir la historia de la información y, en particular, a analizar el “lado oscuro” de la IA. Si bien reconoce que esta tiene usos positivos, también señala los riesgos que el desarrollo de la IA podría tener para las democracias.
El autor señala que el poder de la inteligencia artificial podría sobrecargar los conflictos humanos ya existentes y dividir a la humanidad en una lucha contra sí misma. Así como en el Siglo XX el telón de acero dividió a las potencias rivales durante la Guerra Fría, en el Siglo XXI el telón de silicio
–constituido por chips de silicio y códigos informáticos en lugar de poner alambre de espino– podría llegar a dividir a las potencias rivales en un nuevo conflicto global.
También porque el telón de silicio podría no generar una división entre dos grupos humanos, sino más bien entre los humanos y nuevos jefes supremos de la inteligencia artificial. Harari señala que con independencia de dónde vivamos, podríamos vernos envueltos por una red de algoritmos incomprensibles cuya función sería gestionar nuestras vidas, remodelar nuestras políticas y nuestras culturas e incluso rediseñar nuestro cuerpo y nuestra mente.
Añade que si un error totalitario del Siglo XXI consigue conquistar el mundo, puede que no se encuentre gobernado por un dictador de carne y hueso, sino por una inteligencia no humana, por lo tanto, aquellos que señalan a China, a Rusia o a Estados Unidos post democráticos como fuente principal de pesadillas totalitarias malinterpretan el peligro. “De hecho chinos, rusos, estadounidenses y el resto del mundo nos hallamos amenazados conjuntamente por el patencial totalitario de la inteligencia no humana”.
Dada la magnitud del peligro, el autor señla que la inteligencia artificial debería ser un tema de interés para todos los seres humanos, ya que podría convertir la información en un arma. ¿Cómo se puede aplicar la evolución de la inteligencia artificial a las democracias, al totalitarismo, al populismo?
Esa relación es la que aborda el autor en Nexus, un libro que se divide en dos partes que nos recuerdan que las sociedades democráticas aún tienen medios para evitar los excesos más peligrosos de la inteligencia artificial, y que no debemos dejar que las empresas tecnológicas y sus multimillonarios propietarios se autorregulen.