Amenaza de la inteligencia artificial: la visión de Yuval Noah Harari

¿Qué te viene a la mente cuando piensas en el 🌧️ inminente apocalipsis de la inteligencia artificial (AI)? Si eres aficionado a las clichés de las películas de ciencia ficción, puede 🌧️ que imagines robots asesinos (con o sin acentos austriacos gruesos) sublevándose para exterminar a sus creadores arrogantes. O quizás, como 🌧️ en The Matrix, elijas máquinas aterradoras que succionen la energía de nuestros cuerpos mientras nos distraen con una realidad simulada.

Para 🌧️ Yuval Noah Harari, quien ha pasado mucho tiempo preocupándose por la AI en la última década, la amenaza es menos 🌧️ fantasiosa y más sutil. "Para manipular a los humanos, no es necesario conectar físicamente los cerebros a las computadoras", escribe 🌧️ en su nuevo y fascinante libro Nexus. "Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje para 🌧️ manipular y dar forma a la sociedad. Ahora, las computadoras están aprendiendo a hacerlo. Y no necesitarán enviar robots asesinos 🌧️ a dispararnos. Podrían manipular a los seres humanos para que aprieten el gatillo."

La importancia del lenguaje y la capacidad humana 🌧️ de tejer historias

El lenguaje y la habilidad humana de tejer historias a partir de él son fundamentales en la comprensión 🌧️ que tiene el historiador israelí, autor de cuatro libros de ciencia popular, de nuestra especie y sus vulnerabilidades. En su 🌧️ éxito de ventas de 2014 Sapiens (publicado originalmente en hebreo en 2011), argumentó que los humanos se volvieron dominantes porque 🌧️ aprendieron a cooperar en grandes números, gracias a una nueva habilidad para contar historias. Esa habilidad, que permitió a nuestros 🌧️ antepasados creer en cosas completamente imaginarias, está en la raíz de nuestras religiones, economías y naciones, las cuales se disolverían 🌧️ si nuestras facultades de tejer historias fueran alguna vez apagadas.

Sapiens ha vendido 25 millones de copias hasta la fecha, un 🌧️ testimonio del propio talento narrativo de Harari, aunque ha tenido sus críticos. Académicos que cuestionaron su precisión y la idea 🌧️ de comprimir 70.000 años de historia humana en 450 páginas. Sitcoms que se burlaron de los fanáticos de Harari que 🌧️ agitan el libro como una especie de biblia moderna. El atractivo de Sapiens radica en su alcance abrumador, pero, como 🌧️ un perfil de 2024 en el New Yorker señaló, el enfoque zoomado de Harari puede minimizar la importancia de los 🌧️ asuntos actuales.

La era de las redes de información

Nexus podría considerarse como una respuesta a esa crítica. Aunque ejecuta su propio 🌧️ recorrido vertiginoso a través de los milenios, saltando hacia adelante y hacia atrás en el tiempo y entre continentes, está 🌧️ muy preocupado por lo que está sucediendo hoy.

Si las historias eran fundamentales para el esquema de Sapiens, aquí se trata 🌧️ de redes de información, las cuales Harari ve como las estructuras básicas que subyacen a nuestras sociedades. "El poder siempre 🌧️ proviene de la cooperación entre grandes números de humanos", escribe, y el "pegamento" que mantiene unidas estas redes de cooperación 🌧️ es la información, la cual "muchos filósofos y biólogos" ven como "el bloque de construcción más básico de la realidad".

Pero 🌧️ la información no siempre dice la verdad sobre el mundo. Más bien, enfatiza Harari, da lugar a ficciones, fantasías y 🌧️ delusiones masivas, las cuales conducen a tales desarrollos catastróficos como el nazismo y el estalinismo.

¿Por qué Homo sapiens, para todos 🌧️ sus éxitos evolutivos, es tan perennemente autodestructivo? "La culpa", según Harari, "no está en nuestra naturaleza, sino en nuestras redes 🌧️ de información."

Su punto básico es que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 🌧️ siempre vienen con un costo.

Al echar un vistazo a cómo la información nos ha llevado astray en el pasado, Harari 🌧️ no tiene escasez de ejemplos en los que apoyarse. Uno de los más memorablemente grotescos es Malleus Maleficarum, escrito por 🌧️ el fraile dominico Heinrich Kramer en la Austria de la década de 1480. Una guía para descubrir y asesinar brujas 🌧️ de manera horrible, el libro no habría viajado lejos de no ser por la invención de la imprenta unos pocos 🌧️ decenios antes, la cual permitió que las ideas desquiciadas de Kramer se extendieran por Europa, avivando una fiebre de caza 🌧️ de brujas.

Harari hace hincapié en que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 🌧️ siempre vienen con un costo. Cuando inventamos nuevas tecnologías brillantes que llevan palabras e ideas más lejos y más rápido 🌧️ que nunca antes, mucha de la información que sale es basura o activemente peligrosa. No se ayuda al hecho de 🌧️ que, cuando se trata de mantener el orden social, las ficciones tienden a ser agentes de unión más confiables que 🌧️ las verdades.

Lo que es aterrador sobre la revolución de la AI no es solo que seremos abrumados por la desinformación 🌧️ de los chatbots, o que las autoridades utilizarán para espiar nuestras vidas privadas. A diferencia de tecnologías anteriores como los 🌧️ libros y las radios, escribe Harari: "La AI es la primera herramienta que es capaz de tomar decisiones y generar 🌧️ ideas por sí misma." Vimos una advertencia temprana de esto en Myanmar en 2024-17, cuando los algoritmos de Facebook, encargados 🌧️ de maximizar la participación del usuario, respondieron promoviendo propaganda de odio antir Rohingya que avivó el asesinato en masa y 🌧️ la limpieza étnica.

Harari hace un caso sólido sobre por qué debemos considerar tales algoritmos como agentes autónomos y cómo, si 🌧️ no tenemos cuidado, los humanos podríamos convertirnos en herramientas que la AI manipule con una fuerza cada vez más terrible. 🌧️ A menos que tomemos medidas inmediatas, este creciente "intelecto extraterrestre", como prefiere llamarlo, podría desencadenar catástrofes que ni siquiera podamos 🌧️ imaginar, incluida la destrucción de la civilización humana.

Esta visión pesimista de la AI no es nueva: "alarmistas" como Eliezer Yudkowsky 🌧️ han advertido de su potencial apocalíptico durante años, e incluso la industria de la AI ha comenzado a expresar preocupaciones. 🌧️ Lo que Harari busca agregar al debate es la perspectiva a largo plazo. Al aplicar su lente a revoluciones de 🌧️ información anteriores y mostrar cómo diferentes formas de gobierno han reaccionado a ellas, cree que podemos prepararnos para los terremotos 🌧️ por venir.

Nexus tiene algunas curiosas lagunas; es extraño, en una crítica de una tecnología impulsada en gran medida por corporaciones 🌧️ centradas en el beneficio, que el capitalismo apenas se mencione en absoluto. Pero ya sea que estés de acuerdo o 🌧️ no con el marco histórico de Harari sobre la AI, es difícil no impresionarse por la meticulosidad con la que 🌧️ lo construye, salpicando lo que podría ser un análisis rather dry con ejemplos vívidos, como la historia de Cher Ami, 🌧️ un paloma mensajera de la Primera Guerra Mundial, utilizada aquí para desentrañar la fundamental resbaladiza de la información. Como en 🌧️ libros anteriores, se apoya heavily en listas ("los dos desafíos principales", "los cinco principios básicos") y binarios (verdad versus orden, 🌧️ democracia versus dictadura), pero esto sirve para organizar su pensamiento en lugar de aburrir la escritura.

Las soluciones que propone para 🌧️ restringir el poder de la AI van desde lo sensato (prohibir a los bots que se hagan pasar por humanos) 🌧️ a lo risible (animar a los artistas y burócratas a "cooperar" para ayudar al resto de nosotros a comprender la 🌧️ red de computadoras), pero Nexus opera principalmente como un diagnóstico y una llamada a la acción, y en esos términos 🌧️ es ampliamente exitoso. Si se vende tan bien como Sapiens lo hizo, estaremos un poco mejor equipados como especie para 🌧️ enfrentar el auge de las máquinas.