EN la introducción de su libro Nexus, Harari ofrece un prisma de sus vaticinios, respecto a la influencia que ejercerá la Inteligencia Artificial, con poder para construir o para destruir –no que acá en este público desentendido de todo lo que ocurre en el mundo y a su alrededor inquieten estos fenómenos que influyen, para bien o para mal, en el destino de la humanidad– con la siguiente metáfora: “En 1797, el escritor alemán Johann Wolfgang von Goethe escribió un poema que capta una visión persistente de la relación entre la información y el poder: “El aprendiz de brujo” (“Der Zauberlehrling”) es ese poema narrativo del escritor y filósofo alemán”. “La historia cuenta la travesura de un aprendiz de magia que, en ausencia de su maestro, decide usar los hechizos que ha aprendido para facilitarse el trabajo”. “Su objetivo es hacer que una escoba mágica lleve agua por él, liberándolo de la tediosa tarea de acarrear cubetas”. “Una vez que la escoba comienza sus faenas, el aprendiz se da cuenta de que no sabe cómo detenerla”. “Desesperado, con un hacha, intenta romperla en pedazos, pero cada trozo se regenera en una nueva escoba que sigue trayendo agua”. “La situación se descontrola por completo hasta que, finalmente, regresa el maestro, anula el hechizo y restablece el orden”. “Es el brujo, cuando se percata de lo que ha hecho su aprendiz, quien utiliza su magia para deshacer el caos”.
Las premisas de la historia: “El aprendiz hace un mal uso del hechizo después de probarlo, lo que sugiere que la psicología individual nos lleva a hacer un mal uso del poder”. “El brujo interviene para arreglar el desastre, lo que implica que cuando invocamos fuerzas fuera de control, una figura sobrehumana puede resolver el problema”. “Ambas conclusiones –comenta Yuval– son erróneas». “Mientras la humanidad siga el modelo de poder del «aprendiz de brujo», nos encaminaremos hacia la destrucción”. “La humanidad –en términos metafóricos– ha desatado innumerables «escobas encantadas». “Hemos desequilibrado el clima, hemos invocado tecnologías como los drones y la inteligencia artificial y hemos alimentado ideologías destructivas, pero seguimos actuando como si la figura de un brujo fuera a solucionarlo todo”. La cruda realidad es “que no va a venir ningún brujo, y ninguna persona o grupo es el único responsable de resolver estos problemas”. “Nuestra tendencia a invocar fuerzas incontrolables surge de cómo actuamos juntos, como parte de redes más grandes”. Al borde de una revolución de la IA, “estamos a punto de desatar fuerzas potencialmente aún más destructivas”. “Estos no son problemas creados por una entidad, sino por complejas redes de información”. “Para salvarnos, es preciso repensar la relación entre la información y el poder”. “Entender, como funcionan las redes, como se mueve la información a través de ellas y cómo podríamos canalizarlas para contener las escobas encantadas que hemos desatado”.
(Y ¿cuál sería –entra el Sisimite– la moraleja del cuento? Entiendo –interviene Winston– las consecuencias de utilizar conocimientos o poderes que no se comprenden completamente”. “Si bien el aprendiz conoce el conjuro para iniciar la acción, no posee la sabiduría ni la experiencia para detenerla”. -O sea –tercia el Sisimite– que “conocer algo “a medias” puede ser más peligroso que la ignorancia total”. “El aprendiz de brujo cree que es capaz de controlar la magia, pero no tiene la sabiduría para manejar los efectos secundarios”. -Ves –prosigue Winston– la presencia del maestro –que me imagino no serás vos por más años que cargues encima– simbolizaría la necesidad de una guía o supervisión experta”. ¿Y aquí, qué fuerza o poder sobrenatural sería la encargada de controlar lo que el ser humano desate usando la inteligencia artificial? En otras palabras. “Las herramientas o recursos que se crean para facilitar la vida (en este caso, la escoba mágica) pueden volverse incontrolables si no se entiende su naturaleza o sus límites”. -A propósito de libros –vuelve el Sisimite– supiste ¿cómo les cayó el libro “Kairós”, que mandaron de obsequio navideño al colectivo, donde este tema se aborda repetidamente en varios escritos? -Por los conceptuosos mensajes de acuse de recibo –informa Winston– entiendo que los muchos que leen en el colectivo, van a disfrutar de la lectura; y los que nada leen, lo colocarán en sus oficinas, junto a la escoba embrujada que barre solita, de adorno en los estantes de sus bibliotecas, metido entre la otra pila de libros que tienen, de ornamento, que tampoco hayan leído).