“ANTES le escribí –mensaje del madrugador amigo doctor alusivo a la reseña de Kairós de la periodista MN– que una de las cosas que admiro de usted, es la manera cómo trata a sus amigos”. “Lo especial que nos hace sentir”. “Cómo valora esa palabra”. “Y cómo ha trascendido a través de la ingeniosa y maravillosa forma que utiliza la pluma, con la que comparte su sabiduría”. “Más allá de esa extraordinaria habilidad, existe un sentimiento arraigado y profundo de patriota”. “Que no descansa por orientar hacia lo correcto en los diferentes ámbitos de la vida”. Un amigo lector de SPS: “Kairós es un término teológico de gran profundidad y ha atinado en la necesidad urgente de conversión, ya no solo de los vicios (como en cualquier época), sino de la misma cultura vacía de contenido”. “Felicidades por estar cumpliendo su misión de hacer un llamado a las conciencias”.
Regresando a lo que nos trajo a lo otro, ello es la alegoría a que recurre el autor de Nexus –el poema de Goethe– como ilustración de “esa tendencia a invocar fuerzas incontrolables –las escobas encantadas que hemos desatado– potencialmente destructivas a la humanidad”, consultamos al Chat-GPT de su relación con la Inteligencia Artificial: “La historia del aprendiz de brujo se ha convertido en una metáfora clásica para referirse a los riesgos de desarrollar tecnologías avanzadas sin la capacidad de controlarlas por completo”. Analogía con la IA: En la actualidad, los creadores de modelos de inteligencia artificial (como Chat-GPT) a menudo conocen los principios básicos de su funcionamiento, pero no comprenden del todo las implicaciones o la forma en que el sistema “aprende” o “razona”. “Como el aprendiz, los desarrolladores a veces activan procesos que no pueden detener”. Ejemplos reales: “Los sistemas de IA que operan de forma autónoma, como los algoritmos de redes sociales, pueden provocar polarización, desinformación o manipulación de masas”. “Aunque los desarrolladores los crean con buenas intenciones (optimizar la experiencia del usuario), muchas veces pierden control sobre los efectos no deseados”. “La escoba mágica que trae agua sin parar puede compararse con los sistemas de IA automatizados, especialmente los algoritmos de alta frecuencia en finanzas o sistemas de recomendación en redes sociales, que no se detienen ni siquiera cuando causan caos”. “Una vez activados, los sistemas de IA pueden seguir operando de forma automática e incesante, generando enormes cantidades de contenido, transacciones o acciones de manera autónoma”. Ejemplos reales: “Los algoritmos de trading algorítmico en los mercados financieros pueden generar desplomes bursátiles repentinos (flash crashes) por el simple hecho de responder automáticamente a pequeñas fluctuaciones, sin que los humanos puedan intervenir a tiempo. Como en la historia, los humanos se ven forzados a “romper la escoba” (detener el sistema) para evitar el desastre, pero a menudo ya es demasiado tarde”.
La falta de comprensión de los “hechizos” que se crean: “El aprendiz no conoce la fórmula para detener el hechizo, del mismo modo que muchos desarrolladores de IA no saben cómo revertir ciertos efectos de los algoritmos”. “En sistemas de IA avanzados, como las redes neuronales profundas, ni siquiera los propios creadores comprenden completamente cómo la IA llega a sus decisiones o resultados”. Ejemplos reales: “Los algoritmos de “deep learning” son “cajas negras”, es decir, su proceso de decisión no siempre se puede explicar”. “Esta opacidad genera problemas en áreas críticas como la justicia penal (sistemas de predicción de reincidencia) o diagnóstico médico, donde la falta de explicabilidad puede provocar errores graves”. “Aquí, los programadores se convierten en “aprendices de brujo”, ya que no pueden detener ni corregir una decisión tomada por la IA”. (Y hay más para otro día). (¿Y qué te parece –entra el Sisimite– que aquí comienzan con un libro y terminan hablando de otro? -¿Será –ironiza Winston– hablando de escobas embrujadas, que no solo se trata de barrer sino de trapear?).