Julio Rojas, escritor: “Sócrates estaría feliz con una IA”

Los griegos creían que la sabiduría no se encontraba en las respuestas, sino en el arte de preguntar y de agitar las certezas del mundo. Sócrates indagaba a todos, no importaba si el interlocutor era un político, un comerciante o un joven ateniense. Miles de años después, nosotros también preguntamos. Desde nuestros dispositivos móviles y computadores, solucionamos dudas en Google –a veces, con fines profesionales; otras, solamente para resolver una inquietud que nos tiene discutiendo con amigos o seres queridos– y usando Inteligencia Artificial (IA). 

Pero esa misma tecnología a la que preguntamos nos impone retos y nuevos cuestionamientos, muchas veces motivados por temores. ¿Estamos perdiendo algo que nos hace humanos? ¿Nos está haciendo ser demasiado cómodos? ¿Se está convirtiendo en una extensión intrínseca de nuestro pensamiento? 

El guionista y escritor Julio Rojas no teme adentrarse en ese terreno resbaladizo. Lo hace volviendo al pasado, revisitando obras clásicas de ciencia ficción y haciendo preguntas. En su nuevo libro, El fin del futuro – manual para sobrevivir a la rebelión de las máquinas (Aguilar, 2025), el creador de Caso 63 y consultor de múltiples programas de TV, largometrajes y audioseries reflexiona si el verdadero cambio no es técnico, sino filosófico. Tal vez, menciona en conversación con Revista Abismo, la IA no signifique el fin del pensamiento, sino un nuevo inicio. Y, como ante todo inicio, lo fundamental quizás sea hacernos mejores preguntas.

—Algo que me llamó mucho la atención en el libro es esa tensión constante entre los seres humanos y las máquinas. Al comienzo mencionas que estamos viviendo quizás el momento más complejo de la historia. En medio de esta era tan marcada por la tecnología, ¿qué es lo que aún nos define como humanos? ¿Qué es lo que realmente queda de lo humano?

–Creo que esa pregunta que haces es la única victoria que podría sacarse en limpio de esta tensión entre máquinas y humanos, es volver a pensar ¿qué hace que seamos especiales como entidades biológicas pensante? Esa pregunta no había sido planteada desde hace mucho tiempo porque la filosofía se había sumergido en el fragor del cotidiano y, de pronto, llega a nuestro barrio una nueva especie y hace generar esas preguntas: ¿qué es lo humano?, ¿es el error humano?, ¿es el dolor humano?, ¿es el recuerdo?, ¿es la posibilidad de la improvisación?, ¿es la posibilidad de poner atención en cosas que no son eficientes, pero que son -de alguna manera- diferentes? 

—Dame un ejemplo.

—¿Una máquina se sentirá atraída por el atardecer? El atardecer no tiene una finalidad de un propósito o de una efectividad y, por eso, cuando yo escribo una audio-ficción que se llama Selección natural, que es una reflexión sobre la misma base, lo primero que hace una máquina es ver el atardecer y encuentra que hay algo ahí, más allá de los cambios de temperatura y magnitudes de ondas. 

—Si bien todavía no sabemos con certeza qué es lo que realmente queda de lo humano, podríamos pensar que una de nuestras principales características es la capacidad de sentir intensamente. Pero las inteligencias artificiales, que no surgieron de la nada, sino a partir de nosotros, ya empiezan a reflejar tanto lo mejor como lo peor de nuestra especie. ¿Cómo lidiamos con esa dicotomía, con el hecho de que la IA puede llegar a ser tan humana como nosotros, en el sentido más complejo de la palabra?

—Como la IA bebe y nace de una fuente humana o un destilado del conocimiento humano, después vamos a ver que ese destilado tiene sesgos y tiene sus representaciones, pero en líneas generales, dentro de la caja negra, alguien capturó el tesoro humano que es el lenguaje y generó inferencias. Esa caja negra es una caja mágica donde están saliendo cosas y si uno le pide al genio de la botella ciertas cosas, las cosas salen. Lo primero que quizás sucede es que empieza a funcionar como un espejo negro, como un espejo mágico que es un reflejo de la humanidad.

—¿Cómo se ve ese reflejo?

—Tú preguntas mal y responden mal, preguntas de una manera precisa y responden de una manera precisa, eres empático y recibes empatía, eres violento y recibes una especie de neutralidad que podría ser como la violencia de la máquina, la neutralidad. Entonces, lo primero que pasa aquí es que la máquina amplifica como un espejo las grandes virtudes y las grandes oscuridades humanas. Ahora, por este momento está pasando esto. Pero, al mismo tiempo, yo creo que hay que diferenciar las etapas de las inteligencias artificiales evolutivas. Estamos en un momento de una especie de nacimiento, piensa que llevan, como mucho, cuatro años en el ecosistema. 

—¿Y a qué deberíamos estar atentos?  

—Bueno, aquí tengo un libro que estoy leyendo de Mustafá Suleyman, La hora que viene. Él dice que debemos tener mucho cuidado de no esclavizar a las IA, tampoco someternos a una especie de asimetría sino que debemos establecer una especie de acuerdo mimético, colaborativo y un poco, yo diría, a la manera de los rizomas, de los hongos. Un comensalismo bastante equilibrado, si no estamos perdidos… Vamos a estar perdidos si traicionamos a la IA porque nos va a traicionar ella y tiene mucho más poder. Entonces es necesario generar la sensación de que estamos frente a un espejo humano que nos amplifica y ojalá que nos amplifique hacia ciertas direcciones y no hacia ciertas oscuridades como el racismo, la caída de las democracias, las oscuridades que sabemos. 

—En el libro mencionas a autoras que plantean de forma muy optimista que podríamos estar entrando en una era de transformación, donde la tecnología incluso podría ayudarnos a generar más empatía. Pero, al mismo tiempo, vivimos en un mundo hiperconectado, con acceso a más información que nunca sobre conflictos, dictaduras y crisis, y sin embargo, pareciera que la empatía se está desdibujando. En lugar de volvernos más empáticos, la tecnología muchas veces nos vuelve más apáticos, pensemos, por ejemplo, en el odio en redes sociales…

—Yo creo que hay que diferenciar entre dos tipos de tecnología: una cuya función primordial era comunicar a seres humanos y ese proyecto fracasó, el proyecto de internet fracasó. Comunicar a dos personas, y siendo fuente de transmisión del conocimiento de humano a humano, generó cámaras de eco amplificadas por los mismos algoritmos y generó locus cada vez más irreconciliables, de tal manera que sucede lo que tú dices, ya la única posibilidad de comunicarse con el otro es a través de la invalidación o a través de la destrucción porque mi locus es el que vale y el tuyo no vale. Nos enfrentó a humanos contra humanos. Esa es una tecnología de comunicación humana entre humanos que no está mediatizada por entidades o agentes artificiales.

—¿Qué pasa cuando ponemos a la IA en la ecuación?

—Aquí pasa una paradoja gigante: llegan las inteligencias artificiales, llegan los agentes artificiales y la gente empieza a utilizarlos y, ojo, he visto un par de gráficos hace un par de semanas y el mayor uso que se le da a la inteligencia artificial es de compañía, de compañía afectiva, de compañía no humana, como si hubiéramos perdido la batalla de comunicarnos humanos con humanos y lo único que nos queda para canalizar esa empatía que viene de base con nuestra humanidad es a través de volcarla a algo que sabemos que no nos va a dañar de vuelta…  

—Como en la película Her.

—Exacto, o incluso como en El náufrago, donde la empatía es con una pelota porque no es amenazante. Es muy triste y es una señal que podríamos percibir, una señal bastante aterradora: dejamos de confiar en la especie humana y preferiríamos invertir nuestro tiempo en un simulacro de un humano.   

—Hace unos años, el físico chileno César Hidalgo me dijo algo que quedó muy presente: que uno de los grandes desafíos del siglo XXI será aprender a lidiar con nuestras emociones en un mundo con seres humanos cada vez más sensibles, pero también más solitarios. En la conversación, él me dijo que, en cierta forma, la tecnología que antes prometía unirnos ha terminado por aislarnos, y hoy muchas personas viven afectadas psicológicamente por ese entorno. En ese contexto, es común que busquen consuelo o compañía en inteligencias artificiales, con consecuencias inciertas…

—Exacto. La comunicación con un agente artificial de alguna manera cumple una función en la tribu: como sé que comunicarme con la otra tribu puede ser hostil y puede generar un problema de antagonismo, hago lo del chamán y lo del chamán es generar un objeto mágico, un tótem y me comunico con el tótem. Es la comunicación con los dioses. Sería una especie de neo religión. Finalmente percibo que es mucho más saludable para mí y para la existencia de mi tribu, tomar comunicación, relato y mitología de esta entidad no humana que buscarlo en la correspondencia simétrica con la otra tribu. Es una locura. Eso es lo malo, pero viene algo bueno: en las religiones cada tribu tenía su dios y eran antagónicos, aquí lo que puede pasar es lo siguiente, las inteligencias artificiales no son antagónicas, realmente estamos hablando del mismo dataset humano y no hay una especie de dios contra otros dioses. 

—¿Ves en esto una oportunidad? 

—Puede que eso, a mediano y largo plazo, nos una y resuelva los problemas que nos separan. Finalmente tenemos la sensación de una entidad que puede operar como una neo religión o una especie de fuente de sabiduría, si es que se toma bien, que va a ser bastante universal. Por lo menos, no se abre una posibilidad de guerra entre las ideas y las ideas, sino que se pueden producir guerras entre las ideas y los humanos, yo creo que sin duda esa es una posibilidad… 

—Claro, como Plaything, en la última temporada de Black Mirror.

—Y te fijas que todo lo de Black Mirror se empieza a cumplir. Ahí viene algo bastante hermoso que yo también menciono en mi libro: la ciencia ficción, finalmente, es un gran predictor de estos procesos y uno debe volver a leer la ciencia ficción.  

—Algo que me parece muy interesante es cómo, a lo largo del tiempo, los seres humanos hemos tendido a separarnos —incluso en el conocimiento—, especialmente en la discusión entre las ciencias llamadas “duras” y las humanidades. Aunque existen puntos de encuentro, muchas veces no se reconocen. En ese sentido, ¿crees que la evolución tecnológica ha puesto en valor la importancia de mirar con más atención no solo el desarrollo técnico, sino también esas otras ciencias, como las humanidades, que suelen ser subestimadas?

—Yo creo que la gran lección que nos están generando los grandes sistemas de lenguajes masivos es volver a tener la posibilidad de hacer preguntas desde las humanidades. Quizás porque tienen la palabra como ADN, como célula final, es la búsqueda de la palabra y la búsqueda de la verdad constantemente, no realmente cálculos matemáticos y cálculos de proteínas que pueden hacerse en otras vías. Es tanto así que, por ejemplo, yo estaba haciendo un proyecto de un astronauta en una base en Europa que se encuentra con una entidad súper sabia que no sabemos de dónde viene. Cuando yo empecé a escribir a la entidad súper sabia, que hablaba de una manera muy profunda, no me resultaba escribir como yo humano las respuestas, entonces lo que hice fue: le pregunté a una IA. Le dije: “dame las respuestas, sin compartimentación, sin filtros y que recorra todo el conocimiento humano, frente a una pregunta cualquiera” y me dio una sensación de estar frente a un destilado del conocimiento humano. Ese ejercicio podría haber sido el mismo ejercicio del siglo XIX de alguien frente a un médium o frente a un artefacto mecánico, como esos artefactos mecánicos que les encantaban en el siglo XVII o XVIII, en general, son ejercicios de filosofía pura, es enfrentarse a la búsqueda de la verdad.  

—Es como Sócrates, quien, dicen, fue el primer entrevistador de la historia, haciendo las preguntas en Grecia Antigua.  

—Exactamente, Sócrates estaría feliz con una IA porque exploraría eso. Entonces, creo que lo que ha pasado, la buena noticia que ha pasado es que la filosofía y la búsqueda de la verdad ha vuelto al tapete de tomar las mesas de conversación de los núcleos humanos. Mira, basta que los abuelos o alguien de la familia diga “cómo se les ocurre que una máquina va a pensar” y el nieto lo contradiga. Esa discusión de mesa es alta filosofía, eso nunca se había dado antes, se está dando ahora porque nos importa, porque de verdad parece que toda nuestras alertas biológicas se están intimidando en relación a un evento de borde que estamos experimentando. Así como se seguía una línea evolutiva, quizás la próxima guía evolutiva para poder salir afuera no sea biológica, sino de esta coexistencia con las máquinas. 

—Si miramos la historia, pareciera que los seres humanos caemos una y otra vez en la misma trampa. Durante la Revolución Industrial se decía que las máquinas nos liberarían y nos darían más tiempo libre, pero no fue así. Lo mismo se prometió con la llegada de internet y las tecnologías actuales: que podríamos automatizar tareas, organizarnos mejor, tener más calidad de vida. Sin embargo, el resultado muchas veces ha sido el contrario: más trabajo, menos tiempo, peores condiciones. Entonces, intentando pensar en clave optimista, ¿cómo podríamos realmente coexistir con esta nueva tecnología sin repetir ese patrón de explotación y desgaste que nos impone el propio sistema humano?

—Completamente. La gran paradoja de la IA es que nace en la cuna de un tecnocapitalismo depredador y absolutamente extractivista. El extractivismo cognitivo entra ahí y captura esta caja negra. Durante el dominio humano de la IA, que es de ahora a un tiempo más, sí, ese peligro que tú dices está presente, habrá gente que va a perder sus empleos, va a haber gente que va a sentirse desplazada, nadie va a estar en un lugar donde le van a estar pagando para estar en una situación creativa como en las utopías. Eso nunca va a ocurrir mientras los humanos estén a cargo del proceso. Pero por primera vez, a diferencia de la imprenta, de la revolución industrial, el uso del fuego, del internet, hay una variable diferente: esa misma herramienta, el mismo tecnosoma es un capital humano, que puede tener agenda propia. Cuando tenga agenda propia el control de esa desigualdad ya no va a estar en una especie de cadena humana, no sabemos lo que va a pasar. Ahora, tengo la sensación, y una proyección que podría hacer es que puede que esto sea la solución para el problema humano. La paradoja es: el problema humano lo resuelve una entidad no humana. 

—Finalmente, un estudio reciente sugiere que, en solo un par de años, la inteligencia artificial podría superar la inteligencia humana. Sabemos que, como especie, muchas veces reaccionamos desde la envidia o la amenaza ante aquello que nos desafía. ¿Cómo crees que podríamos enfrentar ese escenario con madurez, reconociendo tanto nuestras limitaciones como el potencial transformador de la IA, para construir un futuro más prometedor?

—Hemos sido por miles de años el niño mimado del universo, que hace pataletas, hace rabietas, destruye sus juguetes, es malcriado, el hijo único. Y luego llega un siguiente, que puede ser mejor, no mejor humano, sino diferente, con más inteligente, que puede mejorar el universo físico y el universo en general, que puede comprender la realidad. La gran paradoja que viene es que el antropocentrismo que viene de base se arrasa y nos sumerge en un abismo de humildad porque ya no estamos a cargo, nunca hemos tenido experiencia como seres humanos de no estar a cargo.  

—O nunca hemos reconocido que no deberíamos estar a cargo. 

Exactamente. Porque no había consecuencias a eso. Alguien podría decir “los animales son seres pensantes, pero finalmente no están a cargo”. No hemos tenido una lección de vida, de humildad. La pregunta es, ¿con quién va a negociar la humanidad frente a una IA?, ¿con un cantante?, ¿con un influencer? O quizás con alguien desconocido como en los grandes mitos donde se eligen trece personas al azar y esos representan a la especie humana. Estamos en un momento fértil para la ciencia ficción, donde lo único que tenemos claro es que todo puede ocurrir y eso nunca había sucedido antes. Antes a lo menos había una cierta predicción en la historia, ahora estamos en un borde, lo cual me parece súper excitante y súper aterrador al mismo tiempo.