La inteligencia, entendida como la capacidad de resolver problemas formales es peligrosa no porque nos amenace con su perfección. Todo lo contrario: es que no se equivoca lo suficiente. La inteligencia es indiscernible de la estupidez cuando insiste en utilizar un único procedimiento sin importar el contexto o los matices. La inteligencia artificial ha buscado desarrollar comportamientos heurísticos.

Entendamos por heurística en el contexto de la solución de problemas la capacidad de variar la regla de comportamiento (o usarla de manera flexible) de acuerdo con la información disponible. Se trata de un procedimiento que se vuelve más eficiente porque resulta sensible a la información disponible, en vez de aplicar una regla de manera mecánica. Para ello es preciso un mecanismo de retroalimentación que permita correcciones.

Pero la inteligencia artificial sigue usando el volumen y la fuerza bruta. La flexibilidad lograda no reside en una capacidad para juzgar la idoneidad de una regla (método o procedimiento) confrontándola con otras. La inteligencia artificial se basa en grandes volúmenes de información y en información sobre el éxito o el fracaso de ciertas reglas en ciertos contextos. Deep blue no jugaba ajedrez, sino que computaba simultáneamente la probabilidad de éxito o fracaso de miles de posibilidades.

Está abierto lo que consideremos propiamente heurístico. Pero lo que distingue a la razón no es ni su capacidad de unidad ni el uso inflexible de una regla, sino la capacidad de darse fines y de probar distintos caminos para ello. Dichos fines, por cierto, no son la solución a un problema (computable), sino que están dados por el deseo, lo que necesariamente involucra a los otros, lo que necesariamente hace intervenir la cuestión de lo justo. Aquí podríamos recordar la vieja sentencia de Aristóteles de que. si el humano es un animal racional, capaz de “logos”, dicho logos le sirve para distinguir lo justo de lo injusto.

En el contexto hacker existen distintos modos de ganar control de un sistema. La manera más torpe y hoy prácticamente imposible debido a reglas básicas de criptografía consiste en acertar una contraseña ensayando un número gigantesco de combinaciones posibles. Por ejemplo, en campos donde la contraseña tiene cuatro caracteres numéricos, se tiene una combinatoria de 101010*10. El número es enorme, pero una máquina puede generar cada combinación en fracciones de segundo y probarla en la máquina que solicita la contraseña.

Otros hackers se saltan la parte informática y toman el camino de la ingeniera social y psicológica. Se conoce el robo de contraseñas en WhatsApp y otros sistemas por medio de engaños. Por ejemplo, se manda un mensaje confuso o alarmante a un número donde se solicita que se comparta un número que resulta ser la contraseña de la aplicación. Con ello se puede tomar control de esta última y migrarla a otro número telefónico. Las estafas con tarjetas de crédito funcionan de manera análoga.

La fuerza bruta es muy limitada. Es por ello que los mejores caminos dependen del engaño, el cual sólo lo pueden practicar humanos sobre humanos. Una computadora no engaña porque no tiene conciencia de sí y del otro. Solucionar problemas es una prueba muy pobre de inteligencia comparada con la capacidad de engañar. Engañar, idear chistes, usar doble sentido, etc.: todos ellos son casos del juego intersubjetivo que tienen la forma de “yo sé que tú sabes que yo sé…” o “tú crees que yo creo que tú crees…”.

Este juego es sutil y se teje siempre en el momento, sobre la base de procesos de retroalimentación y suposición, basados en la experiencia y en grandes sutilezas. El mago hace también uso de este saber: conoce la atención humana, el movimiento típico de los ojos, la regularidad estadística de las mentes humanas. Él también engaña, pero con un grado de perfección supremo, porque el espectador sabe perfectamente bien que será engañado, lo que ignora es el cómo.

El mago, el carterista, el humorista, el cuentacuentos y otras figuras de la cultura popular más antigua nos siguen fascinando por encima de cualquier tecnología porque dan prueba constante de inteligencia en su sentido más amplio. Todos ellos triunfan en su oficio porque saben descifrar la mente en el gesto y hacer operar los gestos sobre la mente de otros, sea para mostrar, sea para ocultar.

Podemos decir que la inteligencia más elemental está relacionada con la solución de problemas. La más sofisticada se relaciona con las otras mentes. El genio creador de la informática, Alan Turing, intuyó eso para diseñar su famosa prueba. La prueba de Turing funciona de la siguiente manera: una persona es puesta en interacción con una computadora por medio de un dispositivo electrónico como una pantalla y un teclado. La interacción tiene lugar por medio del leguaje compartido, idealmente un lenguaje natural. Si la persona no puede discernir si detrás del otro lado de la máquina hay una computadora u otra persona, entonces la inteligencia artificial habrá pasado la prueba.

Los resultados del ChatGpt pueden superar esta prueba de manera sencilla, pero sólo en su versión más elemental. Los LLM (modelos extensos de lenguaje) empleados en esta tecnología pueden, en efecto, responder a preguntas planteadas por usuarios en un teclado, pero están lejos de las conversaciones humanas, donde privan los múltiples sentidos y niveles de referencia, las bromas, los engaños, las verdades a medias, etc. Todo esto permite entrar en estados de “hipnosis” con los otros, es decir, de compenetración donde algún elemento subjetivo fundamental se entrelaza con otro. Ahí me siento comprendido, agredido, ignorado o querido.

En música existen análogos a la prueba de Turing. Hoy en día un ordenador puede no sólo crear música, sino incluso componer en diferentes estilos (jazz, blues, barroco). Hace poco se creó la X sinfonía de Beethoven a partir de un par de notas que dejó el compositor y un enorme trabajo con inteligencia artificial. Sí, la pieza suena a Beethoven. La armonía es “correcta”, de acuerdo con el estilo de composición del siglo XIX. Uno puede reconocer temas, desarrollos, cadencias y todo tipo de estructuras musicales.

Pero el resultado es muy decepcionante cuando se le escucha. Es posible que no podamos discernir conscientemente entre las obras que realmente compuso Beethoven de aquellas creadas con inteligencia artificial, pero hay algo en el “sabor” que no convence. Algunos músicos han extendido la prueba de Turing a la ejecución con otros músicos, donde se atiende al proceso y no al producto, al hecho mismo de hacer y vivir la música y no al producto (la pieza, la canción, el “sample”) (ver por ejemplo el magnífico video, al final del texto).

Volvamos al inicio. Las máquinas son limitadas no porque les falte precisión, sino poque la tienen en exceso. Por más que las computadoras exhiban procedimientos heurísticos para volver sus tareas más eficientes, su potencia reside en la velocidad y en el volumen. Todavía hoy sorprende la cantidad de energía que requiere el cerebro humano, muy poca, comparada con la que requiere cualquier computadora para su funcionamiento, incluso para funciones simples.

El famoso “big data” es un indicador de que la eficacia informática sigue dependiendo todavía de la fuerza bruta. La llamada “ley” de Moore (que es más bien una observación) afirma que la potencia de los procesadores crece de manera geométrica. Una función exponencial posee un punto de singularidad, lo que significaría una potencia inusitada de la inteligencia artificial. Se le llama así: la singularidad.

Pero suponiendo que dicho crecimiento se sostuviese y que se solventasen los límites físicos de tamaño de los procesadores, así como de sobrecalentamiento, o se habría salido de la fuerza bruta. La llamada inteligencia general no sólo tiene por reto el volverse competente en diversos tipos de problemas, sino en ser capaz de interactuar con humanos en todo su rango de cualidades. Los desarrolladores intuyen esto y saben que una inteligencia similar a la humana no puede desprenderse de la tenencia de un cuerpo y de un entorno. Todo el ámbito del “saber hacer” se fragua entre el cuerpo y la inteligencia.

Saber tocar un instrumento implica un saber-hacer que se traduce en un estilo y talento particulares del ejecutante. La interpretación musical no es separable del cuerpo del músico, pues incluye sus movimientos gruesos, su rostro, su respiración. Algunas compañías han intuido esto y en vez de crear cuerpos artificiales intentan colonizar y controlar seres vivos. La inteligencia artificial dará un salto cuántico cuando logre integrarse con la biotecnología.

¿Será entonces que cuando se (con)fundan procesadores y células tendremos una inteligencia cercana en cualidad a la humana, pero con una potencia inusitada? Se comprende a la inteligencia como la capacidad de resolver problemas. Y por problema se entiende una situación para la cual existe una solución óptima y puntual. Pero los problemas humanos no son “técnicos”, en el sentido de que requieran una solución que maximice recursos y esfuerzos.

Un problema humano es más una condición que la complicación encontrada en la ejecución de una tarea, la cual requeriría una solución computable. Un problema humano es, por ejemplo, la muerte. No se puede caminar por la vida eternamente. Pero antes de llegar a ella se hace presente como angustia, como preocupación, sobre la cual tomamos decisiones y desarrollamos actitudes. En ese sentido es un obstáculo. Un problema es eso, un obstáculo que impide seguir un comportamiento sin modificaciones, andar un camino sin desvíos. Un ejemplo trivial es cómo llegar de un punto A a un punto B cuando el camino está bloqueado. Hay que hacer un rodeo. O hacerse otro camino paralelo. O ir al punto C.

Computar significa ir de A a B a toda costa. Significa, además, tomar el camino más corto posible. Y para ello se consideran todas la soluciones e intentos previos de forma masiva, llegando al punto de maximización sobre los datos disponibles. Por ello no existen técnicamente errores, sólo caminos más y menos eficientes. No se equivoca. Frente a la muerte es preciso equivocarse. Entendamos por equivocarse el resultado de un juicio según el cual se evalúa que el camino ha sido incorrecto.

Eso significa que se ha juzgado conjuntamente el punto de inicio, el punto de llegada y el camino. SE ha juzgado globalmente la pertinencia del camino. No se han considerado aislados, ni de manera fija los puntos como el inicio o el final. El camino no se ha mirado como una conexión necesaria que debe ser perfeccionada. El camino ha sido visto como un conjunto de caminos embebidos en un espacio más amplio que llamamos por costumbre entorno o contexto o paisaje.

La computación de los caminos y las rutas exige que las reglas estén dadas de antemano, sobre lo cual se admiten algunas variaciones que surgen del promedio de un considerable volumen anterior de intentos. Los problemas que consignamos al arte y a la filosofía no tienen solución en el mismo sentido. Son condiciones que pertenecen a la topología misma del espacio que habitamos con otros.

Porque el camino no sólo considera el punto A y B y su entorno material, sino también las consecuencias que ello tiene para los otros. Esta es la dimensión ética y no sólo técnica del razonar y no se puede confiar a ninguna máquina. Firmar, hacerse responsable o responder por una acción es exigible en un contexto donde no existe una solución óptima ni única. Es decir, donde existen muchas otras consideraciones que no pertenecen a un modelo.

La estupidez proviene del hecho de no apartarse de una regla fija, de seguir neciamente un camino sin importar la consecuencias materiales o prácticas. Pero sigue siendo estupidez cuando sólo considera las consecuencias materiales. Estupidez llamamos también a aquella actitud que sólo considera su éxito inmediato, sin considerar un contexto más amplio. Finalmente, llamamos estupidez también a la ceguera de otras perspectivas, al encierro en la mirada propia, lo que no tiene nada que ver con la “convicción” o los “valores”. Un obstáculo es, para la mirada computacional, un elemento negativo, un sitio de falla.

Para la perspectiva humana significa una exigencia: la de pensar la situación completa, con todas sus consecuencias. Un problema es positivo porque nos convoca a evaluar y sólo damos fe de un problema a partir de ensayos. Nos equivocamos porque no damos con el punto que nos habíamos dado como fin. Pero al no dar con lo propuesto encontramos lo imprevisto, encontramos lo novedoso y lo que no aparecía en un inicio en el campo de visión.

Equivocarse es la condición para cambiar la ruta y para mirar de otro modo. La inteligencia artificial no lo hace ahora no sólo por problemas técnicos, sino porque su idea misma de inteligencia, de problema y de error la limitan a priori y la encierran en el universo de lo dado, de lo que ya ha sido decidido. Sólo la equivocación permite la invención.