En 2011, Daniel Kahneman, premio Nobel de Economía, publicó Pensar rápido, pensar despacio. La idea central del libro es que la mente humana trabaja con dos sistemas. Uno rápido, intuitivo y automático. Otro lento, deliberado y capaz de razonar paso a paso. Esa misma distinción se convirtió en una de las formas más usadas para explicar la IA neuro-simbólica, y también para entender por qué la inteligencia artificial que usamos hoy alucina.
La comparación no es solo una metáfora útil. Algunos de los investigadores más influyentes en inteligencia artificial la usan para describir lo que le falta a la IA actual.
La IA que usamos hoy piensa rápido. Lo que le falta es alguien que piense despacio antes de decidir.
La IA neuro-simbólica es una arquitectura que combina dos capas. Una capa neural interpreta información no estructurada, como un documento o un texto, de forma rápida e intuitiva, parecida al Sistema 1 de Kahneman. Una capa simbólica valida cada resultado contra reglas explícitas antes de usarlo, de forma lenta y verificable, parecida al Sistema 2. La primera aporta flexibilidad. La segunda aporta certeza.
Es el que reconoce una cara, entiende una frase o responde cuánto es 2 más 2 sin esfuerzo. Trabaja todo el tiempo, casi nunca se cansa y es muy bueno detectando patrones. Su problema es que responde con la misma seguridad cuando acierta y cuando se equivoca.
Es el que se activa cuando alguien te pide multiplicar 17 por 24. Exige atención, sigue reglas, va paso a paso y puede explicar cómo llegó al resultado. Cuesta más usarlo, por eso la mente solo lo activa cuando hace falta.
Kahneman usa un ejemplo famoso para mostrar cómo se equivoca el Sistema 1. Un bate y una pelota cuestan 1.10 dólares en total. El bate cuesta un dólar más que la pelota. ¿Cuánto cuesta la pelota?
La respuesta que aparece de inmediato es 10 centavos. Es fluida, se siente correcta y está mal. Si la pelota costara 10 centavos, el bate costaría 1.10 y el total sería 1.20. La respuesta correcta es 5 centavos, y para llegar a ella hay que activar el Sistema 2 y comprobar.
Eso es exactamente lo que pasa cuando un modelo de lenguaje alucina. Da una respuesta plausible, bien redactada y segura, sin haberla comprobado contra nada.
En su keynote de NeurIPS 2019, titulada "From System 1 Deep Learning to System 2 Deep Learning", Yoshua Bengio, uno de los pioneros del deep learning y ganador del Premio Turing, describió el Sistema 1 como lo que hacemos de forma intuitiva y no podemos explicar con palabras. Y lo dijo directamente, eso es lo que el deep learning actual hace bien. El Sistema 2, el razonamiento consciente que se puede explicar, la planificación y la lógica, era lo que todavía faltaba.
Los modelos de lenguaje como ChatGPT son el ejemplo más claro. Leen, resumen y redactan con una fluidez enorme. Pero generan la respuesta más probable y no la comprueban antes de entregarla. Cuando el dato que buscan no está en el texto, lo completan con algo que suena razonable, igual que el Sistema 1 con el bate y la pelota.
En la conferencia AAAI 2020, Kahneman participó en una conversación con Francesca Rossi, investigadora de IBM, en la que también estuvieron Geoffrey Hinton, Yann LeCun y Yoshua Bengio. Según el análisis que publicaron después Artur d'Avila Garcez y Luís Lamb en Neurosymbolic AI, The 3rd Wave, Kahneman dijo que el Sistema 1 sin duda conoce el lenguaje, y que el Sistema 2 sí implica cierta manipulación de símbolos.
Garcez y Lamb resumen que en esa sesión hubo una clara convergencia hacia integrar el razonamiento simbólico con el deep learning. Es decir, combinar la capa que piensa rápido con una que piensa despacio.
| Mente humana | Capa de la IA | Qué hace | Su límite |
|---|---|---|---|
| Sistema 1 | Capa neural | Lee documentos con formatos distintos, entiende lenguaje, reconoce patrones | Puede generar datos plausibles que no son ciertos |
| Sistema 2 | Capa simbólica | Aplica reglas explícitas, verifica contra fuentes, explica cada decisión | Necesita que las reglas estén definidas |
Una capa sola no alcanza. La neural sin la simbólica alucina. La simbólica sin la neural no puede leer una factura escaneada ni un correo con formato libre. Juntas, una interpreta y la otra comprueba.
La idea de construir IA con un pensamiento rápido y otro lento tiene una línea de investigación propia. En 2021, un equipo que incluye a Francesca Rossi y Grady Booch presentó en AAAI el trabajo Thinking Fast and Slow in AI, que propone arquitecturas inspiradas en esta teoría cognitiva para lograr capacidades que la IA todavía no tiene, como adaptarse, generalizar y razonar sobre causas.
También hay debate. Bengio, por ejemplo, prefiere extender el deep learning hacia el Sistema 2 en lugar de volver a los sistemas simbólicos clásicos. Otros investigadores, como los autores de Neurosymbolic AI, The 3rd Wave, defienden integrar ambas tradiciones. En lo que casi todos coinciden es en el diagnóstico. La IA que solo piensa rápido no es suficiente para tareas donde un error tiene consecuencias.
En finanzas, el problema del bate y la pelota aparece todos los días con otros nombres. Un monto que no coincide con la orden de compra, una retención mal aplicada, un código de costo que suena correcto. Cada uno se ve razonable y pasa al sistema si nadie lo comprueba. Lo explicamos con casos concretos en agentes IA que alucinan en contabilidad y en cuando la IA alucina una estimación de obra.
Un modelo de lenguaje lee la factura, deduce el monto, el proveedor y el código de costo, y entrega un resultado fluido y seguro, aunque uno de los datos esté inventado.
La capa neural lee la factura. La capa simbólica compara cada dato contra la orden de compra, el maestro de proveedores y las reglas de la empresa. Si algo no se puede verificar, se detiene y lo escala a una persona.
Así funciona un trabajador digital Pantera. La capa simbólica no genera texto, no consume tokens y no puede inventar un valor que no existe. Lo más parecido al Sistema 2 humano es justamente eso, saber cuándo frenar y comprobar. Y cuando algo requiere criterio, la decisión llega a tu equipo con el motivo exacto, porque hay decisiones que no le corresponden a ninguno de los dos sistemas de la máquina.
Es una arquitectura de inteligencia artificial que combina una capa neural, que interpreta información no estructurada, con una capa simbólica, que aplica reglas explícitas y verificables. La primera aporta flexibilidad para leer documentos y lenguaje. La segunda aporta certeza, porque valida cada resultado antes de usarlo.
Su distinción entre un Sistema 1 rápido e intuitivo y un Sistema 2 lento y deliberado se usa en la investigación en IA para describir lo que hacen las redes neuronales y lo que les falta. Yoshua Bengio la usó en NeurIPS 2019 y el propio Kahneman habló de ella en AAAI 2020 junto a varios de los pioneros del deep learning.
Porque generan la respuesta más probable según patrones aprendidos y no la comprueban contra una fuente antes de entregarla. Igual que el Sistema 1 humano, responden con fluidez y seguridad aunque estén equivocados.
Un modelo de lenguaje usado solo lee, deduce y responde con el mismo mecanismo probabilístico. En una arquitectura neuro-simbólica, el modelo lee y una capa distinta verifica cada dato contra reglas explícitas. Si algo no cuadra, el proceso se detiene en lugar de suponer.
Bottom line. La IA que usamos hoy es un Sistema 1 brillante. Lee, entiende y responde en segundos. En finanzas, lo que hace la diferencia es tener también un Sistema 2 que compruebe cada dato antes de decidir.
.png)
.png){kind=logo}
Trae un proceso. Te lo mostramos corriendo sobre tus sistemas en menos de dos semanas.
Trabajadores digitales que ejecutan operaciones financieras sobre los sistemas que ya usas.
Respaldados por
Producto
Compañía
Oficinas
Fort Lauderdale, Estados Unidos
Ciudad de México, México
Bogotá y Medellín, Colombia
