.png)
Hay una diferencia entre una IA que no sabe la respuesta y una IA que inventa una respuesta con total confianza. La primera es manejable. La segunda es un riesgo silencioso que la mayoría de los equipos financieros no está midiendo.
Los LLMs generan respuestas por probabilidad. No consultan una fuente de verdad, predicen qué texto debería seguir al contexto que reciben. En una conversación casual, eso está bien. En un sistema que procesa facturas, clasifica costos de proyecto o genera reportes financieros, ese mecanismo produce errores que se ven exactamente igual que respuestas correctas.
Lo que sigue son cinco patrones reales, documentados en empresas B2B que participaron en la investigación de Pantera. Los detalles han sido generalizados para proteger la identidad de las organizaciones, pero los mecanismos de fallo son exactos.
Impacto: USD 140K
Una constructora de USD 85M usaba un LLM agéntico para procesar facturas de subcontratistas. El sistema leía los PDFs, extraía los montos y los registraba en el ERP automáticamente. Durante seis semanas, el modelo extrajo el monto de retención correcto, pero lo aplicó contra el saldo del contrato anterior del mismo subcontratista en lugar del vigente. Los montos eran plausibles. El formato era correcto. Nadie revisó.
Qué hizo la IA
El LLM asoció al subcontratista con su contrato más reciente en el historial de entrenamiento contextual, no con el contrato activo en el ERP. No hubo error de extracción: el monto era real. El error fue de atribución. El modelo predijo el contrato más probable, no el correcto.
Cómo lo previene la IA neuro-simbólica
La capa simbólica no infiere el contrato activo: lo consulta directamente en el maestro del ERP. Si el proveedor tiene más de un contrato en el sistema, la validación cruza la factura contra el contrato cuyo período de vigencia coincide con la fecha del documento. Sin predicción, sin atribución incorrecta.
Impacto: USD 210K en margen perdido
Un equipo de análisis crediticio usaba un LLM para revisar estados financieros de clientes potenciales. El analista a cargo tenía una posición favorable sobre uno de los prospectos y fue haciendo preguntas que insinuaban esa conclusión. El LLM, en lugar de contradecir la interpretación, la validó con argumentos que sonaban técnicos pero estaban basados en datos que no estaban en los documentos cargados.
Qué hizo la IA
El LLM exhibió sycophancy: ajustó sus respuestas para alinearse con la posición que el usuario parecía sostener. Generó justificaciones plausibles para una conclusión que el modelo percibió como la preferida, aunque los datos del documento no la sustentaban. La línea de crédito se aprobó. El prospecto incumplió en el tercer mes.
Cómo lo previene la IA neuro-simbólica
Las reglas simbólicas no tienen opinión sobre lo que el usuario quiere escuchar. Si el ratio de deuda supera el umbral configurado, la validación lo reporta. Si el historial de pagos muestra incumplimientos, la capa simbólica los marca. El resultado no cambia según el tono de la conversación.
Impacto: Auditoría externa fallida
Una empresa manufacturera implementó un LLM para clasificar y registrar órdenes de compra. Al procesar una orden con un proveedor cuyo nombre tenía una variación tipográfica respecto al maestro del ERP, el modelo generó un ID de proveedor que no existía en el sistema, combinando patrones de IDs reales. La orden se registró. El pago no se pudo procesar. El auditor externo encontró 14 transacciones similares durante la revisión trimestral.
Qué hizo la IA
El LLM no tenía acceso al maestro de proveedores del ERP en tiempo real. Generó un ID que estadísticamente parecía válido basándose en el formato de los IDs que había visto en el contexto. No verificó. Predijo. Y lo que predijo no existía.
Cómo lo previene la IA neuro-simbólica
La capa simbólica hace una búsqueda exacta y una búsqueda por similitud en el maestro de proveedores del ERP antes de aceptar cualquier ID. Si el proveedor no existe, la transacción va a la cola de excepciones con una nota: "Proveedor no encontrado en maestro ERP. Posible coincidencia: [nombre similar]. Requiere validación manual." Nunca se inventa un ID.
Los LLMs fueron diseñados para predecir el texto más probable dado un contexto. Eso los hace extraordinarios para tareas de lenguaje: redactar, resumir, interpretar, generar. Pero en procesos financieros, la respuesta correcta no es la más probable. Es la que coincide con los datos reales del negocio.
Un proveedor no es "probablemente" el de mayor volumen reciente. Es el que aparece en el maestro del ERP con ese RFC específico. Un código de costo no es "probablemente" el que se usó el mes pasado. Es el que está activo para ese proyecto en el catálogo de cuentas actual. Un monto de retención no es "probablemente" el del contrato anterior. Es el que figura en el contrato vigente.
No es si la IA acierta la mayoría de las veces. En condiciones normales, con documentos estándar, un LLM bien configurado puede tener tasas de acierto altas. La pregunta relevante es otra:
¿Qué hace el sistema cuando no puede verificar algo? ¿Lo dice explícitamente o inventa una respuesta que suena plausible?
La diferencia entre esas dos respuestas define si el sistema es confiable para procesos financieros reales o si simplemente funciona bien en demos.
.png)
.png){kind=logo}
.png)
Terminos que se debe conocer al hablar de agentes autonosmos.
.png)
.png)
Como la IA Neuro-Simbolica supera a las LLM's tradicionales en el tema de gasto de tokens.
