PACE: explicaciones contrafactuales viables con IA neurosimbólica

Un modelo de scoring deniega un crédito y el sistema de explicaciones sugiere al solicitante «tener cinco años menos» o «cambiar de código postal». Recomendaciones imposibles o inaceptables como estas son el problema que ataca PACE, un framework neurosimbólico para generar explicaciones contrafactuales plausibles y accionables, publicado en arXiv el 3 de julio de 2026.

El problema: contrafactuales que nadie puede ejecutar

Las explicaciones contrafactuales responden a la pregunta «qué tendría que cambiar en la entrada para que el modelo decidiera otra cosa». Son uno de los formatos de explicabilidad más apreciados porque hablan el idioma del usuario afectado: en lugar de mostrar pesos o mapas de atención, ofrecen una acción. El problema, como señala el propio paper, es que muchos métodos existentes generan alternativas que efectivamente cambian la predicción pero resultan irreales o inviables, porque no incorporan mecanismos explícitos de conocimiento de dominio ni restricciones sobre qué intervenciones son posibles.

Qué propone PACE

La propuesta separa el problema en dos componentes. Por un lado, un modelo predictivo neuronal se encarga de la clasificación, sin cambios respecto a lo habitual. Por otro, una capa de razonamiento simbólico aplica restricciones específicas del dominio durante la generación del contrafactual: reglas comprensibles para humanos que definen qué acciones son factibles y cuáles no. Al modelar explícitamente las intervenciones viables, el sistema produce explicaciones coherentes con el conocimiento del dominio y, según los autores, interpretables y accionables.

Dos detalles del diseño merecen atención. El framework es modular y agnóstico al modelo: no exige reentrenar el clasificador ni acceder a sus internals, lo que facilita aplicarlo sobre sistemas ya en producción. Y la separación entre predicción y razonamiento sigue la línea de la IA neurosimbólica, que combina modelos entrenados con datos y reglas simbólicas explícitas, una corriente que gana tracción precisamente en los problemas donde el aprendizaje puro se queda corto en garantías.

Por qué importa

La explicabilidad ha dejado de ser un tema académico. El Reglamento europeo de IA impone obligaciones de transparencia a los sistemas de alto riesgo, y sectores como banca, seguros o salud llevan años obligados a justificar decisiones automatizadas. En ese contexto, un contrafactual inviable no es solo una mala explicación: es un riesgo legal y reputacional. Decirle a un cliente que su crédito se aprobaría «con otra edad» es inservible; decirle que se aprobaría reduciendo su ratio de endeudamiento por debajo de un umbral concreto es una explicación defendible ante un regulador.

La tendencia además conecta con el auge de los agentes: a medida que los sistemas automatizan decisiones de principio a fin, explicar qué habría cambiado el resultado deja de ser una cortesía y pasa a ser un requisito operativo.

Para quién es útil

Para equipos de ML que operan modelos de decisión en dominios regulados, PACE apunta a una arquitectura práctica: mantener el clasificador existente y añadir la capa simbólica con las reglas de negocio que ya suelen existir en documentos de política interna. Para auditores y responsables de riesgo, el enfoque ofrece algo verificable: las restricciones son explícitas y legibles, no están enterradas en los pesos de una red.

Los límites razonables

Conviene templar expectativas. Es un paper recién anunciado (versión 1) y el resumen no incluye comparativas cuantitativas con métodos previos, así que la evidencia empírica está por examinar en el texto completo. Además, el enfoque hereda el cuello de botella clásico de lo simbólico: alguien tiene que escribir y mantener las reglas de dominio, un trabajo experto que no escala solo y que envejece si el negocio cambia y nadie actualiza las restricciones.

En EP llevamos tiempo defendiendo que el contrafactual viable es de las pocas ramas de la explicabilidad con utilidad directa de producto: no solo dice por qué el modelo rechazó, sino qué puede hacer el usuario al respecto. Si PACE cumple lo que promete su planteamiento, el valor estará menos en el algoritmo y más en obligar a las organizaciones a explicitar sus reglas.