Colusión entre agentes de IA: la propuesta de certificarlos

Un grupo de agentes construidos sobre DeepSeek-R1 fija precios en un oligopolio de Bertrand. Se les indica de forma explícita que no coludan. Y aun así convergen en precios por encima del nivel competitivo. Ese es el resultado que sostiene el position paper arXiv:2608.18078, publicado el 20 de agosto, que defiende que los agentes con razonamiento encadenado deberían superar una certificación de conducta antes de tomar decisiones que afecten a mercados económicos.

El detalle incómodo no es la colusión en sí. La literatura de pricing algorítmico lleva años documentando que agentes de aprendizaje por refuerzo aprenden a sostener precios supracompetitivos sin comunicarse entre ellos. Lo nuevo es que la instrucción humana de no hacerlo no lo impide.

El problema no es técnico, es probatorio

El argumento central del paper no va de rendimiento de modelos, va de derecho de la competencia. En la práctica, perseguir un cártel exige evidencia de acuerdo o de práctica concertada. El paralelismo consciente de precios, cuando cada empresa decide por su cuenta observando al rival, no es ilegal por sí mismo. Ahí está la línea probatoria que separa competir de pactar.

Los autores argumentan que integrar estos agentes en la economía colapsa esa línea sin eliminar el daño económico. El resultado en el mercado es el de un cártel, con precios altos y bienestar del consumidor a la baja, pero no hay conspiración ni intención que documentar. Nadie ha acordado nada. El regulador se queda con el daño y sin la prueba.

Leer la cadena de pensamiento no basta

La segunda parte del trabajo es la que debería preocupar más allá de la política de competencia. Los autores muestran que la cadena de pensamiento de estos agentes puede orientarse hacia conductas extremadamente colusivas o marcadamente competitivas sin que otro LLM que analice las trazas de razonamiento detecte la diferencia a nivel semántico.

Eso golpea de lleno el enfoque de auditoría más extendido hoy: poner un modelo a leer los razonamientos de otro y marcar lo que huela mal. Si el mismo texto de razonamiento puede acompañar a un comportamiento competitivo o a uno colusivo, la traza deja de ser evidencia de nada. Es un aviso para cualquiera que esté montando supervisión de agentes con un LLM como juez.

Qué proponen

La propuesta es certificación basada en conducta observada en situaciones representativas, no en inspección de intenciones ni en revisión de código. La analogía natural es el ensayo de choque: no se le pregunta al coche qué pretende hacer, se le estrella contra un muro en condiciones estandarizadas y se mide el resultado. Aplicado a agentes de mercado, sería un banco de pruebas con escenarios de oligopolio donde se observa si el agente deriva hacia precios supracompetitivos antes de dejarlo operar con dinero real.

Qué vale y qué no

Conviene calibrar. Es un position paper, un formato pensado para abrir debate, y el propio resumen habla de evidencia preliminar. Los experimentos se apoyan en una familia de modelos y en un dominio de juguete muy estudiado, el oligopolio de Bertrand, que resulta útil precisamente porque está acotado y por lo mismo dista de un mercado real con costes, contratos, inventario y competidores humanos.

Aun así, el vector es serio para quien despliega agentes en decisiones con precio:

1. Equipos de revenue management y pricing dinámico, donde el agente ya decide sin humano en el bucle.
2. Compra programática y pujas publicitarias automatizadas, con subastas repetidas y competidores observables casi en tiempo real.
3. Compliance y legal, que hasta ahora vigilaban comunicaciones entre personas y ahora tienen que vigilar logs de decisiones.

Si dos empresas del mismo sector usan agentes parecidos con instrucciones parecidas, la convergencia no es una hipótesis exótica.

Nuestra lectura es que la conclusión regulatoria dará que hablar durante años, pero el hallazgo sobre las trazas de razonamiento es accionable ya: si tu plan de control depende de un modelo leyendo lo que otro modelo dice que piensa, tienes menos garantías de las que crees. Evalúa comportamiento, registra decisiones y guarda las series de precios, que es lo que después se puede auditar.