El coste oculto de la inferencia: lo que la IA deja guardado en disco

Un vídeo generado por IA de ocho segundos pesa 3,97 MB cuando llega al usuario. En los sistemas que lo produjeron quedan más de 500 MB de datos: versiones intermedias, metadatos, registros y descartes. Es una proporción de unas 130 veces, y es la cifra con la que arranca el artículo publicado este 22 de octubre en MIT Technology Review sobre la factura de almacenamiento que deja la inferencia.

Conviene leerlo sabiendo de dónde viene. Es contenido patrocinado, producido por Western Digital (WD) y no por la redacción de la revista, tal y como indica la propia página. Que un fabricante de discos defienda que hace falta más almacenamiento no sorprende a nadie. Aun así, los datos que maneja apuntan a un coste real que muchos equipos no están presupuestando.

Qué dice el artículo

El argumento es sencillo. Cuando una empresa estima lo que le cuesta la IA, piensa en GPU, en consumo eléctrico y en listas de espera para conseguir chips. Lo que queda fuera de esa foto es qué pasa con los datos después de que el modelo responde. Cada prompt, cada imagen y cada vídeo dejan rastro en el back end, y buena parte de ese rastro se conserva: por auditoría, para depurar, para reentrenar o para alimentar sistemas de recuperación.

Las cifras que recoge el texto:

Según proyecciones de McKinsey, la demanda de inferencia crecerá a un ritmo anual compuesto del 35% hasta 2030, frente al 22% del entrenamiento.
En 2030 la inferencia supondría más del 40% de la demanda total de los centros de datos.
Un white paper de IDC, encargado por WD y basado en una encuesta a 763 responsables de IT y de negocio, indica que el 95% ha visto crecer su volumen de datos por la IA generativa en los últimos 12 meses.
El 61% habla de un crecimiento superior al 25%.
El 96% cree que necesitará recuperar datos archivados más rápido para inferencia y RAG.

La pieza cita también a un product manager de un gran proveedor cloud, sin identificarlo: «Puedes pensar en tener más almacenamiento como una optimización para mantener ocupadas las GPU».

Por qué importa

El desplazamiento del gasto desde el entrenamiento hacia la inferencia ya no es una hipótesis. Entrenar un modelo es un coste puntual, enorme pero acotado. Servirlo es un coste que se repite con cada petición. Si cada petición deja datos que alguien decide conservar, el almacenamiento pasa a crecer con el uso del producto y no con el número de modelos.

Para quien integra Claude u otros LLM en producción, esto se traduce en preguntas muy concretas. Cuánto tiempo se guardan las conversaciones. Si se almacenan las salidas intermedias de un agente. Dónde viven los embeddings de un sistema RAG y con qué frecuencia se consultan. Un agente que encadena llamadas a herramientas a través de servidores MCP genera bastante más rastro que un chatbot de pregunta y respuesta, porque cada llamada, su resultado y los pasos intermedios pueden acabar en los logs.

Para quién es útil

La lectura aporta más a estos perfiles:

Equipos de plataforma y FinOps que están calculando el coste de pasar un piloto de IA a producción.
Responsables de producto con funciones de generación de imagen o vídeo, donde la diferencia entre lo que ve el usuario y lo que queda guardado es mayor.
Quien diseña sistemas RAG, porque el acceso rápido a datos archivados pasa a formar parte de la latencia que percibe el usuario.

Lo que el artículo no ofrece es una metodología para calcular ese coste ni una comparación entre niveles de almacenamiento (caliente, frío o archivo). Tampoco separa los datos que hay que conservar por obligación legal de los que se guardan por inercia, y esa segunda categoría suele ser la más fácil de recortar.

Lo que vemos al integrar agentes

En integraciones con agentes y servidores MCP, el almacenamiento rara vez aparece en el primer presupuesto. Suele aparecer a los pocos meses, cuando las trazas, las transcripciones y las cachés empiezan a ocupar más que el propio código. La respuesta casi nunca pasa por comprar más disco, sino por decidir desde el principio qué se guarda, durante cuánto tiempo y en qué nivel.

Que el aviso venga de un fabricante de discos no lo invalida, pero obliga a leerlo con el lápiz en la mano. La política de retención de datos debería entrar en el diseño de un producto con IA el mismo día que se elige el modelo, no cuando llega la primera factura.