La IA no solo hereda sesgos al contratar, también los crea

La premisa con la que abre MIT Technology Review es incómoda y bastante literal: la próxima vez que te presentes a un puesto, es probable que un modelo de lenguaje lea tu currículum antes que ninguna persona. Lo que aporta el artículo, publicado este 20 de julio, no es esa constatación sino el matiz que trae la investigación que recoge. Ya sabíamos que los modelos absorben sesgos humanos de sus datos de entrenamiento, y ahora hay indicios de que además desarrollan sesgos propios, es decir, preferencias sistemáticas que no estaban en los datos de partida.

Esa distinción no es académica. Cambia por completo la estrategia de mitigación.

Heredar un sesgo y fabricarlo son problemas distintos

Si el sesgo viene del corpus, la respuesta pasa por curar datos, reponderar ejemplos y auditar el histórico de contratación con el que se entrenó o se ajustó el sistema. Es un problema difícil pero conocido, y hay una década de literatura sobre él en el machine learning clásico aplicado a recursos humanos.

Si el sesgo emerge del propio modelo, esas herramientas se quedan cortas. No puedes limpiar de los datos algo que no estaba en los datos. Te obliga a evaluar la salida del sistema como una caja negra y de forma continua, porque un cambio de versión del modelo, de temperatura o incluso de formulación del prompt puede mover el comportamiento sin que nadie toque el pipeline.

El filtrado de currículums es el peor sitio posible

El cribado de candidaturas reúne todas las condiciones para que un sesgo pase desapercibido. El volumen es alto, la decisión es de descarte (nadie reclama una negativa que nunca llega), no hay contrafactual observable (no sabes cómo habría rendido quien no pasó el filtro) y la señal es débil y muy correlacionada con variables protegidas: nombres, universidades, códigos postales, huecos en el historial laboral.

A eso se suma un patrón que vemos en proyectos reales: el modelo casi nunca está solo. Vive dentro de un flujo con puntuaciones, umbrales y automatismos, y el número que devuelve acaba tratándose como un dato objetivo porque viene de una API y no de un comité.

El calendario regulatorio ya no queda lejos

Para cualquier equipo que opere en Europa, esto llega en mal momento o en buen momento, según se mire. Las obligaciones del Reglamento Europeo de Inteligencia Artificial para sistemas de alto riesgo, categoría en la que entra explícitamente el uso de IA en empleo y selección de personal, empiezan a aplicarse el 2 de agosto de 2026, dentro de dos semanas. Eso implica gestión de riesgos, documentación técnica, registros, supervisión humana efectiva y requisitos de calidad de datos.

En Estados Unidos, la ley local 144 de Nueva York lleva desde 2023 exigiendo auditorías de sesgo anuales y notificación a los candidatos para las herramientas automatizadas de decisión en empleo. La dirección es la misma en ambos lados: la carga de la prueba recae sobre quien despliega el sistema, no sobre quien lo sufre.

Qué haríamos nosotros

Tres medidas concretas, ninguna exótica. Primero, no dejar que el modelo emita el veredicto: que extraiga y estructure información verificable del currículum y que el filtro lo aplique una regla explícita y auditable. Segundo, montar una evaluación con currículums pareados, idénticos salvo por la variable que quieres controlar, y ejecutarla en cada cambio de modelo o de prompt como si fuera un test de regresión. Tercero, guardar la traza completa de cada decisión, incluida la versión exacta del modelo, porque sin eso no hay auditoría posible ni forma de defenderse ante una reclamación.

La lectura templada es esta: el problema de fondo no es que la IA sea peor que las personas contratando, comparación que además cuesta medir bien. El problema es que escala la decisión a miles de candidaturas con una consistencia que convierte un sesgo pequeño en política de empresa. Si vas a automatizar el cribado, el trabajo serio no está en elegir el modelo, está en montar la evaluación que lo vigila.