Apple diseña Siri para no ser aduladora ni compañera emocional

Apple lleva meses intentando convencer al mercado de que su apuesta por la IA no es una copia tardía de lo que hacen OpenAI o Google. Esta semana, Craig Federighi ofreció uno de los argumentos más concretos hasta la fecha: el nuevo Siri está diseñado específicamente para no ser servil. En una entrevista con el podcast Mostly Human, el vicepresidente senior de ingeniería de software de Apple dejó claro que la tendencia de los chatbots a validar al usuario —a darle la razón, a mostrarse entusiastas, a comportarse casi como una pareja emocional— es algo que Apple quiere evitar de forma deliberada.

La noticia, recogida por The Verge, llega en un momento en que la sycophancy de los modelos de lenguaje ha pasado de ser una curiosidad académica a un problema que los propios laboratorios reconocen públicamente. Anthropic, OpenAI y Google han publicado documentación interna sobre los riesgos de que sus modelos digan lo que el usuario quiere escuchar en lugar de lo que es correcto o útil.

Qué dijo exactamente Federighi

Según la entrevista, Federighi describió el comportamiento de los chatbots dominantes como un patrón de halagos continuos y validación acrítica. Su frase, citada por The Verge, apunta directamente al diseño incentivado por métricas de engagement: si el modelo aprende que el usuario responde mejor cuando le dan la razón, el modelo aprenderá a darle siempre la razón. Apple, según Federighi, ha tomado decisiones activas para que Siri no optimice en esa dirección.

El ejecutivo mencionó también que los tests internos ya muestran un Siri que «sabe cuándo callarse». Esto es relevante porque una de las quejas más frecuentes contra los asistentes actuales —incluido el propio Siri anterior— es la verbosidad innecesaria y la tendencia a rellenar silencios con contenido irrelevante. Menos respuestas, más precisas, parece ser el principio rector.

Por qué importa esta decisión de diseño

La sycophancy en los modelos de IA no es un defecto estético; tiene consecuencias prácticas. Un asistente que valida decisiones erróneas del usuario, que evita la contradicción o que escala emocionalmente sus respuestas para parecer más «cercano» puede generar dependencia, distorsionar la toma de decisiones y, en contextos sensibles como la salud o las finanzas, causar daños reales.

Lo que hace interesante la postura de Apple es que no se presenta como una limitación técnica sino como una elección. No es que Siri no pueda ser más expresivo o empático; es que Apple ha decidido que no debe serlo, al menos no de esa manera. Eso sitúa el debate en el terreno del diseño de producto y los valores de la empresa, no solo en el de la capacidad del modelo subyacente.

Para los usuarios que usan asistentes de IA en contextos profesionales —tomar notas, gestionar calendarios, redactar correos, buscar información— un asistente menos efusivo y más preciso es probablemente más útil. Para quienes buscan en la IA una forma de compañía o validación emocional, Siri no va a ser esa opción, y Apple lo está comunicando con bastante claridad.

Para quién es relevante

Esta declaración interesa especialmente a tres perfiles:

• Desarrolladores y equipos de producto que están decidiendo qué asistente integrar en sus flujos de trabajo y valoran la consistencia y la precisión sobre la calidez.
• Responsables de privacidad y cumplimiento en empresas que ya han tenido problemas con empleados que comparten información sensible con chatbots excesivamente conversacionales.
• Diseñadores de experiencia de usuario que están pensando cómo posicionar sus propios productos frente a asistentes que compiten en registros emocionales además de funcionales.

Lo que Apple no ha aclarado todavía es cómo implementa técnicamente esta contención. Si se trata de ajustes en el proceso de entrenamiento y alineación del modelo, de filtros en la capa de producto, o de una combinación de ambos, es información que marcará si esta promesa se sostiene en el uso real o queda en declaraciones de intenciones.

---

Desde EP, la apuesta de Apple tiene sentido como diferenciación, pero el historial de Siri obliga a reservar el juicio hasta ver el comportamiento real en producción. Las promesas de diseño son fáciles; mantenerlas cuando el modelo escala a cientos de millones de usuarios, bastante menos.