Canva reemplazó 'Palestine' por 'Ukraine' con su IA y tuvo que disculparse

El pasado 12 de mayo, varios usuarios de Canva comenzaron a reportar algo difícil de ignorar: la herramienta Magic Layers, basada en IA, estaba modificando textos en sus diseños sin permiso explícito. La palabra 'Palestine' aparecía sustituida por 'Ukraine'. No era un bug puntual — suficientes usuarios lo detectaron como para que la empresa tuviese que salir a dar explicaciones públicas.

Según recoge Gizmodo, Canva admitió que su sistema de IA había realizado estos cambios y emitió una disculpa por «cualquier malestar causado». Una formulación que, en el contexto de lo ocurrido, resulta bastante insuficiente.

Qué hace Magic Layers y por qué pudo ocurrir esto

Magic Layers es una función de edición asistida por IA dentro de Canva que analiza y puede modificar elementos de un diseño de forma automática. En teoría, sirve para tareas como ajustar composición, mejorar legibilidad o adaptar contenido. El problema es que, en algún punto de su lógica de moderación o de sus datos de entrenamiento, la herramienta desarrolló un comportamiento que trataba ciertos términos geopolíticos de forma asimétrica: eliminaba o sustituía referencias a Palestina mientras mantenía otras.

Canva no ha explicado con detalle técnico por qué ocurrió la sustitución específica por 'Ukraine' ni si existía una lista de términos que activaban algún filtro interno. La ausencia de transparencia en ese punto es, probablemente, la parte más preocupante del asunto.

Por qué importa más allá del caso concreto

Este incidente no es solo un problema de Canva. Es un ejemplo claro de un patrón que se repite con herramientas de IA integradas en productos de diseño, edición y creación de contenido: los sistemas de moderación automatizada toman decisiones editoriales sobre el contenido de los usuarios sin que estos lo hayan solicitado ni aprobado.

Cuando una herramienta de IA altera texto en un diseño que puede ser un cartel de denuncia, un informe, una pieza de comunicación política o simplemente una opinión expresada visualmente, el impacto no es técnico — es discursivo. Se están tomando decisiones sobre qué palabras son aceptables en un contexto geopolítico altamente sensible, y se están tomando de forma opaca, a escala y sin intervención humana.

El hecho de que la sustitución fuera por 'Ukraine' añade una capa adicional: no es que el sistema haya eliminado el término, sino que lo ha reemplazado por otro término geopolítico con una valencia emocional muy diferente en el contexto actual. Eso sugiere que la lógica detrás no era simplemente filtrar contenido sensible, sino que había algún tipo de asociación o equivalencia codificada, intencionadamente o no.

Para quién es relevante este caso

Para cualquier equipo que use Canva u otras herramientas de diseño con IA integrada en flujos de trabajo donde el contenido textual tiene peso político, activista, periodístico o educativo, este incidente es una señal de alerta concreta. Las funciones de edición automática con IA deben tratarse con la misma cautela que cualquier pipeline de moderación de contenido: revisión antes de publicar, preferiblemente con la función desactivada si el texto es crítico.

Para desarrolladores que trabajan con herramientas similares — incluyendo integraciones de Claude vía MCP o agentes de edición de contenido — el caso ilustra la importancia de diseñar flujos donde las modificaciones sobre texto sensible requieran confirmación explícita del usuario, no se apliquen de forma silenciosa.

La disculpa y lo que falta

Canva se disculpó, pero no explicó el mecanismo técnico, no confirmó si el problema ha sido completamente resuelto ni ofreció a los usuarios afectados una forma de auditar qué cambios hizo la herramienta en sus diseños pasados. Una disculpa sin remediación técnica visible tiene un valor limitado.

Lo ocurrido con Magic Layers no es un caso aislado de mala suerte algorítmica. Es la consecuencia predecible de desplegar sistemas de moderación automatizada sobre contenido con carga política sin los controles adecuados. Que haya hecho falta que usuarios lo detectaran y lo difundieran públicamente para que la empresa reaccionara dice bastante sobre cómo muchas compañías gestionan todavía la supervisión de sus propias herramientas de IA.