Instagram apaga la herramienta de IA que generaba deepfakes de cuentas públicas

La función duró apenas unos días. Meta la presentó esta misma semana y, tras un rechazo considerable, la desactivó: permitía generar imágenes con IA a partir del contenido de cualquier cuenta pública de Instagram con solo etiquetarla. Tal y como estaba planteada, cualquiera podía alimentar el generador con las fotos de un perfil ajeno sin pedir permiso a su titular, y ese fue precisamente el detonante.

The Verge lo resumió en su titular sin eufemismos: la herramienta dejaba a los usuarios "hacer deepfakes con IA de cuentas públicas". The Verge detalló que el contenido de cualquier perfil abierto podía usarse en creaciones de IA sin autorización del dueño de la cuenta, y que la reacción fue lo bastante fuerte como para que Meta apagara la función en la misma semana en que la había anunciado.

El diseño que encendió el rechazo

Generar una imagen a partir de una foto ajena no es nuevo, y la calidad de estos modelos lleva tiempo siendo alta. Lo que cambió aquí fue quién decidía. El sistema no consultaba al perfil de origen: bastaba con etiquetarlo para que su contenido entrara en el proceso. Dicho de otro modo, la persona cuya imagen se remezclaba era la última en enterarse, si es que llegaba a enterarse.

Ese reparto de poder es lo que convierte una "herramienta creativa" en un problema serio. Cuando el permiso se presume en lugar de pedirse, el resultado práctico es que cualquiera puede producir versiones sintéticas de otra persona a partir de sus fotos públicas. Ahí es donde la palabra deepfake deja de sonar exagerada y describe con precisión lo que la función habilitaba.

Por qué "público" no equivale a "libre para remezclar"

El malentendido de fondo es antiguo y sigue vigente. Tener una cuenta pública significa aceptar que otros vean y compartan lo que publicas, no que tu cara pueda convertirse en material base de imágenes que tú no has creado ni aprobado. Para creadores, periodistas, activistas o cualquier persona con presencia pública, esa distinción marca la línea entre difusión y suplantación.

El riesgo no es solo reputacional. Una imagen sintética construida a partir de fotos reales puede sacarse de contexto, atribuir a alguien gestos o situaciones que nunca ocurrieron y circular sin ninguna marca visible de que es artificial. Que el punto de partida sea "una cuenta pública" no reduce ese daño: lo amplía, porque hay más material disponible y más fácil de encontrar.

Un patrón que ya hemos visto

El ciclo resulta familiar. Una plataforma grande lanza una función generativa con prisa por no quedarse atrás, el diseño de permisos se queda corto, llegan las críticas y la función se retira o se recorta. Ya ocurrió con otras herramientas de imagen y voz durante el último año. La novedad aquí es la rapidez: entre el anuncio y la marcha atrás pasaron días, no meses.

Esa velocidad sugiere que el problema no se detectó a tiempo dentro de la empresa, o que se detectó y se lanzó igualmente. Ninguna de las dos lecturas deja bien parado al proceso de revisión previa. Para los usuarios, el mensaje incómodo es que las reglas sobre el uso de su contenido pueden cambiar de una actualización a otra.

Qué deja el episodio

Meta ha dado marcha atrás, pero no ha explicado si prepara una versión con consentimiento explícito ni qué controles añadiría. Para el sector, el aprendizaje es concreto: en funciones que generan imágenes de personas, el permiso del sujeto no puede ser un ajuste opcional escondido en la configuración. Tiene que ser el punto de partida del diseño.

En ElephantPink lo vemos a menudo cuando ayudamos a integrar modelos generativos en productos reales: la parte difícil casi nunca es la generación, sino decidir quién tiene derecho a usar la imagen de quién. Meta acaba de recordar, en tiempo récord, lo caro que sale saltarse esa pregunta.