Acusado de asesinato termina de modelo para Shein: un recordatorio de los riesgos de la IA

La imagen de Luigi Mangione, acusado del asesinato del director ejecutivo de UnitedHealthcare, empezó a circular por internet hace unos meses convertido en un extraño e inesperado ídolo por el que mujeres hacían cola en la puerta del juzgado.

El salto definitivo a la viralidad llegó cuando fue proyectado en una discoteca de Boston durante una fiesta temática de Disney, mientras sonaba “He Could Be the One” de Hannah Montana. Una canción que va de la emoción y la confusión que siente la protagonista al darse cuenta de que alguien especial podría ser "el indicado" para ella.

Esta semana, su imagen apareció en otro lugar inesperado. Como modelo de un producto en la web de Shein. Pero es imposible que Mangione haya posado para esta campaña, pues se encuentra en prisión sin custodia.

“La imagen fue compartida por un vendedor externo y fue retirada de inmediato tan pronto como fue identificada. Shein aplica estrictos estándares para todo el contenido de la plataforma", ha explicado la empresa a FashionUnited "Estamos realizando una revisión exhaustiva, reforzando aún más nuestros sistemas de control, y tomaremos las medidas necesarias contra el vendedor de acuerdo con nuestras políticas”, aseguraban.

Un desliz técnico que pone bajo la lupa los riesgos de la automatización y la fragilidad de los sistemas de control en plataformas con catálogos infinitos.

Un rostro en la era de la IA

¿Cómo es posible que la imagen de un acusado de asesinato termine convertida en la de un modelo de catálogo? La respuesta está en los sistemas de entrenamiento de inteligencia artificial. Cuando un rostro se viraliza, su presencia en bancos de datos abiertos, foros o repositorios poco regulados, y con los que se entrena algunas IA, se multiplica. A partir de ahí, herramientas de bajo coste pueden “aprender” a utilizar esas imágenes sin tener en cuenta el contexto.

En el caso de Shein, buena parte del contenido proviene de third-party sellers, que muchas veces buscan atajos tecnológicos para producir grandes cantidades de material promocional rápido. Por lo que es posible que un vendedor haya usado una herramienta de IA de bajo coste, sin controlar el resultado final.

Aunque la inteligencia artificial aporta ventajas indudables para el comercio y la moda, el sector debe apostar por soluciones más cuidadas y transparentes para prevenir incidentes que puedan dañar su reputación. H&M, por ejemplo, ha recurrido al uso de digital twins. Estos modelos digitales creados a partir de personas reales que ceden —a cambio de una remuneración— el derecho a recrear y explotar su imagen de forma controlada. Este sistema garantiza tanto los derechos de los modelos como la trazabilidad de los contenidos, manteniendo la innovación sin perder el control.

Por otro lado, Desigual está desarrollando su estrategia junto a partners especializados.