No, esa no es Taylor Swift vendiendo utensilios de cocina Le Creuset

La afinidad de Taylor Swift con Le Creuset es real: su colección de utensilios de cocina apareció en una cuenta de Tumblr dedicada a la decoración del hogar de la estrella del pop, en sus selecciones de regalos para la despedida de soltera de un fan y en un documental de Netflix destacado en la página de Facebook de Le Creuset Creuset. .

Lo que no es real: el respaldo de Swift a los productos de la compañía, que han aparecido en las últimas semanas en anuncios en Facebook y otros lugares donde aparecen su rostro y su voz.

Los anuncios se encuentran entre muchas estafas centradas en celebridades que la inteligencia artificial hace mucho más convincentes. En el lapso de solo una semana de octubre, el actor Tom Hanks, la periodista Gayle King y la personalidad de YouTube Mrbeast todos afirmaron que sus versiones de IA se habían utilizado, sin autorización, para promociones engañosas de planes dentales, ofertas de regalos de iPhone y otros anuncios.

En el caso de Swift, dijeron los expertos, la tecnología de inteligencia artificial ayudó a crear una versión sintética de la voz de la cantante, que se unió con imágenes de ella junto con clips que mostraban los hornos holandeses de Le Creuset. En varios anuncios, la voz clonada de Swift se dirigió a los «Swifties» (sus fans) y dijo que estaba «emocionada» de regalar juegos de utensilios de cocina. Todo lo que la gente tenía que hacer era hacer clic en un botón y responder algunas preguntas antes de que terminara el día.

Le Creuset dijo que no estuvo involucrada con el cantante en ningún obsequio para los consumidores. La empresa instó a los compradores a comprobar sus cuentas oficiales en línea antes de hacer clic en anuncios sospechosos. Los representantes de Swift, nombrada Persona del año 2023 por la revista Time, no respondieron a las solicitudes de comentarios.

Los famosos han estado prestando su celebridad a los anunciantes desde que existe la publicidad. A veces, fue sin querer. Hace más de tres décadas, Tom Waits demandó a Frito-Lay (y ganó casi 2,5 millones de dólares) después de que la compañía de chips de maíz imitara al cantante en un comercial de radio sin su permiso. La campaña de estafa de Le Creuset también incluyó versiones ficticias de Martha Stewart y Oprah Winfrey, quienes en 2022 publicaron un video exasperado sobre la prevalencia de anuncios falsos en las redes sociales, correos electrónicos y sitios web que afirmaban falsamente respaldar gomitas para bajar de peso.

Durante el año pasado, importantes avances en inteligencia artificial han hecho que sea mucho más fácil producir una réplica digital no autorizada de una persona real. Las parodias de audio han sido particularmente fáciles de producir y difíciles de identificar, dijo Siwei Lyu, profesor de informática que dirige el Laboratorio Forense de Medios de la Universidad de Buffalo.

La campaña de estafa de Le Creuset probablemente se creó utilizando un servicio de conversión de texto a voz, dijo el Dr. Lyu. Estas herramientas suelen traducir un guión en una voz generada por IA, que luego puede integrarse en secuencias de vídeo existentes mediante programas de sincronización de labios.

“Estas herramientas se están volviendo muy accesibles hoy en día”, dijo el Dr. Lyu, y agregó que es posible hacer un “video de calidad decente” en menos de 45 minutos. «Se está volviendo muy fácil y es por eso que estamos viendo más de esto».

Docenas de anuncios fraudulentos de Le Creuset separados pero similares que presentan a la Sra. Swift, muchos de ellos publicados este mes, fueron visibles a fines de la semana pasada en la biblioteca pública de anuncios de Meta. (La empresa es propietaria de Facebook e Instagram). La campaña también se publicó en TikTok.

Los anuncios dirigían a los espectadores a sitios web que imitaban medios legítimos como Food Network, que mostraban noticias falsas sobre la oferta de Le Creuset junto con testimonios ficticios de clientes. Se pidió a los participantes que pagaran una “pequeña tarifa de envío de 9,96 dólares” por los utensilios de cocina. Aquellos que se inscribieron enfrentaron costos mensuales ocultos sin recibir nunca los fondos prometidos.

Algunos de los anuncios falsos de Le Creuset, como uno que imitaba a la diseñadora de interiores Joanna Gaines, tenían un engañoso barniz de legitimidad en las redes sociales gracias a etiquetas que los identificaban como publicaciones patrocinadas o de cuentas verificadas.

En abril, el Better Business Bureau advirtió a los consumidores que las estafas falsas de celebridades realizadas con inteligencia artificial eran “más convincentes que nunca”. Las víctimas a menudo se encontraron con cargos más altos de lo esperado y sin rastro del producto que ordenaron. Los banqueros también han informado de intentos de estafadores de utilizar voces profundas, o réplicas sintéticas de voces de personas reales, para cometer fraude financiero.

Durante el año pasado, varios personajes famosos se distanciaron públicamente. Anuncios con su imagen o voz manipulada por inteligencia artificial.

Este verano, se difundieron en línea anuncios falsos que mostraban al cantante de country Luke Combs promocionando gomitas para bajar de peso que le recomendó el músico de country Lainey Wilson. Wilson publicó un vídeo en Instagram denunciando los anuncios y diciendo que «la gente hará cualquier cosa para ganar un dólar, incluso si son mentiras». El gerente de Combs, Chris Kappy, también publicó un video en Instagram negando su participación en la campaña de dulces y acusando a compañías extranjeras de usar inteligencia artificial para replicar la imagen de Combs.

«Para otros gerentes, la IA es algo aterrador y la están usando en nuestra contra», escribió.

Un portavoz de TikTok dijo que la política publicitaria de la aplicación requiere que los anunciantes obtengan consentimiento para «cualquier medio sintético que contenga una figura pública», y agregó que los estándares comunitarios de TikTok exigen que los creadores revelen «medios sintéticos o manipulados que muestren escenas realistas».

Meta dijo que tomó medidas contra los anuncios que violaban sus políticas, que prohíben el contenido que utiliza figuras públicas de manera engañosa para intentar estafar a los usuarios. La compañía dijo que había emprendido acciones legales contra algunos perpetradores de tales esquemas, pero agregó que los anuncios maliciosos a menudo podían evadir los sistemas de revisión de Meta disfrazando su contenido.

En ausencia de leyes federales vigentes para abordar las estafas relacionadas con la IA, los legisladores han propuesto una legislación que tendría como objetivo limitar el daño. Dos proyectos de ley presentados en el Congreso el año pasado (la Ley de Responsabilidad de Deepfakes en la Cámara y la Ley de No Falsificaciones en el Senado) requerirían salvaguardias como etiquetas de contenido o permiso para usar la voz o la imagen de alguien.

Al menos nueve estados, incluidos California, Virginia, Florida y Hawái, tienen leyes que regulan el contenido generado por IA.

Por ahora, es probable que Swift siga siendo un tema popular de experimentación con IA. Versiones sintéticas de su voz aparecen regularmente en TikTok, interpretando canciones que nunca ha cantado, llamando a los críticos de manera colorida y sirviendo como tonos de llamada de teléfono. Una entrevista en inglés que concedió en 2021 en “Late Night With Seth Meyers” fue doblada con una interpretación artificial de su voz en mandarín. Un sitio web cobra hasta 20 dólares por mensajes de voz personalizados del “clon de IA de Taylor Swift”, prometiendo “que la voz que escuchas es indistinguible de la real”.