Una popular youtuber ucraniana ha descubierto que existen avatares de inteligencia artificial idénticos a ella en las plataformas de redes sociales chinas, donde promocionan productos rusos. Estos avatares hablan mandarín y se han vuelto virales durante las celebraciones del Año Nuevo Lunar.
Olga Loiek, una estudiante ucraniana de ciencias cognitivas en la Universidad de Pensilvania, abrió recientemente un canal de YouTube donde comparte sus pensamientos sobre la salud mental y la filosofía de vida. Sin embargo, pronto comenzó a recibir mensajes de seguidores diciendo que la habían visto en las redes sociales chinas, pero con un nombre diferente y promoviendo el amor por China.
Estos avatares, creados con imágenes en línea robadas y reproducidas, se han vuelto tan realistas que incluso las personas reales pueden reconocerse en los videos. Algunos de los avatares de Loiek hablan sobre la relación entre Rusia y China, mientras que otros elogian la cultura y la historia chinas. Incluso hay videos en los que los avatares hablan sobre el interés de las mujeres rusas en casarse con hombres chinos.
Loiek se sintió violada y decidió investigar más a fondo. Descubrió que había docenas de videos de avatares de ella misma hablando mandarín en plataformas como Douyin y Bilibili. Estas cuentas invitan a los espectadores a visitar tiendas en línea para comprar productos rusos auténticos.
Douyin ha etiquetado algunos de estos videos como generados por IA, pero muchos espectadores creen que son reales. Esto ha llevado a Loiek a sentirse frustrada, ya que nunca diría las cosas que los avatares dicen, especialmente considerando la tensa relación entre Ucrania y Rusia.
Algunos de estos videos en Bilibili están marcados con el logotipo de HeyGen, una empresa de inteligencia artificial con sede en Los Ángeles que se especializa en avatares digitales realistas. HeyGen se ha valorado en 75 millones de dólares y su tecnología se ha utilizado en videos virales de IA de personajes famosos como Donald Trump y Taylor Swift hablando mandarín.
Según la política de moderación de HeyGen, los usuarios no pueden generar avatares que representen a individuos reales sin su consentimiento explícito. Sin embargo, no está claro cómo algunas personas en China han logrado eludir este requisito al hacer videos de Loiek.
Después de que Loiek y sus seguidores de YouTube presentaran quejas a las plataformas de redes sociales chinas, algunas cuentas que la imitaban fueron eliminadas. Sin embargo, ella cree que se necesitan regulaciones más estrictas sobre la IA para evitar que esto vuelva a suceder.
El gobierno chino ya ha implementado algunas disposiciones para regular los deepfakes y otros servicios de síntesis profunda, pero Loiek y otros internautas piden regulaciones más estrictas. A medida que los gigantes tecnológicos chinos continúan invirtiendo en tecnología de IA, es importante abordar los problemas éticos y de privacidad que surgen de su uso.
A pesar de esta experiencia, Loiek no tiene planes de abandonar YouTube ni de dejar de publicar. Ella espera que se establezcan marcos regulatorios para evitar que situaciones como esta ocurran en el futuro.