En el mundo de las redes sociales, los creadores de contenido enfrentan un desafío cada vez más preocupante, mantener su salud mental en medio de una constante exposición a opiniones, ya sean halagos o ataques, pero ahora surge otra amenaza aún más inquietante que podría devaluar la figura del influencer.
Se trata de la proliferación de deepfakes en China, que son videos, imágenes o audios generados con inteligencia artificial que imitan la apariencia y el sonido de una persona, actualmente se les llama “medios sintéticos”.
En el show de Truman usa influencers clonados con inteligencia artificial
La Vanguardia a través de MIT Technology Review expuso que en China, los influencers se están convirtiendo en víctimas de deepfakes generados por inteligencia artificial.
Estos clones digitales permiten emitir contenido continuamente durante 24 horas al día, transformando a los influencers en simples rostros teledirigidos para aumentar los ingresos publicitarios.
Esta práctica plantea interrogantes sobre la autenticidad y la integridad de los influencers, ya que la línea entre lo real y lo sintético se desdibuja peligrosamente.
La facilidad y la accesibilidad para crear imágenes digitales fotorrealistas de cualquier persona plantean una nueva preocupación.
No se trata solo de los influencers; incluso las personas comunes podrían enfrentarse a la manipulación de sus imágenes en plataformas como TikTok, YouTube e incluso WhatsApp.
Aunque, por ahora, los deepfakes en China se limitan a la parte superior del cuerpo, la posibilidad de generar contenido sintético de cuerpo entero es un desafío que se avecina.
Johan Bolin, Chief Business Officer de Agile Content, empresa de creación de contenido audiovisual, considera que los deepfakes pueden ser herramientas válidas en campañas comerciales para adaptar contenido a audiencias específicas.
Sin embargo, advierte sobre los riesgos, especialmente en la creación de historias y noticias falsas que podrían influir en las opiniones del público.
Esta amenaza se vuelve aún más tangible cuando se piensa en influencers que abordan temas políticos, al prestar su imagen para la generación sintética que corren el riesgo de ser portavoces involuntarios de mensajes que no respaldan.
¿Los deepfakes podrían convertirse en malware?
José Antonio Pinilla, presidente y CEO de Asseco Spain Group, considera que los deepfakes pueden ser comparados con un nuevo tipo de malware y destacó la necesidad de implementar sistemas de ciberseguridad y protección de la identidad digital para detectar posibles deepfakes a tiempo.
La regulación de estas prácticas en la información y las relaciones laborales es una cuestión pendiente, y surgen preguntas, como si los influencers deberían recibir compensación cuando su doble digital está en pantalla.
Ahora que sabes esto, ¿podrías seguir confiando en todo lo que ves en redes sociales?
ERV