La realidad está superando la ficción y es que con la llegada de la Inteligencia Artificial, algunas personas están retando los niveles de seguridad de algunas empresas o que tan reales podrían parecer en el día a día.
Este es el caso de la columnista de Wall Street Journal, Joanna Stern quién trató de averiguar qué tan real se veía un avatar digital de ella misma. El resultado que experimentó fue sorprendente, ya que logró engañar a su familia y al sistema de reconocimiento de voz de su banco.
Joanna usó la herramienta Synthesia, un desarrollador que crea avatares de video basados en grabaciones y audios de personas reales. Cuando se crea al clon, el usuario puede ingresar el texto que desea que se repita.
La startup Synthesia cobra mil dólares por año para crear y mantener un avatar virtual y además cobra a los usuarios una tarifa mensual adicional. Unas semanas después, el clon digital de la periodista estaba listo, tras lo cual comenzaron sus pruebas.
Joanna generó texto para un video para TikTok de iOS usando ChatGPTy lo subió a Synthesia.
Después de que el avatar se viera en video, Joanna decidió probar un clon de voz, cuando estuvo listo, decidió contactarse con su hermana, y sin esperarlo, ella no notó el problema de inmediato, pero unos momentos después notó que el clon de voz no se detuvo para recuperar el aliento durante la conversación. Entonces, su papá llamó y le pidió que le su número de seguro social. Podía ver el truco porque la voz de Joanna sonaba como si estuviera en una cinta. A pesar de ello, los familiares de la periodista no se percataron inmediatamente de que no era una persona viva quien se comunicaba con ellos, aunque durante mucho tiempo no lograron engañarla.
Después de su familia, se hizo otra llamada al apoyo de Chase Bank. Anteriormente, al algoritmo se le hacían varias preguntas que debían responderse en el proceso de reconocimiento de voz del banco. Después de una breve conversación, Joanna se comunicó con un representante del banco ya que el sistema de reconocimiento de voz no detectó ningún problema.
La voz generada por el servicio de ElevenLabs resultó ser lo más parecida posible a la voz de Joanna. Esto significa que cualquiera puede crear fácilmente la voz de cualquiera de sus amigos o celebridades.
Un representante de ElevenLabs dijo que la compañía solo permite que los titulares de cuentas pagas clonen sus voces. Si se viola la política de la plataforma, la cuenta de usuario será bloqueada. Además, los desarrolladores planean lanzar un servicio que permitirá subir cualquier audio para verificar que se utilizó el algoritmo de ElevenLabs en su creación.
Joanna señaló que cada uno de los algoritmos que usa aún no es capaz de crear una copia indistinguible del original. ChatGPT generó texto sin depender del conocimiento y la experiencia de un periodista. El servicio Synthesia ha creado un avatar que parece una persona, pero no puede transmitir todos los rasgos distintivos del usuario. Finalmente, el sistema de ElevenLabs produce un lenguaje muy similar, pero tampoco es perfecto. En el futuro, las tecnologías de IA avanzarán y probablemente solo será más difícil distinguir un avatar virtual de una persona real en el proceso de comunicación en el futuro.