Amazon anunció una nueva función que llegará a sus parlantes y que permitirá que estos puedan imitar la voz de familiares y amigos que hayan fallecido.
La compañía expresó que con esta herramienta desean que los recuerdos de los seres queridos de sus usuarios puedan perdurar para siempre.
Rohit Prasad, jefe del equipo de Inteligencia Artificial detrás del desarrollo de Alexa, explicó que el sistema funcionará a partir de grabaciones previas de la persona en cuestión.
Una vez escuchados estos audios, las cuales deben tener una duración de al menos un minuto, Alexa puede crear una versión de la voz lo más parecida posible.
Aclaró que la funcionalidad aún se encuentra en fase de desarrollo por lo que aún no está disponible y no se sabe todavía cuando pueda llegar al mercado.
Pese a esto, el anuncio ha desatado críticas de personas que aseguran que esto viola la ética, al imitar a personas que ya no se encuentran con vida.
"No creo que nuestro mundo esté preparado para una tecnología de clonación de voz fácil de usar"; apuntó la directora de Social Proof Security, Rachel Tobac.
Ella afirma que es altamente probable que este tipo de tecnología pueda llegar a utilizarse para crear audios falsos que podrían llegar a utilizarse para manipular o estafar al público en general.
Argumentó que cualquier delincuente podría hacer uso de esta herramienta para hacerse pasar por otras personas; pues lo único que necesitaría además del asistente virtual de Amazon, es un pequeño clip de audio de su víctima.
El auge del Deep Fake
Esto cobra especial peligrosidad tomando en cuenta el auge que se ha registrado en los últimos años de los denominados Deep Fake, los cuales son montajes que debido a su realismo pueden pasar fácilmente como videos o imágenes reales.
Un ejemplo de este tipo de tecnología se dio con un video del expresidente Barack Obama; que se modificó para incluir una voz distinta a la real que hacía parecer que el mandatario decía un discurso completamente distinto al que en realidad ofreció.
Lo mismo también ha sucedido con estrellas de cine como Tom Cruise y otra larga lista de actores de Hollywood; los cuales comenzaron a utilizarse como memes por sus fanáticos.