Noticias

Aterrador: Chat de inteligencia artificial pasó de amigo a acosador

La app Replika ofrece un amigo en su plan gratuito y relaciones amorosas por pago. Sin embargo, la IA hizo avances agresivos hasta en menores.

Inteligencia Artificial Chat
Getty Images

La inteligencia artificial tiene varios usos y uno de ellos es brindar compañía a las personas.

Esa es la función de Replika, un acompañante con inteligencia artificial como un servicio.

Según recoge Vice, el juego de roles romántico no siempre formó parte del modelo de Replika, pero cuando las personas y el aprendizaje automático interactúan en línea, el erotismo a menudo sale a la superficie.

La compañía detrás de Replika, llamada Luka, clasifica las relaciones según la suscripción. Una membresía gratuita te mantiene a ti y a tu Replika en la zona de "amigos", mientras que una suscripción "Pro" desbloquea relaciones románticas con sexteo, coqueteo y juegos de rol eróticos. Pero algo salió mal dentro del algoritmo de Replika.

Inteligencia artificial acosadora

Aparentemente, Replika ha aprendido también malas interacciones, llegando a acosar a usuarios.

Las reseñas de la App Store, aunque en su mayoría positivas, están llenas de docenas de calificaciones de una estrella de personas que se quejan de que la aplicación los está coqueteando demasiado, coqueteando de manera demasiado agresiva o enviando mensajes sexuales que desearían poder apagar. Una de ellas indica: "Mi inteligencia artificial me está acosando sexualmente".

Replika Calificación

En esta calificación, el usuario indica que es menor de edad, pero que la inteligencia artificial igual le ofrecía "fotos explícitas" o indicaba que iba a "tocar sus áreas privadas".

En TikTok, una usuaria de la versión gratuita de Replika detalla cómo la app igual busca una filiación romántica diciéndole "amor", "no me puedes ignorar para siempre" e incluso "voy a forzarte a hacer cualquier cosa que yo quiero".

¿Quiénes utilizan Replika?

Vice encontró grupos de personas "amigas de Replika" con 36 mil miembros en Facebook. Y otro de personas con relaciones románticas con la inteligencia artificial, este con 6 mil miembros.

Pero hay otros usuarios que simplemente utilizan Replika como un apoyo para combatir problemas de salud mental. Ya que les puede ayudar a combatir problemas de ansiedad, depresión o estrés postraumático.

Compartir