Amor y muerte con Chat GPT

Hace algo más de 10 años Joaquin Phoenix se enamoraba del sistema operativo de su ordenador, una intuitiva y sensible entidad llamada Samantha, en la película Her. Esto que en su momento pudo parecer extraño, fue en realidad un presagio de lo que años más tarde, con la llegada de la IA estaba por llegar.

Si buceamos en TikTok, encontramos numerosos videos en los que los usuarios ponen a prueba a sus parejas usando la tecnología para que analice sus mensajes y ver si son válidos, si han sido realizados con Chat GPT o si demuestran amor verdadero. Incluso hay usuarios que confiesan estar enamorados de la IA con la que comparten conversaciones y mensajes como si fuera su pareja real.

Desde Avast, empresa especializada en software antivirus, detectaron el uso fraudulento de la IA en aplicaciones de citas para robar datos a los usuarios incautos. La actividad de esta inteligencia artificial a la que han denominado Love GPT, detectada en 13 plataformas diferentes entre las que se encuentran Bumble o Tinder, imita la interacción humana creando conversaciones genuinas que podrían parecer reales. La finalidad de esta herramienta es engatusar y engañar a aquellos que piensen que están entablando relaciones auténticas con una posible pareja, pero en realidad no saben que, lo que hay detrás, es un bot que se hará con sus datos y todo tipo de información para timar a sus víctimas.

Esta necesidad del ser humano de llenar huecos de soledad ha posibilitado el surgimiento de empresas como Replika, cuyo modelo de negocio consiste en ofrecer a los usuarios un compañero de IA que está siempre preparado para escuchar, dar conversación y compañía. Se puede crear al amigo o pareja soñado, con las características que se quiera, diseñado específicamente para ser la compañía perfecta que cada usuario necesite.

Pero no solamente en el amor tiene cabida Chat GPT, la muerte es otra línea de negocio creciente para esta tecnología en auge.

Replika permite crear perfiles de personas fallecidas para que puedan seguir escribiéndote y estar presentes en tu vida. Esto sin duda presenta un abanico de dilemas morales. El primero de todos, se usurpa la identidad de alguien que no ha podido dar su consentimiento, además de que puede ser muy dañino para aquellas personas que buscan consuelo y sobrellevar el dolor reemplazando a su ser querido por una IA.

Replika no es la única compañía en este sector. En los últimos años, han surgido otras empresas como Anima, Butterflies, Dot y Kuki, que ofrecen servicios similares e incluso permiten crear avatares digitales basados en la personalidad y apariencia de la persona fallecida.

¿Hasta qué punto es ético jugar con la desazón y la soledad de la gente para lucrarse? ¿Podrá llegar a ponerse filtros legales a este tipo de actividades? Esperaremos a ver si alguna película nos hace spoiler de la vida real.

Firmado por: Susana Jiménez.