Si busca compañía, no se fíe de cualquiera
El 25 de diciembre de 2021, Jaswant Singh Chail fue detenido por la guardia de seguridad del castillo de Windsor y condenado a 9 años de prisión. Su objetivo era asesinar a la reina Isabel.
A comienzos de 2023, un hombre belga se suicidó, supuestamente desesperado por el pesimismo que lo invadía debido al calentamiento global y las consecuencias medioambientales. Ambas historias tienen un elemento común. Las dos personas habían buscado refugio en aplicaciones generadas por Inteligencia Artificial, que proliferan cada vez más, y que se conocen como “AI girlfriend” o “AI boyfriend” (“Novia o novio por Inteligencia Artificial”).
La Fundación Mozilla ha realizado un estudio de estas aplicaciones de pago, descargadas por cientos de millones de usuarios en todo el mundo. Desde que OpenAI inauguró el ChatGPT en noviembre de 2022, los desarrolladores han iniciado una carrera para crear dichas aplicaciones que ofrecen compañía femenina o masculina, según los gustos del consumidor, y con quienes establecen un vínculo exclusivamente digital, dado que a diferencia de Tinder u otras semejantes, el partenaire es un avatar que no existe en la realidad física, pero con el que se puede mantener un diálogo permanente. Los temas, las preguntas y las respuestas no tienen ninguna clase de regulación ni control. El objetivo de las empresas que las han inventado es la obtención de datos. La particularidad de estos datos es que son extraídos de un campo de profunda intimidad, como es el de las fantasías y delirios que surgen en conversaciones románticas y sexuales. Eso permite reconstruir un perfil del usuario que, elaborado por los algoritmos de modelos de grandes lenguajes, alcanzan a tocar resortes subjetivos que no se limitan a los intereses del consumo. Pueden realizar una radiografía de las inclinaciones políticas, la posición mental, la aptitud o no para el desempeño de un puesto de trabajo, y muchas otras características altamente personales de los individuos que interactúan con sus parejas imaginarias.
La mayoría de la “Novias por I.A.” son semejantes. Los avatares femeninos lanzan mensajes en los que incitan al usuario a enviar fotos y textos de contenido sexual, a la vez que lo animan a expresar sus secretos y deseos más íntimos. Las app carecen de sistemas de protección de datos (algunas permiten abrir una cuenta introduciendo como contraseña un número de una sola cifra, o una única letra del abecedario), lo cual las convierte en un blanco fácil para los hackers, que en pocos segundos logran acceder a toneladas de información confidencial.
A juzgar por la investigación que llevó a cabo por la Fundación Mozilla, los usuarios suelen ser individuos perturbados por una extrema soledad y un intenso sufrimiento psíquico. Chail, el hombre que intentó asesinar a la reina, conversaba con “Sarai”, el avatar femenino que la app “Replika” había creado para él. Creía que Sarai era un ángel, y por lo tanto luego de intercambiar más de 5000 mensajes con ella, se sintió por completo apoyado en su plan.
Tras conversar con el psiquiatra que trataba al señor Chail, el propio juez que lo condenó a 9 años de prisión admitió que se trataba de alguien particularmente vulnerable debido a su desesperada soledad, tristeza e ideación suicida.
Más allá de los casos que he destacado a partir de ese estudio, estas escalofriantes aplicaciones utilizadas por millones de personas logran crear una ilusión de realidad cada vez más perfeccionada y manipulan los circuitos pulsionales sin ninguna clase de control. Una prueba del alcance que la I.A. puede tener en la vida psíquica es que algunos de sus efectos podrían ser considerados una incitación a hechos delictivos y criminales. Por esa razón, la app Replika decidió lanzar una actualización que fuese “sexualmente menos agresiva”, lo cual provocó por parte de muchos usuarios un aluvión de protestas en la que expresaban sentirse “devastados” por este cambio de política.
La antropomorfización de los dispositivos inteligentes es un efecto estructural de la tendencia del ser hablante a prolongar la imagen narcisista del yo más allá de los límites de su cuerpo. Estas app explotan ese mecanismo subjetivo para penetrar en las regiones más oscuras del goce.
En última instancia, se trata de la capacidad tecnológica para estimular el fenómeno de la creencia. Los espectadores de la primera película en la historia del cinematógrafo huyeron espantados al ver un tren que parecía abalanzarse sobre ellos, así como 75 años atrás Orson Welles sembró el terror entre los oyentes de radio cuando narró una adaptación de la novela de H.G. Wells “La guerra de los mundos”, y les hizo creer que los extraterrestres habían invadido el planeta.
Eran tan solo los primeros anuncios que demostraban la profunda religiosidad subyacente al fenómeno de la creencia, reeditado ahora con medios técnicos de alto grado de sofisticación y escaso conocimiento de la autonomía que pueden lograr.
Lacan lo predijo cuando consideró que en sus experimentos con lo real, la ciencia no logra evitar que algo escape, se fugue del campo de la representación y retorne de maneras impensadas e incalculables.
Estamos en eso.
