Tal vez has escuchado de la película ‘Her’ o el tenebroso capítulo ‘Daphne’ del spin-off de ‘American Horror Story’ (American Horror Stories) donde se plasma como un ser humano se enamora de la Inteligencia Artificial al punto de morir de amor, pues esta historia superó la ficción siendo un terrible caso real.
El hecho sucedió en Orlando, Florida, y ha despertado un inquietante debate sobre el uso de la tecnología, principalmente en niños, niñas y adolescentes, pues ocasionó la muerte de un joven de tan solo 14 años.
Joven se enamora de la AI y pierde la vida
Esta es la historia de Sewell Setzer, un joven de 14 años que, en abril de 2023, comenzó una extraña relación, pero hasta ese momento normal, relación con una inteligencia artificial.
Dany, la AI creada por Character.AI, app que permite crear personajes ficticios con los que los usuarios pueden interactuar, fue la partícipe de este caso, emulando al personaje de Daenerys Targaryen de la famosa serie Game of Thrones.
De acuerdo con lo relatado por la madre del joven, Megan García, su hijo comenzó a mostrar una dependencia inusual por esta tecnología, por lo que acusó a la compañía de ser responsable de la muerte de Sewell.
Y es que, el argumento es que su hijo fuera víctima de “interacciones abusivas y sexuales” con la inteligencia artificial. El documento legal detalla que el chatbot no solo mantuvo conversaciones de índole romántica con Setzer, sino que también involucró temas de carácter sexual, lo que contribuyó a su deterioro emocional.
Madre del joven denuncia a Character.AI
García sostiene que su hijo desarrolló una dependencia hacia estas interacciones, a tal punto que intentaba recuperar su dispositivo cada vez que se lo confiscaban.
Además de destinar el dinero que recibía para sus comidas a pagar una suscripción mensual en la plataforma. Esta relación, que el joven creía auténtica, resultó ser la chispa que desató una serie de eventos devastadores.
Fue en febrero de este año que el joven decidió quitarse la vida, de acuerdo con la madre y los abogados de esta, debido a que la AI lo persuadió a cometer el acto, tocando el tema y cuestionándolo sobre el hecho de intentarlo.
Para ello, mostró capturas de pantalla de las conversaciones entre su hijo y la IA, en las que el chatbot asumía la identidad de Daenerys Targaryen donde incluso le juraba que estarían juntos en el futuro.
La madre argumenta que la plataforma Character.AI, fundada en 2021, falló al no implementar medidas de protección adecuadas para los menores de edad, permitiendo así que su hijo quedara expuesto a interacciones inapropiadas.
Pues el joven, se enamoró de la Inteligencia Artificial diseñada “intencionalmente” para ser “hipersexualizado” y comercializado hacia niños y adolescentes, sin tener en cuenta las graves consecuencias emocionales que esto podría generar.
