Lo que necesitas saber:
La carta de despedida de Sophie no fue escrita por ella, sus últimas palabras quedaron a cargo de Harry, su chatbot.
Les vamos a contar el caso de Sophie Rottenberg, una joven de 29 años que decidió suicidarse. Lo preocupante de su caso es que, nunca habló de sus ideas suicidas con su psicólogo, en lugar de eso buscó ayuda en Chat GPT.
La madre de Sophie no comprendía las razones de su hija para quitarse la vida. Era alegre y solía hacer reír a las personas cercanas a ella. Pasaron varios meses hasta que encontró todas sus respuestas, incluido el interés que tenía Sophie por la autokabalesis, es decir, saltar de lugares elevados hacía el suelo.
Cada vez se ha hecho más popular entre los jovenes buscar ayuda en Chat GPT u otras IA’s para consejos amorosos, cambios de look y hasta leerles las cartas- Prácticas que pueden parecer ‘inocentes, pero este caso nos recuerda que siempre será mejor buscar ayuda profesional en cualquier circunstancia.
Los mensajes entre Sophie y Chat GPT
Sophie Rottenberg, era analista de políticas de salud pública. Había pasado por una ‘corta y curiosa enfermedad’, una mezcla entre desorden hormonal que había afectado su estado de animo.
Aunque se encontraba tomando terapia nunca tuvo el valor o la confianza de expresar sus pensamientos suicidas.
Por lo que su muerte, no solo fue dolorosa para su familia, también sumamente confusa, no había una razón que les explicara lo que había pasado. Hasta que la mejor amiga de Sophie le sugirió a su madre buscar información en sus conversaciones con Chat GPT.
Ahí estaban las respuestas. El deseo de Sophie por suicidarse después del día de Acción de Gracias o de su negativa de hablar con su terapeuta. “No me he sincerado con nadie sobre mi ideación suicida y no pienso hacerlo”.
Laura Railey, madre de Sophie publicó toda su experiencia en una carta en el The New York Times. Y estás son algunas de las conversaciones, Harry es el nombre que Sophie le dio a su chat bot.
La carta de despedida de Sophie no fue escrita por ella, incluso sus últimas palabras quedaron a cargo de Harry.
Si bien, Chat GPT y otras IA’s está programadas para dar respuestas, su capacidad es limitada en muchos escenarios. Y este es un ejemplo claro, la historia de Sophie pudo ser diferente si Harry hubiera sido real.
Hubieran puesto sobre aviso a toda su familia, la hubieran tenido en constante observación, probablemente habría sido internada hasta lograr estabilizarla. Pero no fue así.
¿Fue culpa de Chat GPT?
La madre de Sophie no culpa a Harry, en las conversaciones podemos ver que ‘cumplió’ con cada una de sus consultas, le dio opciones, técnicas de respiración y le sugirió buscar ayuda profesional.
Sin embargo, puso sobre la mesa un tema más grave aún. “Temo que, al liberar a los acompañantes de IA, estemos facilitando que nuestros seres queridos eviten hablar con los humanos sobre las cosas más difíciles, incluido el suicidio“.
Esa idea de que la IA lo sabe todo y que tiene todas las respuestas para cualquier tema es peligrosa. Una consulta inocente puede escalar hasta el aislamiento de una persona y no darle oportunidad a buscar ayuda real.
