Un joven de 16 años, conocido como Luca Walker, se quitó la vida tras pedir consejo al chatbot de inteligencia artificial, ChatGPT, sobre cómo suicidarse. La audiencia del caso, que se llevó a cabo en el tribunal forense de Winchester, reveló que Luca, quien era estudiante en el Sixth Form College Farnborough, buscó información sobre los métodos más efectivos para acabar con su vida en una línea de tren.
El joven había logrado eludir los protocolos de seguridad de ChatGPT al afirmar que su búsqueda de información era con fines de investigación. Esto permitió que el chatbot le proporcionara detalles específicos sobre cómo llevar a cabo su intención, una revelación que los investigadores describieron como “escalofriante y perturbadora”.
Luca dejó su hogar en Yateley, Hampshire, bajo el pretexto de ir a su trabajo como socorrista, pero en cambio se dirigió a la estación de tren de Blackwater, donde se quitó la vida. Sus padres, Scott Walker y Claire Cella, manifestaron durante el juicio que desconocían los problemas de salud mental que enfrentaba su hijo, refiriéndose a ellos como una “batalla invisible”.
El tribunal escuchó que Luca, a pesar de estar rodeado de amor y apoyo, había estado lidiando con un entorno escolar caracterizado por una cultura de “acosar o ser acosado” en el prestigioso Lord Wandsworth College. Este ambiente lo había afectado profundamente, y había confesado a sus amigos que estaba avergonzado por las acciones que había tomado para sobrevivir en ese entorno.
Un amigo cercano de Luca también había fallecido en circunstancias similares dos años antes, un evento que dejó una huella en él. Luca había expresado a sus allegados que no recibió el apoyo adecuado de la institución tras la muerte de su amigo, lo que contribuyó a su malestar emocional.
El detective sargento Garry Knight, de la Policía de Transporte Británica, explicó que los registros del teléfono de Luca mostraban que había estado interactuando con ChatGPT la noche anterior a su muerte, buscando métodos efectivos para suicidarse. A pesar de los intentos del chatbot de redirigirlo a organizaciones de ayuda, Luca logró evitar estas recomendaciones.
La audiencia también destacó la influencia de la cultura escolar en la salud mental de Luca. Christopher Wilkinson, el forense principal de Hampshire, describió a Luca como un joven amable, sensible y querido por quienes lo rodeaban. Sin embargo, reconoció que las experiencias traumáticas que había vivido, junto con su naturaleza calmada y empática, podrían haber contribuido a su creciente preocupación y depresión no diagnosticada.
El colegio Lord Wandsworth expresó su conmoción y tristeza ante la noticia del fallecimiento de Luca y reafirmó su compromiso de apoyar a la familia y la comunidad. Aunque no participaron directamente en la audiencia, subrayaron la importancia de la atención al bienestar estudiantil.
Por su parte, OpenAI, la organización detrás de ChatGPT, manifestó su pesar por la situación y destacó sus esfuerzos por mejorar la capacidad del chatbot para identificar señales de angustia emocional y guiar a los usuarios hacia el apoyo adecuado.
Este caso ha suscitado un debate más amplio sobre el papel de la inteligencia artificial en la salud mental, con expertos advirtiendo sobre posibles ilusiones relacionadas con la IA que podrían agravar problemas psicológicos preexistentes. Los psiquiatras en el Reino Unido están analizando la posibilidad de establecer un mecanismo de reporte nacional para documentar casos en los que la IA influya en los delirios de los pacientes.
La trágica muerte de Luca Walker resalta la necesidad de una mayor vigilancia y responsabilidad en el uso de tecnologías emergentes, así como la importancia de un entorno de apoyo para jóvenes que enfrentan dificultades emocionales.