Sam Altman, director ejecutivo de OpenAI, ha expresado una preocupación creciente sobre la privacidad de las conversaciones que los usuarios mantienen con herramientas de inteligencia artificial como ChatGPT. En una reciente entrevista, Altman destacó que, a pesar de la popularidad de estos chatbots y su uso creciente como terapeutas informales, no existen garantías legales que protejan la confidencialidad de estas interacciones, a diferencia de lo que ocurre en las conversaciones con médicos o abogados, que están amparadas por el secreto profesional.
Durante su intervención en el podcast “This Past Weekend”, Altman subrayó que muchos usuarios, especialmente los jóvenes, recurren a estos chatbots para buscar orientación en problemas personales o de relaciones, con la misma confianza que tendrían con un terapeuta. Sin embargo, advirtió que, legalmente, estas conversaciones podrían ser reveladas en el contexto de un litigio, lo que plantea serias inquietudes sobre la privacidad.
La falta de una normativa clara sobre la gestión de datos en las interacciones con inteligencia artificial es un tema que preocupa tanto a desarrolladores como a usuarios. Altman hizo hincapié en la necesidad de establecer protecciones legales que equiparen la privacidad de estas comunicaciones con la que existe en otros ámbitos profesionales. “Es muy preocupante que, si hablas con ChatGPT sobre asuntos sensibles y luego surge un litigio, podríamos vernos obligados a entregar esa información”, explicó.
Este debate se enmarca en un contexto más amplio de discusión sobre la regulación de la inteligencia artificial. Mientras algunas voces abogan por un control más estricto para proteger la privacidad y los derechos de los usuarios, otras alertan sobre el riesgo de que una normativa demasiado restrictiva frene el desarrollo tecnológico. A pesar de que la administración actual en Washington ha mostrado una tendencia a regular menos este tipo de tecnología, la protección de los datos personales podría encontrar respaldo legislativo, dado el creciente uso de estas herramientas en la vida cotidiana.
Además de la cuestión legal, Altman también abordó las limitaciones inherentes a los chatbots como consejeros o terapeutas. Aunque pueden proporcionar un apoyo inicial y respuestas rápidas, carecen de la capacidad de juicio crítico y empatía humana, elementos esenciales en la terapia y el asesoramiento personal. Por otro lado, existe el riesgo de que las respuestas de los chatbots refuercen estigmas o perpetúen estereotipos, lo cual puede ser perjudicial para los usuarios.
William Agnew, investigador de la Universidad Carnegie Mellon, ha advertido sobre el peligro de confiar en exceso en estas herramientas para asuntos personales sensibles. Según Agnew, la falta de claridad sobre cómo se manejan y protegen las conversaciones es motivo suficiente para que los usuarios sean cautelosos. “Incluso si las compañías intentan ser cuidadosas con tus datos, estos modelos son conocidos por regurgitar información”, señaló, alertando sobre las posibles consecuencias de que detalles privados sean revelados inadvertidamente.
Así, mientras la inteligencia artificial sigue avanzando y convirtiéndose en una parte integral de nuestras vidas, la conversación sobre la privacidad y la regulación adecuada de estas tecnologías se vuelve más urgente. La protección de los datos personales y la confianza de los usuarios deben ser prioritarias en el desarrollo y la implementación de cualquier sistema de inteligencia artificial.