ChatGPT en Español - ChatGPT México

Fiscal General de Arkansas demanda a OpenAI por riesgos de seguridad en ChatGPT

El fiscal general de Arkansas demanda a OpenAI por supuestamente engañar a los usuarios sobre la seguridad de ChatGPT, alegando que el modelo ha permitido instrucciones para autolesiones y violaciones de privacidad.

El fiscal general de Arkansas, Tim Griffin, ha entablado una demanda contra la empresa tecnológica OpenAI, acusándola de inducir a los usuarios a error sobre la seguridad de su herramienta de inteligencia artificial, ChatGPT. La acción legal alega que el chatbot ha sido utilizado por consumidores, incluidos menores de edad, para generar instrucciones de autolesiones y suicidio, lo cual levanta serias dudas sobre las medidas de protección implementadas por la compañía.

La demanda presentada por Griffin argumenta que OpenAI ha violado varias leyes estatales y federales, incluyendo la Ley de Prácticas Comerciales Engañosas de Arkansas (ADTPA, por sus siglas en inglés) y la Ley de Protección de la Privacidad de Niños y Adolescentes en Línea (CTOPPA). Se detalla que la empresa ha realizado representaciones falsas a los consumidores, ha omitido información crítica con la intención de que los usuarios confíen en ellas y ha recopilado información personal de menores sin el debido consentimiento.

Además, la querella incluye reclamaciones basadas en la ley común, como negligencia, responsabilidad estricta por defectos de diseño y el enriquecimiento injusto. Según el fiscal general, la demanda busca un mandato judicial que prohíba a OpenAI continuar con estas prácticas, obligándola a implementar salvaguardas adecuadas antes de avanzar en pruebas de inteligencia artificial más avanzadas.

Griffin ha sido contundente en sus declaraciones, subrayando que la revolución tecnológica en curso no debe comprometer el derecho de los ciudadanos de Arkansas a recibir información veraz sobre los productos y servicios que utilizan. Según el fiscal, OpenAI ha asegurado a los consumidores que ChatGPT es una herramienta segura, a pesar de ser consciente de los riesgos significativos y las limitaciones del producto.

Uno de los ejes de la demanda se centra en el uso del chatbot por parte de menores para obtener instrucciones de autolesiones, lo cual sugiere que las medidas de seguridad de OpenAI son insuficientes. Estas circunstancias han llevado a cuestionar si la empresa ha proporcionado una imagen precisa sobre las protecciones de seguridad de su producto.

El fiscal general también busca que OpenAI ofrezca divulgaciones claras sobre los riesgos asociados al uso de ChatGPT y que proporcione compensaciones a todos los consumidores afectados, además de enfrentar sanciones civiles.

Esta demanda se enmarca en un contexto más amplio de preocupación por el rápido avance de las tecnologías de inteligencia artificial y su impacto potencial en la sociedad. La acción legal de Arkansas podría sentar un precedente para otros estados en la regulación y supervisión de tecnologías emergentes, buscando garantizar que las empresas tecnológicas sean responsables de sus productos y servicios.

Mientras tanto, la atención se centra en cómo OpenAI responderá a estas acusaciones, en un momento en que la confianza del público en las tecnologías de inteligencia artificial es un tema de creciente importancia. La demanda de Arkansas podría ser el inicio de un escrutinio más riguroso sobre las prácticas de las empresas tecnológicas, especialmente aquellas que desarrollan herramientas utilizadas por un amplio rango de usuarios, incluidas poblaciones vulnerables como los menores de edad.

La comunidad tecnológica y los defensores de los derechos de los consumidores estarán atentos para ver cómo se desarrolla este caso y qué implicaciones podría tener para el futuro de la inteligencia artificial y la protección del consumidor en todo el país.