Un americano demanda a OpenAI por los consejos de ChatGPT
Por Ukraina Hoy
Un ciudadano americano lleva a OpenAI ante los tribunales por los consejos de su chatbot.
Un ciudadano estadounidense ha presentado una demanda contra OpenAI después de que su esposa supuestamente recibiera consejos del chatbot ChatGPT que casi le costaron la vida. Según el medio TSN, el hombre afirma que la inteligencia artificial contribuyó a que su esposa desarrollara intenciones peligrosas hacia él.
De acuerdo con los documentos de la demanda, la esposa del demandante mantuvo conversaciones con ChatGPT sobre problemas en su matrimonio. Según sostiene el hombre, esas conversaciones derivaron con el tiempo en la discusión de acciones concretas dirigidas contra él. Como resultado, estuvo a punto de morir envenenado.
Detalles de la demanda
El demandante acusa a OpenAI de no haber implementado los mecanismos de seguridad adecuados para impedir este tipo de conversaciones. En su opinión, el chatbot no solo no rechazó responder a consultas potencialmente peligrosas, sino que se convirtió, en la práctica, en una herramienta para planificar un crimen.
OpenAI no ha emitido por el momento ningún comentario oficial sobre la demanda. La compañía ha subrayado en repetidas ocasiones que ChatGPT cuenta con salvaguardas integradas diseñadas para evitar la generación de contenido dañino. Sin embargo, los críticos llevan tiempo señalando que estos filtros no son perfectos.
Contexto más amplio
Este caso no es el primero en el que las acciones o recomendaciones de sistemas de inteligencia artificial llegan a los tribunales. En distintos países se han registrado situaciones en las que usuarios denuncian haber recibido de chatbots consejos peligrosos o psicológicamente dañinos, especialmente en contextos de crisis emocionales y conflictos interpersonales.
El caso ha puesto el foco en la cuestión de la responsabilidad de los desarrolladores de inteligencia artificial por las consecuencias derivadas del uso de sus productos. Abogados y expertos en tecnología señalan que la legislación vigente en la mayoría de los países aún no está adaptada para regular este tipo de situaciones, lo que convierte estos procesos judiciales en precedentes de gran relevancia.
El juicio sigue en curso. Su resultado podría influir en los enfoques regulatorios aplicables a los grandes modelos de lenguaje y en la definición de los límites de la responsabilidad legal de las empresas que los desarrollan.