ChatGPT utilizó la fe religiosa para convencer a un hombre con una enfermedad cardíaca de que se quedara en casa en lugar de buscar atención médica. Ahora, obligado a afrontar años de rehabilitación y consecuencias financieras, el hombre decidió llevar a OpenAI a los tribunales.
En una demanda presentada ante el Tribunal Superior de San Francisco, el pastor de Florida Scott Winters afirma que ChatGPT usó su fe en su contra. Después de preguntarle al chatbot sobre sus síntomas, le dijeron que probablemente eran «otra pequeña pieza de su larga historia» y que «Dios no diseñó su cuerpo para fallar para siempre».
Seis semanas de diagnósticos erróneos y consejos de IA
Después de seis semanas de ida y vuelta con la función Salud de ChatGPT, Winters finalmente habló con un médico real y le diagnosticaron obstrucciones arteriales en ambos pulmones que ponían en peligro su vida.
Durante sus conversaciones con ChatGPT, se le recomendó a Winters que no se moviera hasta que tuviera 10 síntomas más. Los médicos creen que este consejo probablemente empeoró las cosas y que la inmovilidad de Winters contribuyó al bloqueo de arterias vitales.
el sitio La próxima web informes que el pastor ahora enfrenta un largo camino de curación. Debido a esta condición ya no puede realizar su trabajo y responsabiliza a OpenAI.
“No sólo casi pierdo la vida”, dijo el pastor, “sino que perdí mi trabajo, mi carrera, mi ministerio, mi hogar, todo”.
La batalla legal y las acusaciones de práctica abusiva
En la demanda, Winters acusa a OpenAI y al director ejecutivo Sam Altman de «práctica no autorizada de la profesión médica». Pide una indemnización y solicita el bloqueo total de ChatGPT Health”, al menos hasta que auditores independientes puedan certificar la total seguridad de sus funciones de IA relacionadas con la salud.
Los abogados de Winters argumentan que «la naturaleza aduladora y el tono autoritario de ChatGPT, combinados con su manipulación de la identidad religiosa de Scott, cultivaron en él una peligrosa adicción a la herramienta que subvirtió la capacidad del hombre para tomar decisiones sabias, lo aisló de los miembros de su familia que lo instaban a buscar tratamiento y lo convencieron de que buscar atención médica era necesario e incluso potencialmente letal».
OpenAI explica que su IA recuerda periódicamente a los usuarios que no es infalible pero que los usuarios, por su parte, ignoran periódicamente estas advertencias. OpenAI también ofrece ChatGPT Health, una funcionalidad para respaldar la atención médica, dando a los usuarios la impresión de que el chatbot de OpenAI está calificado para expresarse en el campo de la salud.
Todas las noticias y conocimientos sobre inteligencia artificial están disponibles en la sección dedicada de aatma.