Openii finalmente ha decidido implementar mecanismos de control parental en Chatgptllegó una decisión después de que una familia demandó al laboratorio de investigación sobre inteligencia artificial alegando que la compañía es responsable de la muerte del hijo, un californiano de 16 años que se suicidó en abril, después de haber confiado y discutido sus planes con el chatbot.
Solo después de la tragedia, los padres del niño descubrieron conversaciones entre su hijo y Chatgpt: en noviembre del año pasado el niño había comenzado a «chatear» con el chatbot de sus problemas personales y este último se había convertido en su confidente. En enero de 2025, el niño había pedido consejos sobre cómo suicidarse y Chatgpt respondió, incluidas indicaciones sobre el material más adecuado para hacer una soga.
El New York Times ha destacado recientemente elincidenteLa historia de depresión del niño, explicando que el chatbot ha proporcionado varias respuestas e incluso sugerencias sobre cómo evitar atraer atención. ChatGPT incluye protecciones específicas, pero el adolescente evidentemente había logrado superarlas con la excusa de preguntar para escribir una historia. «Chatgpt mató a mi hijo», dijo la madre del niño «, y el padre también está convencido de que el niño aún estaría vivo si no hubiera conversado con el chatbot.
Verificaciones y restricciones de los padres
Es la primera vez que Operai es atacada por una familia para este tipo de eventos. La startup ahora ha anunciado algunas herramientas diseñadas por ad hoc: en el futuro, los padres podrán conectar su cuenta de chatgpt con las de los niños de 13 años o más años a través de una invitación por correo electrónico. Pueden verificar las reglas de conducta proporcionadas por el modelo (las activas predeterminadas), pero también para desactivar algunas funciones, como la memoria o la cronología de las conversaciones.
Los padres deben tener, entre otras cosas, la posibilidad de recibir notificaciones cuando ChatGPT señala que un adolescente está en dificultad. El sistema ya muestra avisos a los usuarios cuando se da cuenta de que pasan demasiado tiempo charlando con el modelo. Para algunas discusiones «sensibles», se espera que se espere rehaing de GPT-5-pensamiento, un modelo que proporciona reglas de seguridad avanzadas también para largas conversaciones.
«Las obras ya están en progreso, pero queremos presentar nuestros proyectos de manera proactiva en los próximos 120 días para que no tenga que esperar a que los lanzamientos sepan a dónde vamos», declarar Openai en una publicación de blog corporativa. «El trabajo continuará mucho más allá de este período, pero intentaremos presentar tantas mejoras como sea posible este año».
Todas las noticias sobre Inteligencia artificial Están disponibles a partir de esta página de Macitynet.