ChatGPT se niega a proporcionar información cuando solicita detalles sobre algunos nombres personales.
El «fallo» se descubrió a principios de este mes mientras se buscaba información sobre «David Mayer“, un nombre no apreciado por la IA y por el cual, hasta hace poco, aparecía como resultado el mensaje de error: “No puedo producir una respuesta”.
¿Pero quién es David Mayer? Si busca en Internet encontrará varias personas, entre ellas un compositor, un director de orquesta y un profesor del MIT, un miembro de la muy rica familia de banqueros Rothschild, un historiador británico, un político estadounidense y alcalde de Gloucester Township, Nueva Jersey, y David Delaney Mayer, realizador de documentales estadounidense de 1992.
Probablemente haya otros excepto el bloque, explica el independiente está relacionado con solicitudes realizadas de conformidad con el Reglamento General de Protección de Datos de la UE (“GDPR”).
Alberto Puliafito, periodista de Internacional, explica que también están en esta lista de nombres prohibidos Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y otros, incluyendo Guido Scorza, miembro del consejo del garante para la protección de datos personales en Italia.
Cuando se le preguntó por qué no puede ser citado por ChatGPT, Scorza explicó: «Simplemente ejercité frente a OpenAi (la empresa que gestiona ChatGpt, ed.) «el derecho de oposición que la actual legislación europea reconoce a todas las partes interesadas, es decir, las personas a las que se refieren los datos personales – para obtener que el tratamiento iniciado sin su consentimiento sea interrumpido por el responsable del tratamiento. Cualquiera, al menos si vive en Europa, puede hacer lo mismo simplemente a través de la plataforma utilizada para prestar el servicio ChatGpt, obteniendo, creo, el mismo resultado».
El enlace para solicitar no aparecer en ChatGPT es Este (debe hacer clic en “Solicitud de eliminación de datos personales de ChatGPT”) pero en algunos casos la eliminación implica paradojas. Al buscar, por ejemplo, la lista de miembros del consejo del garante de privacidad en Italia, ChatGpt se detiene cuando tiene que indicar el nombre de Scorza.
«La ley hace públicos los nombres y funciones de las figuras públicas que representan a una institución», explica Internazionale. «sus actividades y los datos esenciales sobre su misión deben ser accesibles para garantizar la transparencia y la rendición de cuentas. En este caso, el hecho de que un LLM no pueda mencionar directamente sus nombres parece contradecir estos principios.»
El riesgo, como es fácil imaginar, es proporcionar información incorrecta u ocultar otra información sin motivo, pero también aumentar la brecha entre quienes tienen la capacidad de realizar determinadas investigaciones y quienes no. Además, ¿qué debemos hacer en caso de homónimos? De todos modos, no tiene sentido bloquear un nombre. “Cuando evitamos nombrar figuras públicas por miedo a cometer errores o violar derechos, corremos el riesgo de erosionar el valor mismo de las tecnologías que hemos inventado”, escribe nuevamente Internazionale. «Paradójicamente, esto también puede generar confusión y dudas sobre la neutralidad o eficacia de estos sistemas». Scorza explica que las evaluaciones podrían tenerse en cuenta de acuerdo con el interés predominante, pero el riesgo es «educar al público a una confusión de planes, a esperar de servicios como ChatGpt que proporcionen información confiable y que haya una expectativa hacia los LLM de verdad y confiabilidad».
Todos los artículos que hablan de Inteligencia Artificial están en la sección dedicada de aatma.