Apple añadirá una alerta a los resúmenes de IA para notificaciones de noticias

En respuesta a las preocupaciones destacadas por la BBC sobre una función de IA en iOS 18 que le permite mostrar resúmenes de notificaciones, incluidas noticias que en algunos casos han sido resumidas incorrectamente, Apple ha dicho que hará más evidente que el resumen mostrado en la pantalla se logra con funcionalidad AI; El objetivo es hacer entender al usuario que lo que ve en las notificaciones es un resumen obtenido con funciones de inteligencia artificial y puede no ser 100% exacto.

La respuesta de Apple llega después de repetidas quejas de la BBC sobre noticias resumidas incorrectamente, un problema que ha ocurrido varias veces. Indica, por ejemplo, la noticia «Luigi Mangione se pega un tiro», en referencia al hombre acusado del asesinato del director general de UnitedHealthcare, haciendo parecer que se había suicidado. Esta y otras «alucinaciones» han dejado atónitos a usuarios y editores de contenidos.

Apple Intelligence enfureció a la BBC - macitynet.it

La solución propuesta por Apple debería permitir resaltar que lo que ven resumido en la pantalla es un resumen obtenido por la IA, lo que permitirá reducir posibles confusiones.

Como puedes imaginar, no es posible ofrecer una solución de resumen 100% segura; el algoritmo que se ocupa de los resúmenes es mejorable pero siempre acechan posibles errores; Los modelos de lenguaje grande (LLM), la IA generativa y los servicios que permiten resumir documentos y textos son cada vez más eficientes, pero no siempre es fácil obtener resúmenes de la información más importante de un texto y reiterar los conceptos más importantes en unas pocas frases. Los modelos de aprendizaje automático (ML) para el resumen de IA a veces pueden carecer de contexto, lo que da como resultado resúmenes con falta de información. Los resúmenes también pueden estar sesgados, según la IA utilizada y el tipo de entrenamiento, lo que da como resultado resultados inexactos o incorrectos. Con capacitación y tiempo, muchos de estos problemas se pueden minimizar o potencialmente evitar, pero ningún modelo aún no puede garantizar la seguridad de una información 100% correcta.