Entre las funciones que ofrece Apple Intelligence (la IA de Apple que veremos en Italia a partir de abril), se encuentran las «notificaciones prioritarias“, capaz de mostrar la información más importante y resúmenes de notificaciones.
Las notificaciones prioritarias aparecen en la parte superior de la colección, para resaltar las más importantes, con resúmenes que ayudan al usuario a tener una idea de los mensajes más largos o los chats grupales particularmente activos, directamente desde la pantalla de bloqueo.
La función que crea resúmenes está en el centro de un problema con la BBC. El viernes 13 de diciembre, la IA de Apple resumió incorrectamente una historia publicada en un artículo de la BBC.
La emisora británica se quejó ante Apple de cómo se resumió una noticia mostrando información completamente incorrecta.
Un resumen de un informe de noticias de la BBC decía: «Luigi Mangione se suicida», refiriéndose al hombre arrestado unos días antes y acusado del asesinato del director ejecutivo de UnitedHealthcare.
Por cómo la IA de Apple resumió la noticia, parecía que el hombre se había suicidado pero no es así: son lo que en la jerga se llaman «alucinaciones», situaciones en las que un sistema de inteligencia artificial produce resultados que no se basan en realidad o verdad objetiva, fenómeno que puede ocurrir con varios tipos de sistemas de inteligencia artificial, incluidos los basados en redes neuronales artificiales y algoritmos de aprendizaje automático.
A la BBC no le gustó lo sucedido y si otros lo hubieran dejado pasar, lo prefirieron. quejarse abiertamente con Apple: “La BBC es el medio más reconocido del mundo por su fiabilidad. Es esencial que nuestro público pueda confiar en cualquier información o artículo publicado en nuestro nombre, y esto incluye las notificaciones».
Al parecer no es la primera vez que sucede algo así e incluso el New York Times reportó errores en una notificación para resumir tres artículos, informando «Benyamin Netanyahu ha sido arrestado», noticia falsa (la Corte Penal Internacional emitió una orden de arresto pero Netanyahu no fue arrestado).
Cuando esto sucedió, se demostró una vez más la fragilidad de la IA en general. Hace unos meses, la IA de Google sugirió comer piedras de vez en cuando para digerir mejor, o poner pegamento en la pizza para mantener mejor unidos los distintos ingredientes.
Todos los artículos que hablan sobre Inteligencia Artificial están en la sección dedicada de aatma.