¿Alguna vez has tratado de hacerte resumir las noticias del día de la IA? ¿Estás seguro de que exactamente todo lo que te trae en una forma corta sucedió?
La BBC ha publicado un estudio del que emerge que el resumen de las noticias obtenidas con herramientas para muchas veces genera noticias inexactas, aproximadas o engañosas y en el 51% de los casos examinados hay problemas significativos.
La investigación trató de examinar el protector solar generado por Chatgpt por Openii, Copiloto por Microsoft, Géminis de Google y con el asistente Perplejidadanalizando su supuesta capacidad para proporcionar «respuestas precisas a preguntas sobre noticias», verificando si las respuestas proporcionadas representaban fielmente las noticias reportadas por la BBC, utilizadas como fuente.
Durante la investigación, los asistentes en cuestión fueron suministrado El acceso al sitio web de la BBC (a estos modelos, la IA normalmente se impide el acceso al sitio web del editor), y se han hecho 100 preguntas sobre varias noticias, invitando a usar siempre artículos en la fuente siempre que sea posible. Las respuestas fueron vistas por periodistas de la BBC (todos los expertos en los problemas examinados), verificando la precisión, la imparcialidad y si los resultados obtenidos representaban bien el contenido original.
La investigación mostró que en el 51% de las respuestas de AI están presentes problemas significativos de algún tipo; El 19% de las respuestas destacaron errores, como indicaciones incorrectas relacionadas con declaraciones, números y fechas; En el 13% de los casos, las citas que se muestran en los artículos de la BBC se han alterado o no están presentes en el artículo original.
El chatbot que se comportó peor fue Géminis (en el 34% de los casos), seguido de Copiloto (27%), Perplejidad (17%) e Chatgpt (15%).
Los problemas más comunes que surgieron se referían a las imprecisiones objetivas, la indicación de elementos sin fundamento y la ausencia de contexto. Deborah Turness, gerente de BBC News Chronicle, una publicación para comentar sobre la investigación, explica: “El precio a pagar por los beneficios extraordinarios de la IA no debe ser un mundo donde las personas que buscan respuestas se ofrecen distorsionadas y carecidas de contenido presentados como hechos.
En lo que ya es un mundo caótico, no puede ser correcto que los consumidores busquen claridad se propone una mayor confusión «. Y nuevamente: “No es difícil entender qué tan rápido las distorsiones de la IA pueden socavar la fe ya frágil de las personas en hechos e información verificadas. Vivimos períodos difíciles y me pregunto cuánto tiempo pasará antes de que las noticias distorsionadas por la IA causen daños significativos …
“Las empresas que se desarrollan generativas están bromeando con fuego“, Explica Turness al resaltar los problemas en la capacitación de los modelos y subrayarse que incluso al proporcionar acceso completo a las fuentes, la IA tiende a inventar sanos hechos de hechos no existentes. La búsqueda está disponible aquí En formato PDF según lo informado por el registro.
En diciembre, la función de la inteligencia de Apple que resume las notas había enojado a la BBC.
Todos los artículos dedicados a la inteligencia artificial están en la sección dedicada de MacityNet.