La función de búsqueda de Google Géminis conocido como “Descripción general de la IA” y que nos permite obtener respuestas gracias a la IA generativa, cita YouTube más que cualquier otro sitio cuando el usuario hace preguntas sobre condiciones de salud. Los datos surgen de una investigación que plantea serias interrogantes en términos de salud, una herramienta utilizada por 2 mil millones de personas cada mes.
Según Big G, los resúmenes que aparecen en la parte superior de los resultados de búsqueda y que muestran resultados obtenidos con IA generativa son «fiables» y hacen referencia a fuentes médicas fiables como los Centros para el Control y la Prevención de Enfermedades y la Clínica Mayo; Sin embargo, un estudio lo ha hecho. analizado las respuestas a más de 50.000 preguntas de salud y de esto se puede ver que la fuente más citada es YouTube. El sitio para compartir vídeos es el segundo más visitado del mundo después de Google y es propiedad de esta última empresa. Ningún portal de salud gubernamental, red de hospitales, asociación médica o institución académica es tan citado como YouTube, con todo lo que eso conlleva.
Indicaciones peligrosas y engañosas
En un caso de ejemplo citado, se informaron afirmaciones peligrosas y alarmantes: Google mostró información incorrecta sobre pruebas cruciales de la función hepática, afirmaciones que podrían provocar problemas a personas que padecen una enfermedad hepática grave al pensar erróneamente que estaban sanas.
Google eliminó algunas afirmaciones relacionadas con la salud que se muestran en AI Overview, pero no para todas las búsquedas médicas. Hannah van Kolfschooter, investigadora especializada en inteligencia artificial, salud y legislación de la Universidad de Basilea, informa:
«Este estudio proporciona evidencia empírica de que los riesgos para la salud que plantea AI Overview son estructurales, no anecdóticos. A Google le resulta difícil argumentar que los resultados engañosos o dañinos para la salud son raros.
En cambio, los hallazgos muestran que estos riesgos tienen su origen en la forma en que está diseñado AI Overview. En particular, el Fuerte dependencia de YouTube en lugar de datos de autoridades de salud pública o instituciones médicas.e imaginemos que la visibilidad y la popularidad, y no la confiabilidad médica, son los elementos fundamentales para mostrar información de salud”.
Todas las noticias de las que hablan. Inteligencia artificial están disponibles en esta página de Macitynet.