Una nueva familia de modelos de IA de Google tiene la particularidad de poder identificar «emociones». El sitio estadounidense lo informa. TechCrunch destacando posibles escenarios preocupantes por parte de expertos e investigadores por todo lo que esto implica.
paligemma 2 es un modelo de lenguaje visual inspirado en PaLI-3 que promete un rendimiento de alto nivel en diversas tareas de lenguaje visual, incluida la respuesta visual a preguntas, la comprensión de textos en imágenes y la detección y segmentación de objetos. Es posible analizar imágenes y permitir que la IA genere leyendas y responda preguntas sobre las personas que “ve” en las fotos. Google informa que esta IA va más allá de la capacidad de identificar objetos, explicando que es capaz de “Describir acciones, emociones y la narrativa general de la escena.“. Es necesario perfeccionar el reconocimiento de las emociones pero ya hay quien se pregunta sobre todo lo que esto podría suponer.
«Por lo general, no es posible detectar emociones porque las personas las experimentan de maneras complejas». explica Mike Cook, investigador de la Universidad Queen Mary especializado en IA. “Creemos que podemos entender lo que sienten otras personas al mirarlas, y muchos lo han intentado durante años, incluidas agencias de espionaje y empresas de marketing. Estoy seguro de que es posible identificar elementos genéricos «significativos» en algunos casos, pero no es algo que pueda entenderse definitivamente.» Como resultado, los sistemas que supuestamente detectan emociones tienden a ser poco confiables y distorsionados por las suposiciones subjetivas de sus diseñadores.
“Interpretar las emociones es una cuestión bastante subjetiva, que va más allá del uso de ayudas visuales y está fuertemente arraigada en el contexto personal y cultural”, explica Heidy Khlaaf, científica en IA del AI Now Institute, una organización sin fines de lucro que estudia las implicaciones sociales. de inteligencia artificial. «Aparte de la IA, las investigaciones han demostrado que no podemos inferir emociones únicamente a partir de las expresiones faciales».
Khlaaf señala que el abuso o mal uso de estos “supuestos pseudocientíficos” podría tener implicaciones importantes, llevando a discriminaciones por grupos como las fuerzas del orden, la contratación de recursos humanos, la gobernanza transfronteriza, etc.
Sandra Wachter, profesora especializada en ética de datos e inteligencia artificial en el Oxford Internet Institute, también destaca problemas potenciales, un conjunto de cuestiones que podrían conducir a un «futuro distópico», donde la identificación de emociones podría determinar «si conseguimos un trabajo, un préstamo». , admisión a la universidad…».
Todos los artículos que hablan sobre Inteligencia Artificial están en la sección dedicada de aatma.