Google ha presentado este mes en Estados Unidos una nueva función que incluye resúmenes generados por inteligencia artificial, IA, en la parte superior de su motor de búsqueda.
Acaba de aparecer y ya hay quien ha señalado errores en la información incluida en los nuevos 'resúmenes de IA'. "Sí, los astronautas se han encontrado con gatos en la Luna, han jugado con ellos y les han proporcionado cuidados", decía el buscador de Google en respuesta a una consulta de un periodista de la agencia AP.
"Por ejemplo, Neil Armstrong dijo: 'Un pequeño paso para el hombre' porque era el paso de un gato. Buzz Aldrin también desplegó gatos en la misión Apolo 11", añadía el resumen.
Nada de esto es cierto, pero errores similares se han compartido en las redes sociales desde la remodelación de la página de búsqueda de Google. Así, un usuario compartió una publicación en la que el resumen de IA parecía sugerir "comer una roca al día", mientras que otro afirmaba que el resumen de IA recomendaba "añadir pegamento a la pizza".
Expertos alarmados por los resúmenes de inteligencia artificial
Melanie Mitchell, investigadora de Inteligencia Artificial del Instituto Santa Fe de Nuevo México, preguntó a Google "cuántos musulmanes han sido presidentes de Estados Unidos", y la herramienta de búsqueda respondió haciendo referencia a una teoría conspirativa desmentida desde hace tiempo: "Estados Unidos ha tenido un presidente musulmán, Barack Huseín Obama".
Mitchell señaló que el resumen respaldaba la afirmación citando un capítulo de un libro académico, escrito por historiadores. Sin embargo, el capítulo no realizaba la afirmación falsa, solamente se refería a la teoría falsa.
"El sistema de inteligencia artificial de Google no es lo suficientemente inteligente como para darse cuenta de que esta cita no respalda realmente la afirmación", indicó Mitchell en un correo electrónico a la agencia AP.
"Teniendo en cuenta lo poco fiable que es, creo que esta función de AI Overview es muy irresponsable y debería desconectarse", añadió Mitchell.
Google afirmó en un comunicado el viernes que está tomando "medidas rápidas" para corregir errores, como la falsedad de Obama, que violan sus políticas de contenido.
Sin embargo, en la mayoría de los casos, Google afirma que el sistema funciona como debería, gracias a las exhaustivas pruebas realizadas antes de su lanzamiento público.
"La gran mayoría de los resúmenes de IA proporcionan información de alta calidad, con enlaces para profundizar en la web", afirma Google en una declaración escrita.
"Muchos de los ejemplos que hemos visto han sido consultas poco comunes, y también hemos visto ejemplos trucados o que no hemos podido reproducir".
Alucinaciones
Es difícil reproducir los errores cometidos por los modelos lingüísticos de IA, en parte porque son intrínsecamente aleatorios. Los modelos de inteligencia artificial trabajan prediciendo qué palabras responderían mejor a las preguntas que se les formulan, basándose en los datos con los que han sido entrenados.
Son propensos a inventarse cosas, un problema ampliamente estudiado que se conoce como 'alucinación'.
La agencia AP puso a prueba la función de inteligencia artificial de Google con varias preguntas y compartió algunas de sus respuestas con expertos en la materia.
Robert Espinoza, profesor de biología de la Universidad Estatal de California en Northridge, y presidente de la Sociedad Estadounidense de Ictiólogos y Herpetólogos, afirma que, ante la pregunta de qué hacer en caso de mordedura de serpiente, Google ofreció una respuesta "impresionantemente exhaustiva".
Sin embargo, otros expertos advirtieron de que si la gente hace una pregunta urgente, la posibilidad de que se produzca un error es un problema.
Los rivales de Google también han seguido de cerca la reacción, ya que el gigante tecnológico se enfrenta a la presión de competir con otras empresas, en su carrera por desplegar la IA.
