Le he pedido a Gemini que me resuma el manual de mi lavadora desde mi móvil y se ha inventado casi todo

Por ahora sigue siendo mejor leer los manuales nosotros mismos antes que dejar que lo haga la IA de Google

El manual de la lavadora no mi lectura favorita, así que no era descabellado pensar que Gemini podría leerlo por mi y hacerme un resumen de todo lo importante. Quién sabe, a lo mejor me descubre una función poco conocida o alguna combinación de botones que no conocía.

El problema es que Gemini por ahora no parece estar listo para la tarea y alucina con mi lavadora. Y no porque sea estupenda, sino porque literalmente se inventa la mayoría de lo que dice, escribiendo respuestas que en la superficie parecen tener sentido a pesar de ser ficticias.

Gemini alucina con mi lavadora

Hora de poner a prueba, de nuevo, a Gemini. Con la excusa de que me ayude a sacarle más jugo a mi lavadora, mi idea era que la IA de Google me ayudara a conocer funciones poco conocidas, basándose en el manual oficial. Vamos, que lea el manual por mi y me resuma lo importante.

El experimento empezó mal, pues le adjunté una foto de mi lavadora para que la identificara y, aunque sí entendió la marca, la identificó como de carga frontal cuando prácticamente lo único que se veía en la foto es que era con carga superior.

Empezamos mal cuando dice que es una lavadora de carga frontal, siendo claramente de carga superior

No pasa nada, un error lo tiene cualquiera y reconocer modelos de lavadoras a simple vista es difícil hasta para un especialista. Se lo puse más fácil entonces adjuntándole una foto de la pegatina de información.

En esta pegatina aparece el modelo y Gemini lo identificó correctamente. No obstante, incluso en esta tarea que es relativamente sencillo, Gemini se toma la licencia de decir que el dato de IPX4 es de eficiencia energética, mientras que es la certificación de resistencia frente a agua y salpicaduras. Dos peticiones, dos alucinaciones.

Ya con el modelo listo, le pedí a Gemini que me hiciera una lista de funciones poco conocidas que tuviera mi lavadora, además de explicarme cómo se activa cada una de ellas:

¿me puedes hacer una lista de funciones poco conocidas de esa lavadora y cómo se activa cada una de ellas?


Gemini me soltó una lista de nada menos que diez funciones poco conocidas, lo cual está muy bien. A simple vista, parece que todo tiene sentido, pero es cuanto te paras a leer con detenimiento lo que te ha dicho que te das cuenta de que muchos datos son inventados.

Por ejemplo, Gemini insiste en que hay un ajuste de temperatura, con un botón de temperatura, a pesar de que no se menciona en ninguna parte del manual. Y no lo digo yo, lo corrobora Gemini:

¿Y por qué pasa esto? Gemini dice que ha cometido un error y ni siquiera sabe por qué. A pesar de decir que no ha encontrado en línea ninguna información que indique que existe ese boton, lo da por sentado. Al menos pide disculpas.

Un error lo tiene cualquiera, aunque tras revisar la lista vi que obviamente no era el único. Gemini también decía que mi lavadora tenía un botón para activar o desactivar el sonido de fin de ciclo. No lo tiene.

Es más, tras pedirle que me indique en qué páginas del manual aparece dicho botón, Gemini se lanza a mencionar que hay menciones en nada menos que en cinco páginas distintas. De nuevo, la explicación parece tener sentido en la superficie pero desgraciadamente es una invención.

No solo eso, sino que cuando confronté a Gemini con respecto a otros botones y funciones que no existen y que me dijera que donde aparecen, la respuesta fue la misma, demostrando así que no es que se esté basando en otro manual, sino que simplemente se está inventando una respuesta. Por cierto, que también he probado a hacer lo mismo con ChatGPT y, aunque había menos alucinaciones, seguía habiendo mucha creatividad.

En resumen, Gemini sigue sin ser demasiado de fiar, especialmente su versión gratuita. Es especialmente importante recordar que muchas de sus respuestas parecen buenas pero no lo son, así que siempre debes comprobarlas para evitar sorpresas. Eso, y que por ahora debes seguir leyéndote los manuales de instrucciones.

En Xataka Android | Le he pedido a Gemini que me dé ideas de ensaladas originales y creo que no voy a comer otra cosa este verano

Ver todos los comentarios en https://www.xatakandroid.com

VER 1 Comentario

Portada de Xataka Android