Google espera solucionar el problema de diversidad de imágenes históricas de Gemini en unas semanas

Google y Gemini

Las imágenes históricas generadas por IA de Gemini han generado controversia en la comunidad académica y artística. Se trata concretamente de un problema de diversidad de imágenes históricas. Si bien estas recreaciones visuales prometen ofrecer una perspectiva fascinante del pasado, algunos críticos cuestionan su autenticidad y precisión histórica, planteando debates sobre la ética y la fiabilidad de esta tecnología emergente.

Problema de diversidad de imágenes históricas

Demis Hassabis, fundador de DeepMind, reveló que Google tiene la intención de restaurar la capacidad de su herramienta de IA generativa, Gemini, para representar a personas en las «próximas semanas». La suspensión de esta función ocurrió tras críticas sobre representaciones históricamente inexactas, como los Padres Fundadores de EE. UU. mostrados como un grupo diverso. Hassabis abordó este problema durante una entrevista en el Mobile World Congress.

Cuando se le preguntó sobre el problema con la función de generación de imágenes, Demis Hassabis no profundizó en detalles técnicos, sino que sugirió que se debió a la incapacidad de Google para identificar adecuadamente los casos en los que los usuarios buscaban una «representación universal». Explicó que este desafío refleja los matices asociados con la IA avanzada y destacó la importancia de ofrecer una variedad de posibilidades dada la diversidad global. Hassabis reconoció que la aplicación de una característica destinada a fomentar la diversidad en las imágenes de personas fue demasiado directa, pero aseguró que están trabajando para mejorar esta función y ofrecer resultados más precisos en el futuro. «Nos preocupamos, por supuesto, por la exactitud histórica. Así que hemos desconectado esa función mientras la arreglamos y esperamos volver a tenerla en línea en el próximo, en muy poco tiempo. Las próximas dos semanas, las próximas semanas».

Evitar que la IA sea malversada

Cuando se le preguntó cómo evitar el abuso de las herramientas de IA generativa por parte de malos actores, como regímenes autoritarios, Hassabis reconoció la complejidad del tema. Subrayó la necesidad de un debate amplio que involucre a la sociedad civil, gobiernos y empresas tecnológicas para establecer límites y valores éticos para estos sistemas. Destacó la importancia de considerar cómo evitar que los malos actores utilicen estas tecnologías para fines dañinos y cómo garantizar la seguridad cuando los modelos de IA de código abierto se vuelven más avanzados y accesibles. Hassabis advirtió que la sociedad debe abordar estos desafíos antes de que los sistemas de IA más potentes estén disponibles y puedan ser explotados por individuos y estados maliciosos.

Hassabis sobre el rumbo de las IA

Cuando se le consultó sobre el futuro de los dispositivos de IA y el rumbo del mercado móvil con el avance de la IA generativa, Hassabis ofreció su visión. Anticipó una nueva ola de «asistentes inteligentes» que serán más útiles en la vida diaria, en contraste con las funciones más superficiales de las generaciones anteriores. Sugirió que estos avances podrían incluso influir en el diseño de hardware móvil, planteando la posibilidad de dispositivos como gafas que permitan a la IA comprender mejor el contexto del usuario. Hassabis expresó optimismo sobre las innovaciones futuras que podrían surgir en este campo.