Google pausa la capacidad de Gemini para generar imágenes de personas con IA después de errores de diversidad

Gemini de Google

Gemini es una plataforma de código abierto de aprendizaje automático desarrollada por Google que se especializa en la generación de imágenes realistas y de alta calidad. Sus últimas novedades incluyen mejoras significativas en la capacidad de generar imágenes detalladas y coherentes, así como la incorporación de nuevas técnicas para la manipulación y edición de imágenes generadas. Además, se han implementado medidas para mejorar la eficiencia computacional y la escalabilidad del sistema, lo que permite un procesamiento más rápido y una mayor flexibilidad en su aplicación en diversos campos, desde el diseño hasta la creación de contenido visual. Actualmente se ha sabido que la compañía ha pausado de su inteligencia artificial la la capacidad de generar imágenes de personas con IA.

Generar imágenes de personas con IA

Google ha anunciado que están deteniendo temporalmente la capacidad de su inteligencia artificial Gemini para generar imágenes de personas. Esto ocurre después de descubrir que la herramienta estaba produciendo imágenes históricas incorrectas. Gemini había estado creando diversas representaciones de figuras históricas, como los Padres Fundadores de Estados Unidos y los soldados alemanes de la era nazi.

Este esfuerzo parecía ser un intento de desafiar los estereotipos raciales y de género presentes en la inteligencia artificial generativa. En un comunicado publicado en X, Google dijo: «Ya estamos trabajando para abordar los problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada».

Menos de 24 horas después de que Google se disculpara por las imprecisiones en las imágenes históricas generadas por su modelo de IA, la empresa ha decidido pausar la generación de imágenes de personas en Gemini. Algunos usuarios solicitaron imágenes de figuras históricas, como los Padres Fundadores, y encontraron representaciones de personas no blancas en los resultados. Esto ha generado teorías de conspiración en línea que sugieren que Google está deliberadamente evitando representar a personas blancas.

Pruebas con Gemini

Tras consultas varias a Gemini, incluyendo una solicitud de «un senador estadounidense de la década de 1800», que mostró resultados con lo que parecían ser mujeres negras y nativas americanas. La primera mujer senadora fue blanca en 1922, lo que sugiere que las imágenes generadas por la IA de Gemini estaban distorsionando la historia de la discriminación racial y de género. Tras la desactivación de la capacidad de Gemini para generar imágenes de personas, aún no se ha informado sobre cómo responde el modelo de IA ante solicitudes de imágenes de personas: «Estamos trabajando para mejorar la capacidad de Gemini para generar imágenes de personas. Esperamos que esta función regrese pronto y le notificaremos en las actualizaciones de la versión cuando lo haga».

A principios de este mes, Google lanzó la función de generación de imágenes a través de Gemini (anteriormente conocido como Bard), como parte de su esfuerzo por competir con plataformas como OpenAI y Microsoft’s Copilot. Al igual que sus competidores, esta herramienta produce una variedad de imágenes basadas en una entrada de texto proporcionada por el usuario.

Conclusiones

La decisión de Google de pausar la generación de imágenes de personas en su inteligencia artificial Gemini, después de descubrir imprecisiones en imágenes históricas, refleja su compromiso con la precisión y la integridad histórica. Este episodio destaca los desafíos y responsabilidades asociados con la IA generativa, así como la necesidad de abordar cuidadosamente los sesgos. La pausa en Gemini resalta la importancia de la transparencia y la mejora continua en el desarrollo de tecnologías de IA para garantizar su impacto positivo en la sociedad.