Google ha suspendido temporalmente la generación de imágenes en Gemini, su chatbot de inteligencia artificial (IA), debido a «inexactitudes en algunas representaciones históricas». Usuarios denunciaron que su modelo de lenguaje generaba imágenes imprecisas, como soldados nazis representados como personas racializadas. Esta situación ha llevado a la compañía a trabajar en mejorar este tipo de representaciones de forma inmediata.

Los programas de IA generativa han amplificado estereotipos raciales y de género en el pasado, siendo Google Fotos un ejemplo en 2015 al etiquetar erróneamente una imagen como gorilas. A pesar de los intentos por promover la diversidad racial y de género, Gemini ha generado falta de precisión histórica en sus imágenes generadas por IA. Esto ha provocado críticas de usuarios en redes sociales y controversias ideológicas, incluso siendo acusada de tener sesgos liberales que perjudican a los blancos.

Google suspende temporalmente generación de imágenes en Gemini por inexactitudes históricas

La empresa tecnológica Google se ha visto en la obligación de suspender temporalmente la generación de imágenes en Gemini, su chatbot de inteligencia artificial (IA), luego de que se replicaran «inexactitudes en algunas representaciones históricas».

El gigante tecnológico estadounidense emitió una disculpa el día de hoy luego de diversas denuncias de usuarios que encontraron imprecisiones en las imágenes generadas por su modelo de lenguaje, que iban desde soldados nazis hasta los padres fundadores de Estados Unidos representados como personas racializadas. La empresa ha manifestado que está trabajando para mejorar estas representaciones de manera inmediata.

Estos problemas no son nuevos en los programas de IA generativa, ya que en investigaciones anteriores se ha demostrado que pueden amplificar estereotipos raciales y de género. Por ejemplo, investigaciones como la realizada por The Washington Post el año pasado revelaron que programas como Stable Diffusion o DALL-E también ampliaban sesgos, mostrando hombres blancos al buscar «una persona productiva» y personas de color al buscar «una persona en los servicios sociales».

Google ha tenido problemas similares en el pasado, como en 2015 cuando Google Fotos tuvo que eliminar la posibilidad de clasificar imágenes luego de etiquetar a dos personas negras como gorilas. La empresa ha expresado su interés en promover la diversidad racial y de género, pero en este caso ha generado imprecisiones históricas en sus representaciones. «La generación de imágenes por IA de Gemini tiene un rango amplio de personas, lo cual es positivo en general al ser utilizado por personas de todo el mundo. Sin embargo, en este caso, está fallando», han admitido desde la compañía.

Críticas de los usuarios

En los últimos días, un grupo de usuarios ha denunciado esta situación en las redes sociales. La controversia ha sido alimentada por personajes conservadores como el empresario tecnológico Elon Musk y el filósofo Jordan Peterson, quienes acusan a Google de tener un sesgo liberal que perjudica a los blancos. Según The Washington Post, este incidente con Gemini es otro ejemplo de cómo los productos de IA sin probar se ven involucrados en disputas sobre diversidad, moderación de contenidos y representación. Estas acusaciones ya se habían dado anteriormente con ChatGPT.

Algunos usuarios han criticado a Google por razones más técnicas que ideológicas, señalando que la diversidad tiene sentido al solicitar a Gemini generar imágenes de mujeres estadounidenses o cocineros, pero no al pedirle comprender el contexto histórico para representar vikingos o soldados alemanes durante la Segunda Guerra Mundial.

Google habilitó la función de generación de imágenes en Gemini a principios de febrero con el objetivo de competir con OpenAI, la startup respaldada por Microsoft, su principal rival y responsable de ChatGPT. Sin embargo, las críticas hacen pensar que esta IA fue lanzada al público sin verificar previamente que no cometiera errores, lo que ha llevado a su suspensión temporal. «No tendríamos sistemas racistas si conserváramos adecuadamente los datos con los que se entrenan desde el principio», explicó Margaret Mitchell, ex codirectora de ética en IA de Google.

En resumen, la suspensión temporal de la generación de imágenes en Gemini por inexactitudes históricas ha generado controversia y críticas por parte de diferentes sectores. Google deberá trabajar en corregir estos problemas antes de reanudar esta función en su chatbot de IA.

Google suspende generación de imágenes en Gemini por inexactitudes históricas

Google ha tenido que suspender temporalmente la generación de imágenes en Gemini, su chatbot de inteligencia artificial (IA), debido a la replicación de «inexactitudes en algunas representaciones históricas».

Usuarios denunciaron que el modelo de lenguaje de Google generaba imágenes imprecisas, incluyendo soldados nazis y padres fundadores de Estados Unidos representados de manera racializada.

Programas de IA generativa han amplificado estereotipos raciales y de género en el pasado, generando críticas sobre la falta de diversidad y precisión histórica en las representaciones generadas por Gemini.

Críticas de los usuarios

Algunos usuarios, incluyendo figuras como Elon Musk y Jordan Peterson, han acusado a Google de tener sesgos liberales que perjudican a los blancos. La controversia en torno a Gemini refleja las tensiones en las guerras culturales sobre diversidad y representación en productos de IA como ChatGPT.

Además, se critica a Google por habilitar la generación de imágenes en Gemini sin realizar pruebas exhaustivas para evitar los errores que han llevado a la suspensión temporal del servicio. La ex codirectora de ética en IA de Google ha enfatizado la importancia de conservar correctamente los datos para evitar sistemas racistas.