La Inteligencia Artificial (IA) Imagine de Meta* aporta demasiada diversidad racial en la creación de personajes históricos, de tal forma que muchos resultados resultan inexactos. Se trata del mismo tipo de errores que hizo que Google dejara de generar imágenes de personas en su chatbot Gemini hace algunas semanas, afirma el portal Axios.
Imagine empezó a generar imágenes racialmente diversas de los padres fundadores de Estados Unidos, sustituyendo en varias imágenes a colonos americanos por mujeres con aspecto asiático, mientras que a una petición de crear jugadores profesionales de fútbol americano, creó exclusivamente imágenes de mujeres.
Según Axios, este problema se debe a que los creadores de IA intentan contrarrestar los sesgos y estereotipos en los datos que utilizan para entrenar a sus modelos, elevando el nivel de "diversidad". Sin embargo, parece que están corrigiendo en exceso, llegando a generar resultados problemáticos como este.
Mientras algunos califican de ofensivas las imágenes históricamente incorrectas, otros aseguran que es un ejemplo de que la IA es "demasiado segura". Sin embargo, para Axios es la demostración de que crear una IA generativa "imparcial pero históricamente correcta" es algo "mucho más difícil de lo que esperaban los creadores".
El pasado 22 de febrero, Google se vio obligado a pausar la función de generación de imágenes de personas de Gemini, su chatbot de IA, después de crear representaciones inexactas y racialmente diversas de personajes históricos, que llevaron a algunos usuarios a acusar la compañía de racismo contra los blancos.
*Conglomerado de redes sociales calificado en Rusia como organización extremista.