Imaginar una IA justa

El texto de Ana Paula Galindo, publicado el 29 de Septiembre de 2025, explora el potencial de la Inteligencia Artificial (IA), pero también advierte sobre los sesgos inherentes en su desarrollo y aplicación, especialmente en lo que respecta a género y raza. La autora argumenta que la IA, al ser entrenada con datos sesgados, puede perpetuar y amplificar las desigualdades existentes, y propone soluciones basadas en el feminismo de datos y la acción colectiva.

El estudio Gender Shades del MIT demostró que los sistemas de reconocimiento facial fallaban en hasta 34.7% de los casos con mujeres de piel oscura.

📝 Puntos clave

• La IA generativa, aunque poderosa, puede reproducir y amplificar estereotipos de género y raza.
• El estudio Gender Shades del MIT evidenció los fallos en el reconocimiento facial de mujeres de piel oscura.

• Publicidad
• Catherine D’Ignazio y Lauren Klein proponen siete principios del feminismo de datos para guiar el desarrollo de la IA.
• Iniciativas en América Latina, como Geochicas OSM y Chicas Poderosas, utilizan datos para visibilizar la violencia de género y las desigualdades estructurales.
• Ethan Mollick, profesor en Wharton, sugiere usar la IA de manera crítica, con supervisión humana y variando los prompts.
• México, con su política exterior feminista, tiene la oportunidad de impulsar auditorías de género y diversidad en la ONU.

Lo malo y lo bueno 👎👍

¿Qué aspectos negativos se destacan en el texto sobre el desarrollo y uso de la IA?

La principal preocupación es que la IA, al ser entrenada con datos sesgados, perpetúa y amplifica los estereotipos de género y raza, invisibilizando a grupos históricamente marginados. Esto se manifiesta en la reproducción de roles de género tradicionales y en la discriminación en sistemas de reconocimiento facial.

¿Qué aspectos positivos se resaltan en el texto sobre el uso de datos y la IA?

El texto destaca el potencial de los datos y la IA como herramientas para la resistencia y la transformación social. Se mencionan iniciativas en América Latina que utilizan datos para visibilizar la violencia de género, mapear femicidios y exponer brechas estructurales. Además, se subraya la importancia de una supervisión humana crítica y de la aplicación de principios feministas en el desarrollo de la IA para garantizar la justicia y la diversidad.