Imagina que un sistema de inteligencia artificial simplemente… no te reconoce. Eso le pasó a Joy Buolamwini, fundadora de la Liga de la Justicia Algorítmica (Algorithmic Justice League), quien alertó sobre los sesgos en la inteligencia artificial (IA) durante el evento México Siglo XXI, donde se reunieron 10 mil becarios de la Fundación Telmex Telcel.
La también investigadora del MIT relató que, mientras desarrollaba un proyecto artístico en la Universidad de Oxford, se topó con un descubrimiento sorprendente: los sistemas de reconocimiento facial no detectaban su rostro oscuro por su tono de piel. “La máquina no me veía”, confesó Buolamwini, quien se preguntó si la neutralidad de las computadoras era solo un mito.
Desde el Auditorio Nacional, la científica hizo un llamado a los jóvenes a mantener siempre una mirada crítica frente a la tecnología: “No limiten sus sueños. Nunca dejen de soñar”, dijo, enfatizando que su confianza en sí misma le permitió convertirse en una de las voces más fuertes contra el sesgo digital.
Curiosidades que quizá no sabías sobre la IA
Los sistemas de análisis facial que Joy probó —de IBM, Microsoft y Facebook— tenían tasas de error de menos del 1% para hombres de piel clara, pero llegaban hasta 35% para mujeres con rostro oscuro.
Gran parte de este problema se debe a que los conjuntos de datos usados para entrenar estas máquinas estaban compuestos principalmente por caras de hombres blancos.
Para equilibrar esta desigualdad, Joy creó un conjunto de datos propio con más de mil rostros de políticos de África y Europa, demostrando que la diversidad también puede entrenar mejores sistemas.
“Las máquinas reflejan la sociedad. Si queremos una IA más consciente, necesitamos que incluya a todas las personas, sin importar su piel, género o cultura”, explicó Buolamwini.
Por eso, también alentó a no abandonar la creatividad: “No dejen el arte, no dejen la poesía, no se enfoquen nada más en lo técnico”.
¿Quién es Joy Buolamwini?
Originaria de Ghana y radicada en Estados Unidos, Joy es informática y activista digital. Su pasión por la justicia algorítmica nació cuando descubrió que algunos sistemas de reconocimiento facial solo funcionaban con máscaras blancas, lo que se convirtió en la base de su tesis de posgrado en el MIT.
Además de fundar la Algorithmic Justice League, Joy es autora del libro “Unmasking AI: My Mission to Protect What Is Human in a World of Machines”, donde analiza las implicaciones éticas de la IA y la urgencia de construir sistemas más justos.
Lee también: En 10 años, México podría mejorar calidad de vida y empleo con inversión privada: Slim Domit
Su mensaje es claro: las máquinas pueden tener sesgos, pero los sueños y la creatividad no tienen límites.
