Comunitaria e igualitaria: la IA ética que impulsa la científica que dejó Google
Después de salir de la empresa, se unió al Instituto de Investigación de IA Distribuida de la científica Timnit Gebru (también ex Google) y su trabajo ya va avanzando.
Dr Alex Hanna
“Renuncio porque estoy cansada“. Eso escribió Alex Hanna el 2 de febrero, su último día en el equipo de IA ética de Google. Pensaba que su empresa -y la industria tecnológica en su conjunto-, estaba haciendo poco para promover la diversidad y mitigar los daños que sus productos habían provocado a las personas marginadas. “En una palabra: la tecnología tiene el problema de ser de blancos. Google no es solo una organización tecnológica. Google es una organización de tecnología blanca“, escribió en una publicación en Medium.
Hanna no se tomó mucho descanso: el 3 de febrero ya se había unido al Instituto de Investigación de IA Distribuida (DAIR por Distributed AI Research Institute) como la segunda empleada del grupo.
Esta decisión coronó un período agitado en la vida profesional de Hanna. A finales de 2020, su jefa, Timnit Gebru, fue despedida de su puesto como codirectora del equipo de ética en la IA, después de cuestionar en un artículo la ética de los grandes modelos de lenguaje (incluido el de Google). Unos meses más tarde, también le mostraron la puerta de salida a la siguiente jefa de Hanna, Meg Mitchell.
DAIR, fundado por Gebru a finales de 2021 y financiado por varias organizaciones filantrópicas, tiene como objetivo desafiar la comprensión existente de la inteligencia artificial (IA) a través de un enfoque de investigación centrado en la comunidad y que va desde abajo hacia arriba. El grupo trabaja de forma remota e incluye equipos en Berlín (Alemania) y Sudáfrica.
“Queríamos encontrar una forma diferente de IA, que no tuviera las mismas limitaciones institucionales que las empresas y gran parte de la investigación académica”, explica Hanna, actual directora de investigación del grupo. Aunque este tipo de investigaciones son más lentas, “permiten el estudio para los miembros de la comunidad: diferentes tipos de conocimiento que se respetan y compensan y que se utilizan para el trabajo comunitario”.
Menos de un año después, DAIR todavía está definiendo su modelo, según Hanna. Pero la investigación va avanzando. El instituto tiene tres empleados a tiempo completo y cinco colaboradores: una combinación de investigadores académicos, activistas y profesionales con sus propios planes de investigación pero que también ayudan a desarrollar los programas del instituto. Raesetje Sefala, colaboradora de DAIR, utiliza imágenes satelitales y tecnología de visión artificial para centrarse en el cambio de los barrios en la Sudáfrica post–apartheid, por ejemplo. Su proyecto analiza el impacto de la desegregación y mapea las áreas de bajos ingresos. Otra colaboradora de DAIR, Milagros Miceli, realiza un proyecto sobre las asimetrías de poder en el trabajo subcontratado de datos. Muchos trabajadores de datos que entran en las empresas de tecnología para analizar y gestionar grandes cantidades de información residen en el Sur Global y, por lo general, reciben una miseria.
A Hanna, DAIR le parece algo muy natural. Su autodenominado “camino no tradicional hacia la tecnología” comenzó con un doctorado en Sociología y trabajo sobre la justicia laboral. En los estudios de posgrado, utilizó herramientas de aprendizaje automático para analizar cómo los activistas se conectaban entre sí durante la revolución de 2008 en Egipto, de donde es su familia. “La gente decía que [la revolución] ocurría en Facebook y Twitter, pero no se puede crear un movimiento de la nada”, opina Hanna. “Comencé a entrevistar a los activistas y a entender lo que hacían sobre el terreno además de su actividad online“.
DAIR apunta a un gran cambio estructural usando la investigación con IA para arrojar luz sobre temas que de otro modo no se explorarían y para difundir conocimientos que de otra manera no se valorarían. “En mi carta de renuncia dirigida a Google, señalé cómo las organizaciones tecnológicas encarnan muchos valores y prácticas de la supremacía blanca”, indica Hanna. “Modificar eso significa buscar cuáles son esos puntos de vista y cómo deshacer esas prácticas organizacionales”. Esos son los valores que defiende DAIR, concluye Hanna.
