Timnit Gebru para niños

Datos para niños Timnit Gebru
Timnit Gebru en 2018
Información personal
Nacimiento	1983 Adís Abeba (Etiopía)
Nacionalidad	Estadounidense
Educación
Educada en	Universidad Stanford
Supervisor doctoral	Fei-fei Li
Información profesional
Ocupación	Investigadora, investigadora de la inteligencia artificial y AI ethicist
Área	Sesgo algorítmico, minería de datos, inteligencia artificial y ética de la IA
Empleador	Microsoft Research Google (hasta 2020)
Afiliaciones	Universidad Stanford
Sitio web	ai.stanford.edu/~tgebru
Distinciones	Time 100 (2022) 100 Mujeres de la BBC (2023)

Timnit Gebru (nacida en Adís Abeba, Etiopía, alrededor de 1983) es una científica de la computación muy conocida. Se especializa en cómo los programas de computadora (algoritmos) pueden tener "sesgos" o preferencias injustas, y cómo se pueden usar grandes cantidades de información (minería de datos).

Timnit Gebru también es una gran defensora de la diversidad en el mundo de la tecnología. Es una de las fundadoras de Black in AI, una comunidad que apoya a investigadores de origen africano que trabajan en inteligencia artificial (IA).

En diciembre de 2020, Timnit Gebru dejó su puesto en el equipo de Inteligencia Artificial Ética de Google. Esto ocurrió después de un desacuerdo sobre un informe de investigación que ella había escrito. El informe, llamado "Los Peligros de Loros Estocásticos: ¿Pueden Modelos de Lenguaje Ser Demasiado Grandes?", hablaba sobre los posibles problemas de los modelos de lenguaje muy grandes en la IA. Google mencionó que el informe no consideraba algunas investigaciones recientes sobre cómo reducir los sesgos en estos sistemas.

Primeros años y educación

Timnit Gebru nació y creció en Adís Abeba, Etiopía. Su padre falleció cuando ella tenía cinco años, y su madre la crio. Sus padres eran de Eritrea.

Cuando tenía 15 años, Timnit tuvo que dejar Etiopía debido a un conflicto entre Etiopía y Eritrea. Finalmente, pidió asilo en los Estados Unidos, donde fue aceptada.

Después de terminar sus estudios en el Instituto de Massachusetts, Timnit Gebru fue aceptada en la Universidad Stanford. Allí obtuvo su maestría en ingeniería eléctrica. Trabajó en Apple, ayudando a desarrollar los algoritmos para el primer iPad.

En 2017, obtuvo su doctorado en la Universidad Stanford. Su investigación se centró en usar imágenes disponibles públicamente para entender mejor las comunidades. Combinó el aprendizaje profundo (una parte de la IA) con imágenes de Google Street View para estimar cómo eran los barrios en Estados Unidos.

Descubrió que se podían predecir características de una comunidad, como su inclinación política o el nivel de ingresos, observando los tipos de coches que había. Por ejemplo, si había más camionetas que coches sedán, la comunidad era más propensa a votar por el partido Republicano. Analizó más de 15 millones de imágenes de 200 ciudades de EE. UU. Su trabajo fue muy comentado en medios como BBC News y The New York Times.

Timnit Gebru presentó su investigación en una competición en 2017 y ganó. Esto la llevó a colaborar con otros expertos. En 2016 y 2018, regresó a Etiopía para trabajar en un programa educativo llamado AddisCoder. Después de su doctorado, se unió a Microsoft como investigadora en un laboratorio que estudia la equidad y la ética en la inteligencia artificial.

Carrera e investigaciones en IA

Gebru hablando sobre sus hallazgos para predecir, con cierta fiabilidad, la manera en que un americano votará por el tipo de vehículo que conduce.

Timnit Gebru trabajó en Google en el departamento de inteligencia artificial ética. Allí investigó cómo la inteligencia artificial afecta a la sociedad y cómo se puede usar para el bien.

Colaboró con el MIT en un proyecto llamado Gender Shades. Junto con Joy Buolamwini, investigó el software de reconocimiento facial. Descubrieron que estos programas tenían más dificultades para reconocer a las mujeres de piel oscura que a los hombres blancos. Por ejemplo, las mujeres de piel oscura tenían un 35% menos de probabilidades de ser reconocidas correctamente.

En una conferencia de inteligencia artificial en 2016, Timnit Gebru notó que era la única mujer de origen africano entre 8.500 asistentes. Por eso, junto con su colega Rediet Abebe, fundó Black in AI. Esta comunidad busca apoyar a los investigadores de origen africano en el campo de la inteligencia artificial.

Timnit Gebru también trabajó en el equipo de Microsoft que se enfoca en la justicia, la responsabilidad y la transparencia en la IA. En 2017, habló en una conferencia sobre justicia y transparencia, donde explicó cómo la falta de diversidad en los equipos de desarrollo de IA puede causar sesgos en los programas.

Ella y otros investigadores de IA firmaron una carta sobre los problemas del software de reconocimiento facial de Amazon. Un estudio del MIT mostró que el sistema de Amazon tenía más dificultades para identificar a las mujeres de piel oscura que otros programas. Timnit Gebru ha expresado que el reconocimiento facial es demasiado arriesgado para ser usado por la policía o para seguridad en este momento.

Salida de Google

Timnit Gebru dejó de trabajar para Google en diciembre de 2020. Las circunstancias de su salida han sido un tema de conversación. Ella y algunos de sus colegas dijeron que fue despedida. Sin embargo, los directivos de Google, Jeff Dean y Megan Kacholia, afirmaron que ella ofreció su renuncia y que Google la aceptó. Timnit Gebru ha dicho que ella nunca renunció, solo mencionó la posibilidad de hacerlo.

Timnit Gebru había sido coautora de un artículo de investigación que destacaba los posibles riesgos de los grandes modelos de lenguaje en la IA. Estos riesgos incluían los altos costos ambientales y económicos, la dificultad para entender cómo funcionan (lo que puede llevar a sesgos ocultos), la incapacidad de los modelos para comprender realmente lo que aprenden, y la posibilidad de que se usen para engañar a las personas.

En un correo electrónico interno, Gebru explicó que le pidieron que retirara el artículo. Ella pidió saber quién había tomado esa decisión y por qué, pero sus solicitudes no fueron atendidas. Timnit Gebru puso algunas condiciones para no renunciar, pero el equipo de IA de Google no las aceptó y su salida se hizo efectiva ese mismo día. Jeff Dean, jefe de investigación de IA de Google, respondió que la decisión se tomó porque el artículo no consideraba investigaciones recientes sobre cómo reducir los problemas de sesgo y el impacto ambiental de estos modelos.

Después de esta situación, el CEO de Google, Sundar Pichai, emitió una disculpa. Más de 1200 empleados de Google y 1500 investigadores firmaron una carta apoyando a Timnit Gebru.

El 16 de diciembre de 2020, el equipo de investigación de IA ética de Google pidió que Megan Kacholia, una vicepresidenta, no estuviera a cargo de su equipo. También exigieron que Megan Kacholia y Jeff Dean se disculparan por cómo se manejó la situación de Timnit Gebru.

Varios miembros del Congreso de Estados Unidos también enviaron una carta a Google pidiendo aclaraciones sobre la salida de Timnit Gebru.

Premios y reconocimientos

Timnit Gebru, Joy Buolamwini e Inioluwa Raji ganaron el premio AI Innovations Award 2019 de VentureBeat en la categoría "IA para el Bien". Lo recibieron por su investigación que mostró un problema importante de sesgo algorítmico en el reconocimiento facial.

En 2023, la BBC la incluyó en su lista de las 100 mujeres más influyentes del mundo.

Publicaciones destacadas

• Gebru, Timnit; Krause, Jonathan; Wang, Yilun; Chen, Duyun; Deng, Jia; Aiden, Erez Lieberman; Fei-Fei, Li (2017). "Using deep learning and Google Street View to estimate the demographic makeup of neighborhoods across the United States". Proceedings of the National Academy of Sciences.
• Buolamwini, Joy; Gebru, Timnit (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification". Proceedings of Machine Learning Research.
• Gebru, Timnit (2020). "Race and Gender". The Oxford Handbook of Ethics of AI.

Véase también

En inglés: Timnit Gebru Facts for Kids