Filosofía de ingeniería: Fei-Fei Li, los datos son los cimientos

Ideas clave

• El avance fue el conjunto de datos, no el modelo. Durante una década el campo ajustó algoritmos dando por sentado que el cuello de botella eran los modelos. Fei-Fei Li hizo la apuesta contraria: que el ingrediente faltante eran los datos a gran escala. Concibió y dirigió ImageNet —unos 14 millones de imágenes etiquetadas a mano en más de 20.000 categorías, organizadas según la jerarquía de WordNet y anotadas por decenas de miles de trabajadores de Amazon Mechanical Turk.³⁴
• AlexNet ganó gracias a sus datos. Cuando una red convolucional profunda arrasó en el desafío ImageNet de 2012 —un error top-5 del 15,3 %, más de diez puntos por delante del segundo lugar—, validó la tesis centrada en los datos. El algoritmo existía desde hacía años; lo que cambió fue que por fin tuvo suficientes datos correctos de los cuales aprender.⁴⁵
• La IA debe centrarse en el ser humano. El segundo principio de Li es que no hay “nada artificial” en la IA: la construyen humanos, se comporta hacia humanos e impacta vidas humanas. Cofundó el Stanford HAI (2019) y AI4ALL (2017) para volver institucional esa convicción.⁶⁷⁸
• De inmigrante a fundadora. Nacida en Pekín en 1976, llegó a Nueva Jersey a los dieciséis años, atendió la tintorería familiar mientras estudiaba en Princeton, obtuvo una licenciatura en física y un doctorado en Caltech, y hoy dirige World Labs, una startup de inteligencia espacial que construye modelos capaces de entender el mundo en 3D.¹²¹⁰

El principio

“Nuestra hipótesis sobre la I.A. necesita estar impulsada por los datos, y centrarse en los datos era la hipótesis correcta.” – Fei-Fei Li, sobre la apuesta detrás de ImageNet⁹

Durante casi toda la década de 2000, el instinto dominante en el aprendizaje automático era mejorar el modelo: una arquitectura más ingeniosa, un mejor optimizador, un extractor de características más afinado. Los datos se trataban como un telón de fondo fijo y modesto frente al cual competían los algoritmos. El movimiento central de Fei-Fei Li consistió en invertir esa jerarquía. Sostenía que el cuello de botella no eran realmente los algoritmos, sino los datos. La manera de hacer avanzar la percepción de las máquinas no era seguir puliendo el modelo sobre unos pocos miles de ejemplos, sino darle órdenes de magnitud más ejemplos correctos y dejar que aprendiera el mundo como lo hace un niño: encontrándose con suficiente cantidad de él.⁹

La analogía no era decorativa; era el argumento. A nadie se le enseña a ver enumerándole reglas. Un niño aprende sumergiéndose en un torrente de experiencia visual —millones de vistazos a objetos, escenas, rostros— hasta que la estructura del mundo visual se asienta en su lugar. La apuesta de Li era que un algoritmo de aprendizaje necesitaba lo mismo: no un mejor maestro, sino un flujo de ejemplos enormemente más grande y rico. Así que hizo lo poco glamoroso y descomunal que el campo había evitado. Construyó ese flujo.³

Ese es el principio en una línea: los datos son los cimientos, y la IA debe centrarse en el ser humano. La primera mitad es una afirmación de ingeniería: la inteligencia emerge al aprender sobre suficientes datos correctos, y quien suministra esos datos moldea lo que el campo puede hacer. La segunda mitad es una afirmación sobre el propósito. Li insiste en que la IA no es una fuerza ajena; es un artefacto humano, y su única justificación es que beneficie a las personas. “No hay nada artificial en la IA”, suele decirles a sus estudiantes; “la hacen humanos, está pensada para comportarse [hacia] humanos e impacta las vidas humanas y la sociedad humana.”⁶ Le dio ojos al campo construyendo un conjunto de datos, no un modelo, y luego pasó la década siguiente insistiendo en que esos ojos siguieran apuntando al bien humano.

Contexto

Fei-Fei Li nació en Pekín en 1976.¹ Su padre emigró a Parsippany, Nueva Jersey, cuando ella tenía doce años; ella y su madre lo siguieron a los dieciséis, llegando casi sin saber inglés.¹² El punto de apoyo de la familia en Estados Unidos fue una tintorería, y Li trabajó en ella —los fines de semana durante la secundaria, y la mayoría de los fines de semana que volvía a casa desde la universidad—, ayudando a llevar el negocio y la contabilidad mientras estudiaba.¹² Es un detalle digno de retener: la persona que más tarde organizaría una de las mayores operaciones de etiquetado en la historia de la computación aprendió disciplina operativa detrás de un mostrador, procesando la ropa de otros.

Entró a Princeton con una beca y obtuvo una licenciatura en física en 1999, dirigiendo el negocio familiar a distancia durante parte de ese tiempo.¹² Física, no ciencias de la computación: una formación en buscar la ley simple bajo los fenómenos desordenados, que es precisamente el instinto que luego aplicaría a la visión. Se mudó a Caltech para el posgrado, obteniendo una maestría en ingeniería eléctrica en 2001 y un doctorado en 2005, trabajando en la intersección de la neurociencia y la visión por computadora.¹

Cuando se incorporó a la facultad de Princeton y luego a Stanford (2009), había absorbido una convicción que iba a contracorriente de su campo: que el camino hacia adelante no era un mejor modelo sobre un conjunto de datos pequeño, sino un conjunto de datos radicalmente más grande que nadie había estado dispuesto a construir.¹⁴ Todo lo que sigue —ImageNet, el desafío, el giro centrado en el ser humano, la startup— es el desarrollo de esa única apuesta a contracorriente.

El trabajo

ImageNet: darle ojos al campo (2009)

La forma más limpia de sentir la apuesta de Li es observar qué ocurre cuando mantienes fijo un modelo y haces crecer sus datos de entrenamiento. El clasificador no se vuelve más ingenioso —el algoritmo no cambia—, pero su imagen del mundo se afina con cada ejemplo etiquetado que le das. El componente de abajo lo vuelve tangible: empieza con un puñado de puntos y el mismo modelo adivina una frontera burda y equivocada; agrégale cada vez más datos etiquetados y traza la forma verdadera, con su exactitud subiendo hacia el techo. Esta es la tesis de ImageNet en miniatura.

La historia es concreta, y la atribución importa. Li concibió el proyecto y empezó a trabajar en la idea hacia 2006-2007, mientras estaba en Princeton, colaborando con Christiane Fellbaum, cocreadora de WordNet, para usar la jerarquía de conceptos de WordNet como columna vertebral organizativa del conjunto de datos.⁴ ImageNet fue enfáticamente un esfuerzo de equipo que ella lideró: el artículo emblemático, “ImageNet: A Large-Scale Hierarchical Image Database”, presentado en CVPR 2009, fue escrito por Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li y Li (listada al final, como autora sénior).³ La versión del conjunto de datos que reconfiguró el campo creció hasta unos 14 millones de imágenes anotadas a mano en más de 20.000 categorías: la versión completa, ImageNet-21K, comprende 14.197.122 imágenes en 21.841 clases.⁴

El problema de ingeniería no era el modelo; era el etiquetado. Anotar a mano catorce millones de imágenes estaba más allá de cualquier grupo de investigación, así que el equipo de Li recurrió a Amazon Mechanical Turk, distribuyendo el trabajo entre unos 49.000 trabajadores en 167 países entre julio de 2008 y abril de 2010, filtrando más de 160 millones de imágenes candidatas y etiquetando cada imagen retenida varias veces para asegurar la calidad.⁴ Esa proeza logística —tercerizar la percepción a escala planetaria— fue la contribución. Cualquiera pudo haber propuesto “usar más datos”. Li construyó la maquinaria que lo hizo realidad.

ILSVRC y la validación de AlexNet en 2012

Un conjunto de datos por sí solo no prueba nada; hay que lograr que el campo lo use. Así que de 2010 a 2017, el grupo de Li organizó el ImageNet Large Scale Visual Recognition Challenge (ILSVRC): una competencia anual sobre un subconjunto estandarizado de 1.000 categorías con cerca de 1,28 millones de imágenes de entrenamiento, 50.000 de validación y 100.000 de prueba.⁴ El desafío convirtió a ImageNet en un punto de referencia compartido y una tabla de clasificación, el centro gravitacional de la investigación en visión por computadora durante casi una década.

La validación llegó el 30 de septiembre de 2012. Una red neuronal convolucional profunda —AlexNet, del laboratorio de Geoffrey Hinton en Toronto— ganó el desafío con una tasa de error top-5 del 15,3 %, más de 10,8 puntos porcentuales por delante del segundo lugar.⁴⁵ Ese margen es la bisagra de la era moderna de la IA. Pero el punto que suele pasarse por alto es por qué fue posible: la arquitectura convolucional no era nueva, y el entrenamiento basado en gradientes tampoco. Lo nuevo era que, por primera vez, existía un conjunto de datos lo bastante grande y rico como para que una red profunda aprendiera de él sin limitarse a memorizar. Li había suministrado el ingrediente faltante. Como cuantificaría más tarde su propio estudiante, incluso la exactitud humana en ImageNet es difícil de alcanzar: Andrej Karpathy, que hizo su doctorado con Li y dirigió los experimentos de referencia humana del desafío, estimó un error humano top-5 de alrededor del 5,1 % solo con un esfuerzo concentrado.⁵ Las máquinas se acercaban ahora a un listón que pone a prueba a las personas.

Esta es la ilustración más limpia de la tesis centrada en los datos en toda la serie. El algoritmo que ganó pertenecía al linaje de Geoffrey Hinton, y la arquitectura convolucional desciende del LeNet de Yann LeCun. Pero ninguno de los dos habría ganado en 2012 sin los datos de Li. El modelo y los datos son dos mitades de un mismo avance, y durante una década el campo había mantenido fija la mitad equivocada.

La IA centrada en el ser humano y el Stanford HAI

Tras entregarle al campo un ojo más poderoso, Li dedicó la siguiente fase de su carrera a preocuparse por hacia dónde apuntaba. Su planteamiento es engañosamente simple: la IA no es una fuerza externa que le sucede a la humanidad; es una creación humana cuyo propósito es el beneficio humano. “A menudo les digo a mis estudiantes que no se dejen engañar por el nombre ‘inteligencia artificial’: no hay nada artificial en ella”, ha escrito. “La I.A. la hacen humanos, está pensada para comportarse según los humanos y, en última instancia, para impactar las vidas humanas y la sociedad humana.”⁶

En marzo de 2019 volvió institucional esa convicción, cofundando el Stanford Institute for Human-Centered Artificial Intelligence (HAI) junto con el filósofo y exrector de Stanford John Etchemendy, y ejerciendo como codirectora fundadora.⁷ La misión del HAI —impulsar la investigación, la educación, las políticas y la práctica de la IA para mejorar la condición humana— es el contrapeso deliberado a un campo que con frecuencia optimiza la capacidad de forma aislada. Es el mismo instinto que me lleva a tratar el buen gusto como un sistema técnico en lugar de una intuición vaga: la pregunta sobre para qué sirve el trabajo no es blanda, ni viene después de la ingeniería. Es parte de la ingeniería.

AI4ALL, Google Cloud, The Worlds I See y World Labs

La trayectoria de Li es inusualmente amplia para una investigadora de su talla, y cada capítulo expresa los mismos dos principios. En 2017 cofundó AI4ALL, una organización sin fines de lucro que trabaja para aumentar la diversidad en la IA: una aplicación directa de “centrarse en el ser humano” a la pregunta de quién construye los sistemas.⁸ Durante un período sabático de Stanford, entre enero de 2017 y el otoño de 2018, se desempeñó como científica jefa de IA/ML y vicepresidenta en Google Cloud, llevando a la industria la traducción de investigación a producto.¹

En 2023 publicó unas memorias, “The Worlds I See”, que Barack Obama incluyó en su lista de lecturas y el Financial Times listó entre sus mejores libros del año: “mitad memorias, mitad ciencia”, la historia de la científica inmigrante y la apuesta centrada en los datos en un solo volumen.⁹ Y en septiembre de 2024 cofundó World Labs, una startup de inteligencia espacial —junto con Justin Johnson, Christoph Lassner y Ben Mildenhall— que construye “modelos del mundo” fundacionales capaces de percibir, generar y razonar sobre el mundo en 3D, respaldada por una financiación de alrededor de 1.000 millones de dólares.¹⁰ El hilo conductor es exacto: ImageNet le dio a las máquinas una visión estática; World Labs es su apuesta por darles comprensión espacial, el siguiente y más difícil tipo de ver.

El método

El método de Li es consistente desde el mostrador de la tintorería hasta el laboratorio de inteligencia espacial: encuentra la restricción que todos ignoran, construye lo poco glamoroso que la elimina, y mantén el trabajo apuntando a las personas.

Ataca los datos, no solo el modelo. Cuando un campo está estancado, pregúntate si el cuello de botella es realmente el algoritmo o si son los datos de los que el algoritmo tiene que aprender. El movimiento que definió a Li fue sospechar de los datos, y luego construir, a un enorme costo logístico, el conjunto de datos que lo demostró.³⁴

Toma prestada la estructura de un dominio que ya la resolvió. ImageNet no inventó su propia taxonomía; se apoyó en la jerarquía de conceptos humanos de WordNet. Cuando una estructura conocida encaja con el problema, codifícala en lugar de reinventarla: el mismo instinto que llevó a LeCun a hornear la invariancia a la traslación dentro de la convolución.³⁴

Logra que el campo use tu trabajo. Un conjunto de datos en un cajón no cambia nada. El desafío ILSVRC convirtió a ImageNet en un punto de referencia compartido con una tabla de clasificación, que es lo que de hecho movió a la comunidad de investigación.⁴

Terceriza a la escala que el problema exige. Etiquetar catorce millones de imágenes era imposible para un solo laboratorio, así que Li construyó una tubería de anotación a través de decenas de miles de trabajadores. La solución operativa fue la contribución científica.⁴

Sigue preguntando para qué sirve. La capacidad sin un propósito humano es, en la visión de Li, ingeniería incompleta. El HAI y AI4ALL no son filantropía atornillada a la investigación; son el método extendido: el test de Steve sobre si el trabajo merece existir, aplicado a un campo entero.⁶⁷⁸

Cadena de influencia

Quién la moldeó

Christiane Fellbaum y WordNet. La columna vertebral organizativa de ImageNet es la jerarquía de conceptos de WordNet, y Li construyó el conjunto de datos en colaboración directa con Christiane Fellbaum, cocreadora de WordNet. La taxonomía del lenguaje humano se convirtió en el esqueleto de la visión por computadora. (Influencia directa)

La visión del aprendizaje desde la ciencia cognitiva. La analogía central de Li —que un modelo debería aprender a ver como lo hace un niño, por exposición a suficiente cantidad de mundo— proviene de su formación en la frontera entre la neurociencia y la visión por computadora en Caltech. La apuesta por los datos sobre las reglas es una apuesta sobre cómo se desarrolla realmente la percepción biológica. (Influencia formativa)

El instinto de una física. Su formación de pregrado fue en física, no en informática: una disciplina dedicada a encontrar la estructura simple bajo los fenómenos desordenados. La disposición a creer que “más datos correctos” era una ley del campo, y no un truco de fuerza bruta, es una clase de confianza propia de una física. (Influencia formativa)

A quién moldeó ella

La visión por computadora moderna. Todo sistema de visión entrenado o preentrenado con ImageNet —que es, efectivamente, todos durante una década— hereda los datos de Li. No solo contribuyó al campo; suministró el sustrato sobre el cual aprendió.

La propia era del aprendizaje profundo. La victoria de AlexNet en 2012, el evento que más se cita como el inicio del auge moderno de la IA, corrió sobre su conjunto de datos y dentro de su desafío. La mitad centrada en los datos de ese avance es suya.

Una generación de investigadores. A través de su laboratorio en Stanford asesoró a estudiantes que se convirtieron en figuras centrales por derecho propio, entre ellos Andrej Karpathy, y mediante AI4ALL ha trabajado para ampliar quiénes pueden construir el campo en absoluto.

El hilo conductor

Li es la raíz de los datos en la rama del aprendizaje profundo de esta serie, y la conexión con sus vecinos es inusualmente literal. El laboratorio de Geoffrey Hinton construyó el algoritmo que ganó ImageNet en 2012, y Yann LeCun diseñó la arquitectura convolucional de la que ese algoritmo desciende, pero AlexNet corrió sobre los datos de Li. El modelo y el conjunto de datos son dos mitades de un mismo evento, y durante años el campo había estado puliendo el modelo mientras el conjunto de datos era lo que aún no existía. La línea hacia adelante llega hasta Andrej Karpathy, su propio estudiante de doctorado, que dirigió la referencia de exactitud humana del ILSVRC y más tarde acuñó “Software 2.0”: la idea de una red como un programa compilado a partir de los datos, que es la generalización natural de la apuesta de Li de que la inteligencia proviene de los datos, no del código. LeCun dice aprende el mundo; Hinton dice la máquina de aprendizaje funciona; Li dice: aquí está el mundo del cual aprender, ahora ve. (Puente de la serie)

Lo que tomo de esto

La lección que conservo de Li es que los cimientos poco glamorosos son a menudo el verdadero avance. El campo pasó una década compitiendo en modelos porque es ahí donde parece habitar el ingenio, y la persona que más hizo avanzar el campo lo logró construyendo un conjunto de datos, un acto de resistencia operativa más que de visión algorítmica. Eso reordena mis instintos. Cuando algo está estancado, ahora me pregunto primero si el cuello de botella es la parte ingeniosa en la que quiero trabajar o la parte aburrida que estoy evitando: los datos, el etiquetado, los cimientos que nadie quiere construir. Es la misma disciplina que el umbral de evidencia: no “qué es lo más interesante para optimizar”, sino “qué es en realidad la restricción”.

La segunda lección es más difícil y más callada. Li le dio al campo una capacidad genuinamente más poderosa y luego pasó la década siguiente insistiendo en que rindiera cuentas ante las personas: fundando el HAI, fundando AI4ALL, repitiendo que no hay nada artificial en algo que los humanos hacen para los humanos. Eso no es una coda a la ingeniería; es la razón de existir de la ingeniería, que es exactamente por lo que sostengo que la calidad es la única variable y que el test de Steve —¿esto merece existir?— es una pregunta que le haces a la capacidad misma, no solo al acabado. Li construyó los ojos y luego se aseguró de que siguieran apuntando al bien humano. Los cimientos, y para qué sirven esos cimientos.

Preguntas frecuentes

¿Cuál es la filosofía de ingeniería de Fei-Fei Li?

Los datos son los cimientos, y la IA debe centrarse en el ser humano. La apuesta que definió a Li fue que el cuello de botella en la percepción de las máquinas no era el modelo sino los datos: que la inteligencia emerge al aprender sobre suficientes ejemplos correctos, como un niño aprende a ver por la experiencia. Actuó sobre esa idea concibiendo y dirigiendo ImageNet, un conjunto de datos etiquetado de unos 14 millones de imágenes.³⁴ Su segundo principio es que la IA es un artefacto humano para beneficio humano —“no hay nada artificial en ella”—, algo que institucionalizó a través del Stanford HAI y AI4ALL.⁶⁷⁸

¿Qué es ImageNet, y lo construyó Fei-Fei Li sola?

ImageNet es una base de datos de imágenes etiquetadas a gran escala que se convirtió en el conjunto de entrenamiento fundacional de la visión por computadora moderna: unos 14 millones de imágenes anotadas a mano en más de 20.000 categorías, organizadas según la jerarquía de conceptos de WordNet y etiquetadas mediante Amazon Mechanical Turk.⁴ Li concibió y dirigió el proyecto, pero fue un esfuerzo de equipo: el artículo de CVPR 2009 “ImageNet: A Large-Scale Hierarchical Image Database” fue escrito por Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li y Fei-Fei Li (como autora sénior), y la columna vertebral de WordNet surgió de una colaboración con Christiane Fellbaum, cocreadora de WordNet.³⁴

¿Cómo condujo ImageNet al auge del aprendizaje profundo?

De 2010 a 2017, el grupo de Li organizó el ImageNet Large Scale Visual Recognition Challenge (ILSVRC), una competencia anual sobre un subconjunto de 1.000 categorías.⁴ El 30 de septiembre de 2012, la red convolucional profunda AlexNet ganó con una tasa de error top-5 del 15,3 % —más de 10,8 puntos por delante del segundo lugar—, un evento ampliamente considerado como el inicio de la era moderna de la IA.⁴⁵ El punto decisivo es que el algoritmo convolucional ya existía; lo nuevo era un conjunto de datos lo bastante grande como para que aprendiera de él. Los datos, no el modelo, eran el ingrediente faltante.⁴

¿Qué hace Fei-Fei Li ahora?

Tras cofundar el Stanford HAI (2019) y AI4ALL (2017), desempeñarse como científica jefa de IA/ML en Google Cloud (2017-2018) y publicar en 2023 sus memorias “The Worlds I See”, Li cofundó World Labs en septiembre de 2024.¹⁷⁸⁹ World Labs es una startup de inteligencia espacial que construye “modelos del mundo” fundacionales capaces de percibir, generar y razonar sobre el mundo en 3D: su apuesta por la próxima frontera de la percepción de las máquinas, respaldada por unos 1.000 millones de dólares en financiación.¹⁰

Fuentes