Filosofía de ingeniería: Jim Keller, los transistores son gratis

Puntos clave

• Los transistores son baratos; los cuellos de botella son caros. El movimiento característico de Keller, repetido a lo largo de treinta años y una docena de chips, consiste en gastar silicio para eliminar aquello que se interpone en el camino del rendimiento: pipelines más anchos, más unidades de ejecución, interconexiones más rápidas, porque un transistor que no usaste es un transistor que desperdiciaste. La apuesta rinde frutos cuando el hardware adicional mantiene ocupadas a las unidades en lugar de dejarlas inactivas.¹⁷
• Ha diseñado la arquitectura de los chips detrás de la mitad de la computación que tocas a diario. El Alpha de DEC, el Athlon (K7) y el K8 de AMD —donde fue coautor del conjunto de instrucciones x86-64 (AMD64) y de HyperTransport—, luego el Apple A4 y A5 detrás del iPhone 4 y el iPad original, después el resurgimiento de Zen en AMD, más tarde la computadora de conducción autónoma de Tesla y, finalmente, un paso por Intel como SVP. Pocos ingenieros han dado forma a tantas líneas de producto.¹²³
• La Ley de Moore no está muerta; la gente simplemente dejó de contar las innovaciones que la sostienen. La postura pública de Keller, defendida en charlas y por escrito, es que al escalado de transistores le quedan una o dos décadas, porque la densidad surge de miles de innovaciones apiladas, no de un único truco. La aleta de un transistor moderno todavía mide más de cien átomos de ancho; queda mucho trecho por recorrer hacia abajo.⁴⁷
• De una licenciatura en ingeniería eléctrica en Penn State a evangelista de RISC-V. Nacido alrededor de 1958, estudió ingeniería eléctrica en la Pennsylvania State University y luego tuvo una trayectoria que pasó por DEC -> AMD -> Broadcom -> P.A. Semi -> Apple -> AMD -> Tesla -> Intel, y ahora es CEO de Tenstorrent, donde construye aceleradores de IA abiertos sobre el conjunto de instrucciones abierto RISC-V.¹⁵⁶

El principio

“Mientras el mundo cree que la Ley de Moore está muerta, las fábricas y los tecnólogos creen que no, y ahora todos han anunciado una hoja de ruta de 10 años para la Ley de Moore.” — Jim Keller⁴

La mayoría de los ingenieros tratan el hardware como un presupuesto fijo. Te entregan una cantidad de transistores, un margen de consumo, un nodo de proceso, y optimizas dentro de eso: recortas un ciclo aquí, fusionas una etapa allá, racionas el silicio. Keller trabaja al revés. Trata los transistores como el recurso barato y el cuello de botella como el caro. Si una sola unidad está dejando hambriento al resto de la máquina, la respuesta rara vez es hacer esa unidad más ingeniosa; es gastar más silicio —duplicarla, segmentarla en pipeline, ensanchar el camino hacia ella— para que el cuello de botella desaparezca y todo lo que viene después se mantenga ocupado.⁷

La frase que la industria asocia a esto es “los transistores son gratis”. No es literalmente cierto, y Keller lo sabe: el silicio cuesta dinero y energía. El punto es comparativo. El tiempo de ingeniería es escaso, el riesgo de diseño es peligroso y una unidad de ejecución inactiva es puro desperdicio. Frente a esos, el transistor marginal es lo que más abunda, y la Ley de Moore te sigue entregando más cada par de años. Así que el movimiento disciplinado es gastar el recurso abundante para conservar los escasos. Ese único replanteo —cuál recurso es en realidad barato— es la razón por la que sus chips tienden a ser anchos, agresivos y ávidos de rendimiento en vez de ingeniosos y estrechos.¹⁷

También explica por qué insiste tanto en que la Ley de Moore no está muerta. Si los transistores estuvieran a punto de dejar de abaratarse, toda la estrategia se vendría abajo. Por eso Keller hace el trabajo poco vistoso de argumentar, con números, que aún quedan una o dos décadas de escalado: que la “Ley de Moore” nunca fue una sola innovación, sino una cascada de miles, cada una con su propia curva de rendimientos decrecientes, que sumadas dan una exponencial.⁷ Gasta el recurso barato para matar el cuello de botella, y sigue demostrando que el recurso barato sigue siendo barato. Todo lo demás es detalle.

Contexto

James B. Keller nació alrededor de 1958 y obtuvo una licenciatura en ingeniería eléctrica en la Pennsylvania State University, graduándose en 1980.¹ Lo que vino después es uno de los currículums más improbables en la historia de la industria, no por un único chip, sino por la cantidad de chips que definieron una época, repartidos entre empresas que suelen ser rivales.

Se incorporó a Digital Equipment Corporation en 1982 y permaneció hasta 1998, trabajando en la VAX 8800 y luego en la línea Alpha —la 21164 y la 21264 (EV6), de ejecución fuera de orden—, que fueron los microprocesadores más rápidos de su época.¹ En 1998 pasó a AMD, donde ayudó a lanzar el Athlon (K7) y fue arquitecto principal de la microarquitectura K8. El K8 es el que más importó: Keller fue coautor del conjunto de instrucciones x86-64 (AMD64) que extendió x86 a 64 bits, y de la interconexión HyperTransport que unía varios procesadores entre sí. AMD64 se convirtió en el estándar de 64 bits sobre el que corre todo el mundo de las PC y los servidores, Intel incluido.¹²

Entonces comenzó el peregrinaje. SiByte en 1999 (chips de redes MIPS), adquirida por Broadcom en 2000, donde fue arquitecto jefe hasta 2004; P.A. Semi desde 2004 como vicepresidente de ingeniería, construyendo procesadores móviles de bajo consumo. Apple adquirió P.A. Semi en 2008, y Keller lideró el diseño de los systems-on-chip A4 y A5, el silicio dentro del iPhone 4, el iPhone 4S, el iPad original y el iPad 2. Esos chips sembraron el programa de silicio propio de Apple, el linaje que con el tiempo produjo Apple Silicon.¹³ Regresó a AMD en 2012 para diseñar la arquitectura de Zen, la microarquitectura que sacó a AMD de la casi irrelevancia y la llevó a una competencia genuina.¹ Luego Tesla desde 2016, como vicepresidente de hardware de Autopilot, donde junto a Pete Bannon lideró la computadora de conducción autónoma total (FSD); después Intel de 2018 a 2020 como vicepresidente sénior de ingeniería de silicio.¹² Desde finales de 2020 está en Tenstorrent —primero CTO, luego CEO desde 2023—, construyendo aceleradores de IA sobre RISC-V.⁵⁶

El hilo conductor no es la lealtad a una empresa. Es la lealtad a un método lo bastante portátil como para ganar, por turnos, en DEC, AMD, Apple, Tesla e Intel.

El trabajo

El pipelining y los “transistores son gratis”

Empecemos por la idea que sostiene todo lo demás, porque es donde el instinto de Keller se vuelve aritmética. Un procesador ejecuta instrucciones por pasos: busca la instrucción, la decodifica, lee sus operandos, hace la aritmética, escribe el resultado. La máquina ingenua ejecuta una instrucción completa a través de todos esos pasos antes de empezar la siguiente. El problema es que, mientras la unidad aritmética trabaja, el hardware de búsqueda y decodificación está inactivo; mientras se escribe el resultado, casi todo lo demás no hace nada. La mayor parte de tu costoso silicio está apagada la mayor parte del tiempo.

La solución es el pipelining: dividir el trabajo en etapas y dejar que se solapen, como una línea de montaje. Mientras la instrucción uno está en la etapa aritmética, la instrucción dos se está decodificando y la instrucción tres se está buscando. Cada instrucción sigue tomando la misma cantidad de pasos, pero ahora la máquina termina una por ciclo en vez de una cada cinco, porque ninguna etapa queda jamás inactiva. La trampa es que solapar el trabajo cuesta hardware: latches entre etapas, lógica para rastrear dependencias, maquinaria para manejar los casos en que la instrucción dos necesita un resultado que la instrucción uno todavía no ha producido. Pagas transistores para mantener ocupadas a las unidades.¹

Los chips de Keller llevan esa apuesta al extremo. Pasar a superescalar —múltiples unidades de ejecución para terminar más de una instrucción por ciclo— y a fuera de orden —reordenar las instrucciones para que una detenida no bloquee a las que ya están listas— cuesta, en ambos casos, una enorme cantidad de silicio en tareas de contabilidad. La Alpha 21264 fue un diseño fuera de orden agresivo; el K7 y el K8 de AMD eran máquinas superescalares anchas; Zen volvió a ensanchar el camino.¹ En todos los casos el razonamiento es el mismo: las unidades de ejecución son lo que importa, las unidades inactivas son desperdicio, y los transistores necesarios para mantenerlas alimentadas son lo más barato del edificio. Gasta silicio para eliminar el cuello de botella. Ese es el principio, y el pipeline es su forma más simple posible.

El resurgimiento de AMD y el linaje de AMD64

El trabajo que más remodeló a la industria fue el K8. A principios de la década de 2000, el espacio de direcciones de 32 bits de x86 se estaba quedando sin margen: los 4 GB de memoria empezaban a ser un techo real. Había dos caminos a seguir. La apuesta de Intel, Itanium, era abandonar x86 y construir una arquitectura de 64 bits nueva y limpia, rompiendo la compatibilidad con la montaña de software existente. La apuesta de AMD, cuya arquitectura lideró Keller, era la opuesta: extender x86 a 64 bits manteniéndolo capaz de ejecutar todo el código de 32 bits existente a máxima velocidad. Eso fue x86-64, también llamado AMD64.¹²

La apuesta pragmática ganó de forma decisiva. No había que reescribir el software; la ruta de actualización era indolora; el rendimiento del código heredado no se resentía. AMD64 se convirtió en el estándar, e Intel terminó adoptando las extensiones de AMD en lugar de lo contrario: la arquitectura en prácticamente cada CPU de PC y servidor de hoy es la que especificó el equipo de Keller. Junto a ella, HyperTransport dio a los servidores Opteron de AMD una forma rápida y punto a punto de conectar varios procesadores, atacando el cuello de botella de memoria e interconexión que el instinto de “los transistores son gratis” siempre persigue.¹² Cuando Keller regresó a AMD en 2012 para diseñar la arquitectura de Zen, repitió el patrón en una empresa que casi había quedado fuera de la carrera de alto rendimiento: un núcleo ancho, limpio y modular que cerró la brecha con Intel y volvió a darle a AMD una línea de producto creíble.¹ Dos veces entró a AMD y dos veces la dejó con la arquitectura que definiría su siguiente década.

El silicio de Apple, desde cero

El capítulo de sombra más larga es el más silencioso. Cuando Apple adquirió P.A. Semi en 2008, Keller lideró al equipo que diseñó el A4 —el primer system-on-chip propio de Apple, embarcado en el iPhone 4 y el iPad original en 2010— y su sucesor, el A5, en el iPhone 4S y el iPad 2.¹³ Antes de esto, Apple compraba sus procesadores móviles ya hechos. El A4 fue el momento en que Apple decidió controlar su propio silicio, y el equipo y la disciplina que Keller ayudó a establecer se convirtieron en el cimiento del programa que hoy produce los chips de la serie A y de la serie M que alimentan cada iPhone, iPad y Mac.

La lógica estratégica es el mismo instinto de rendimiento y control en un dominio nuevo. La restricción más dura de un teléfono es el rendimiento por vatio: no puedes resolverlo a la fuerza con el margen de consumo de un equipo de escritorio. Ser dueño del diseño de punta a punta —en vez de aceptar la pieza de propósito general de un proveedor— te permite gastar tus transistores exactamente donde la carga de trabajo los necesita, y en ningún lugar donde no. Eso es el principio de “los transistores son gratis” invertido para una batería: no “añade silicio sin reparos”, sino “coloca cada transistor con deliberación, porque eres dueño de todo el diseño”. La línea que va del A4 al Apple Silicon de hoy, y al trabajo de rendimiento consciente del hardware que hizo famoso a John Carmack, pasa directamente por esa decisión de 2008.³

Los primeros principios y el hardware abierto de Tenstorrent

El método que une a todas las empresas es el pensamiento desde los primeros principios: la disposición a desechar las suposiciones heredadas y preguntar qué requiere realmente el problema. Keller es categórico en que las arquitecturas se pudren: aproximadamente cada cinco años, sostiene, deberías hacer un diseño desde cero en lugar de parchar el viejo, porque la reescritura termina siendo a la vez más rápida y menos complicada que la versión acumulada a la que reemplaza.⁷ La disciplina consiste en seguir preguntando qué estás tratando realmente de hacer, despojado de las restricciones que eran ciertas hace dos nodos de proceso y ya no lo son.⁷

Ese instinto es la razón por la que rechaza el consenso de que “la Ley de Moore está muerta”. Su argumento es mecánico, no de fe: la densidad de transistores es la suma de miles de innovaciones independientes, cada una en su propia curva de rendimientos decrecientes, y la suma sigue siendo exponencial. La aleta de un FinFET mide hoy más de cien átomos de ancho; podrías imaginar un transistor de diez átomos por lado, “un millón de veces más pequeño”, antes de tocar fondo. “Así que no nos estamos quedando sin átomos”, como lo expresa él.⁴⁷ Los pesimistas, en su relato, cuentan una sola innovación y se pierden la cascada.

En Tenstorrent, donde es CEO, la apuesta por los primeros principios es institucional. La empresa construye aceleradores de entrenamiento e inferencia de IA sobre RISC-V —el conjunto de instrucciones abierto, libre de cuotas de licencia y de control propietario— y pretende liberar como código abierto su pila de software y licenciar su propiedad intelectual de CPU y de núcleos de IA, no solo vender chips.⁵⁶ La convicción pública de Keller es que “en los próximos 5 a 10 años, RISC-V se apoderará de todos los centros de datos”.⁵ La apuesta es que el hardware abierto, como el software abierto antes que él, gana por los primeros principios: baja las barreras, deja que muchas partes construyan, y el ecosistema abierto innova más rápido que el cerrado. Es el mismo hombre que hizo de x86 el estándar, apostando ahora a que el estándar debería ser uno que nadie posea.

El método

Recorre el Alpha, el AMD64, Zen, el A4 y Tenstorrent, y los mismos movimientos se repiten. El método de Keller es menos un eslogan que un conjunto de compromisos permanentes.

Gasta el recurso barato para matar el cuello de botella. El hábito que lo define es identificar qué recurso es en realidad abundante —normalmente los transistores— y gastarlo sin reparos para eliminar todo aquello que esté dejando hambriento al rendimiento. Pipelines más anchos, más unidades, interconexiones más rápidas. La lección general se transfiere: encuentra el recurso que más tienes y cámbialo por el que menos tienes, en vez de racionarlos todos por igual. Es la calidad es la única variable a nivel del silicio: la corrección y el rendimiento son la meta, y el presupuesto de transistores no es la restricción que crees que es.⁷

Reconstruye desde cero según un calendario. Aproximadamente cada cinco años, rehaz el diseño en lugar de parcharlo, porque las suposiciones heredadas se calcifican y la reescritura sale más simple. El valor de descartar trabajo que funciona pero está anticuado es raro y carga con mucho peso: el mismo instinto que le permite a Linus Torvalds desechar un subsistema que ya no encaja.⁷

Pregunta qué requiere realmente el problema, no qué supuso el último diseño. El pensamiento desde los primeros principios significa despojarse de las restricciones que eran ciertas hace dos nodos y ya no lo son. La disciplina consiste en seguir preguntando “qué estamos tratando realmente de hacer” hasta que el lastre heredado se desprenda: la puerta de la evidencia apuntada hacia tus propias suposiciones y no hacia la afirmación de otro.⁷

Coloca cada transistor con deliberación cuando el presupuesto es ajustado. La otra cara de “los transistores son gratis” es el teléfono: cuando el muro es el consumo, no el área, eres dueño de todo el diseño para poder poner el silicio exactamente donde la carga de trabajo lo necesita. Saber en qué régimen estás —abundante o escaso— y diseñar en consecuencia es la verdadera habilidad, no una regla general.³

Apuesta por la apertura como primer principio. RISC-V y una pila de software abierta son una apuesta a que bajar las barreras deja que más gente construya y a que el ecosistema abierto innova más rápido que el cerrado. Es el razonamiento del producto mínimo digno aplicado a toda una plataforma: lanza la cosa abierta sobre la que otros pueden construir, en vez de la cosa cerrada que solo tú puedes.⁵⁶

Cadena de influencia

Quiénes lo formaron

DEC y la cultura Alpha. Keller aprendió el diseño de alto rendimiento en Digital, en la línea Alpha, dentro de una organización que valoraba la velocidad bruta y la ejecución fuera de orden agresiva por encima de casi todo. La convicción de que gastas silicio para ganar en rendimiento se forjó allí, en los microprocesadores más rápidos de su era. (Influencia formativa)

Dirk Meyer y Pete Bannon. El trabajo más importante de Keller surgió de asociaciones: co-diseñar la arquitectura fuera de orden EV6 del Alpha con Dirk Meyer, y luego liderar la computadora FSD de Tesla junto a Pete Bannon, quien siguió un camino paralelo hacia el programa de silicio de Apple. Las colaboraciones no son incidentales; los chips más difíciles son deportes de equipo, y los coarquitectos recurrentes de Keller dieron forma al trabajo tanto como él dio forma al de ellos. (Influencia directa)

La propia Ley de Moore. Toda la estrategia de “los transistores son gratis” depende de que los transistores sigan abaratándose. La visión del mundo de Keller es río abajo de la observación de Gordon Moore, y por eso la defiende con tanta ferocidad. Si la cascada de innovaciones de escalado se detiene, el método tiene que cambiar. (Influencia formativa)

A quiénes formó

Apple Silicon. El equipo y la disciplina del A4 y el A5 que Keller ayudó a poner en pie en Apple tras la adquisición de P.A. Semi se convirtieron en el cimiento del programa que produce cada chip de la serie A y de la serie M de hoy. El silicio de consumo más trascendental de la última década se remonta a una decisión en la que él fue central.

Los dos resurgimientos de AMD. El K8/AMD64 convirtió a AMD en contendiente en servidores y fijó el estándar de 64 bits sobre el que corre el mundo; Zen devolvió a AMD a la carrera de alto rendimiento una década después. Ambas arquitecturas definieron la posición competitiva de AMD durante años después de que él se fuera.

El movimiento RISC-V y de hardware abierto. Como uno de los arquitectos más creíbles de la industria que apuesta pública y comercialmente por los conjuntos de instrucciones abiertos, Keller da peso al argumento de que el hardware puede seguir al software hacia la apertura. Tenstorrent es la demostración.

El hilo conductor

Keller es donde el hilo de esta serie sobre gastar el recurso correcto se encuentra con el metal. John Carmack exprimía un rendimiento imposible de un hardware de consumo fijo entendiendo la máquina hasta el ciclo; Keller trabaja la capa de abajo: él diseña la máquina, y su respuesta a un cuello de botella no es solo programar a su alrededor, sino añadir el silicio que lo elimina. Bjarne Stroustrup construyó C++ sobre el principio de la abstracción de sobrecosto cero, según el cual no deberías pagar por lo que no usas; los “transistores son gratis” de Keller son el espejo en hardware: gasta en lo que mantiene ocupada a la máquina, no desperdicies nada en lo que está inactivo. Y donde Andrej Karpathy describe el “Software 2.0”, programas compilados a partir de datos en lugar de escritos a mano, Keller está construyendo el silicio que la nueva carga de trabajo exige: aceleradores de IA sobre RISC-V abierto, diseñados desde los primeros principios para un problema al que la vieja CPU de propósito general nunca estuvo destinada. Carmack dice domina el hardware que te dan; Stroustrup dice no pagues por lo que no usas; Keller dice: cuando el hardware es el cuello de botella, construye uno mejor, y sigue demostrando que todavía quedan átomos por gastar. (Puente de la serie)

Lo que me llevo de esto

La lección que conservo de Keller es averiguar qué recurso es en realidad barato y luego gastarlo sin culpa. Es fácil racionarlo todo por igual: tratar cada restricción como vinculante y optimizar con timidez dentro de todas a la vez. El hábito de Keller es notar que un recurso es abundante y los demás son escasos, y negociar con fuerza en la dirección que esa abundancia permite. Los transistores son baratos; las unidades inactivas y el tiempo de ingeniería son caros; así que gasta transistores para matar el cuello de botella. En mi propio trabajo el recurso abundante rara vez es el silicio: a menudo es la capacidad de cómputo, o los tokens de un modelo, o la posibilidad de regenerar un borrador a bajo costo. El movimiento es el mismo: deja de racionar aquello que más tienes y apúntalo hacia lo que de verdad te está bloqueando.

La segunda lección es la disposición a empezar de nuevo según un calendario. La afirmación de Keller de que deberías rediseñar desde cero cada pocos años —porque la reescritura sale más simple que el original parchado— choca contra todo instinto de proteger el trabajo que ya hiciste. Pero tiene razón en que las suposiciones se calcifican, en que las restricciones que alguna vez fueron ciertas dejan de serlo en silencio, y en que el diseño acumulado carga con el peso de todas ellas. La disciplina consiste en preguntar periódicamente qué requiere el problema ahora, con ojos frescos, y en tener el temple de desechar la vieja respuesta cuando ya no encaja. Lo que construí el año pasado se construyó para las restricciones del año pasado. La carrera de Keller es un largo argumento de que el movimiento valiente —el que de verdad gana— es construirlo otra vez desde los primeros principios.

Preguntas frecuentes

¿Cuál es la filosofía de ingeniería de Jim Keller?

Gasta el recurso barato para eliminar el cuello de botella. Keller trata los transistores como abundantes —“los transistores son gratis”— y el tiempo de ingeniería, el riesgo de diseño y el hardware inactivo como las cosas caras, de modo que sus chips gastan silicio sin reparos en pipelines más anchos, más unidades de ejecución e interconexiones más rápidas para mantener alto el rendimiento.¹⁷ Por debajo de eso está el pensamiento desde los primeros principios: aproximadamente cada cinco años, rediseña desde cero en lugar de parchar, porque las suposiciones heredadas se calcifican y la reescritura sale más simple.⁷

¿Qué chips diseñó Jim Keller?

Una gama notable repartida entre empresas rivales: los procesadores Alpha de DEC (incluida la 21264 fuera de orden); el Athlon (K7) y el K8 de AMD, donde fue coautor del conjunto de instrucciones x86-64/AMD64 y de la interconexión HyperTransport; los systems-on-chip Apple A4 y A5 detrás del iPhone 4 y el iPad original; la arquitectura Zen de AMD a su regreso en 2012; y la computadora de conducción autónoma total de Tesla. También se desempeñó como vicepresidente sénior de silicio en Intel de 2018 a 2020.¹²³

¿Por qué dice Jim Keller que la Ley de Moore no está muerta?

Porque, según su relato, la densidad de transistores no es una sola innovación, sino la suma de miles de ellas, cada una en su propia curva de rendimientos decrecientes, que suman una exponencial, y a esa suma todavía le quedan una o dos décadas.⁷ Señala que las fábricas y los tecnólogos han publicado hojas de ruta a 10 años, que la aleta de un FinFET moderno todavía mide más de cien átomos de ancho, y que podrías imaginar un transistor de diez átomos por lado, un millón de veces más pequeño. “Así que no nos estamos quedando sin átomos.”⁴⁷

¿Qué es Tenstorrent y qué hace Jim Keller allí?

Tenstorrent es una empresa de chips de IA donde Keller es CEO desde 2023 (antes fue CTO). Construye aceleradores de entrenamiento e inferencia de IA sobre el conjunto de instrucciones abierto RISC-V, pretende liberar como código abierto su pila de software y licencia su propiedad intelectual de CPU y de núcleos de IA además de vender chips.⁵⁶ La apuesta de Keller es que el hardware abierto seguirá el camino del software abierto hacia el dominio: ha dicho que cree que “en los próximos 5 a 10 años, RISC-V se apoderará de todos los centros de datos”.⁵

Fuentes