La batalla por la inteligencia artificial se desplaza del chip al centro de datos completo. Nvidia quiere controlar CPU, GPU, memoria, almacenamiento y redes para exprimir cada vatio de las gigantescas infraestructuras de IA.
Durante años, hablar de Nvidia y de inteligencia artificial prácticamente significaba hablar de GPU. El espectacular crecimiento de la compañía se apoyó en unos aceleradores que se convirtieron en infraestructura esencial para entrenar y ejecutar los modelos de IA más avanzados. Ahora, sin embargo, la siguiente batalla tecnológica está trasladándose a otro terreno.
El problema ya no consiste únicamente en fabricar GPU cada vez más potentes. Cuando los centros de datos alcanzan escalas de cientos de megavatios e incluso proyectos de varios gigavatios, resulta decisivo conseguir que procesadores, memoria, almacenamiento y redes funcionen como una única máquina.
Y ahí aparece la nueva apuesta de Nvidia: dominar el sistema completo que rodea a la GPU.
La arquitectura Vera Rubin ejemplifica este cambio. Nvidia intenta pasar de vender el gran motor de la revolución de la IA a suministrar buena parte del vehículo: computación, CPU, interconexión, redes, almacenamiento y software de coordinación.
Nvidia busca una nueva ventaja competitiva más allá de las GPU
La tesis que ha preocupado a los inversores durante los últimos años es relativamente sencilla.
Nvidia disfrutó de una extraordinaria posición durante la primera fase del auge de la IA porque sus GPU se convirtieron en una de las opciones de referencia para las compañías que necesitaban enormes cantidades de capacidad de cálculo.
Pero los grandes operadores de centros de datos comenzaron a diseñar aceleradores propios.
Eso abre una amenaza evidente: si los gigantes tecnológicos consiguen desarrollar chips suficientemente eficientes para sus propias cargas de trabajo, la dependencia de las GPU de Nvidia podría reducirse.
La respuesta de la compañía parece consistir en ampliar el campo de batalla.
Ya no se trata solamente de preguntar qué GPU ejecuta más operaciones, sino qué arquitectura consigue generar más trabajo útil con una determinada cantidad de energía, memoria y equipamiento.
Los centros de datos de IA se están convirtiendo en máquinas gigantescas
Esta transformación se entiende mejor observando cómo está evolucionando la infraestructura de inteligencia artificial.
Los modelos modernos necesitan comunicarse con enormes cantidades de memoria y almacenamiento. Los datos deben viajar constantemente entre diferentes componentes y los aceleradores necesitan recibirlos con la menor latencia posible.
Una GPU extremadamente potente pierde parte de su ventaja si permanece esperando porque la memoria, la red o el almacenamiento no consiguen alimentarla suficientemente rápido.
Ese cuello de botella se vuelve cada vez más importante conforme aumenta el tamaño del sistema.
La eficiencia real de un centro de datos depende, por tanto, no solo de la capacidad matemática de sus procesadores, sino también de cómo se desplaza la información dentro de la infraestructura.
Ahí Nvidia identifica una oportunidad de negocio gigantesca.
Vera Rubin representa la nueva estrategia de Nvidia
La compañía está desplegando su arquitectura Vera Rubin, concebida alrededor de una infraestructura mucho más integrada.
El ecosistema combina la GPU Rubin con otros componentes especializados, entre ellos la CPU Vera, además de infraestructura destinada a inferencia, almacenamiento y comunicaciones.
La idea consiste en optimizar el funcionamiento del conjunto.
Si las GPU son los motores encargados de ejecutar buena parte de los cálculos de inteligencia artificial, el resto de componentes debe conseguir que esos motores estén permanentemente alimentados con datos.
La analogía automovilística resulta útil: tener el motor más potente sirve de poco si la transmisión, el combustible o el resto del vehículo no consiguen aprovecharlo.
La CPU Vera aborda uno de los grandes cuellos de botella de la IA
Uno de los componentes fundamentales de esta estrategia es la CPU Vera.
Jason Hardy, vicepresidente de tecnología de almacenamiento de Nvidia, explica que existe un límite físico a la cantidad de memoria que puede incorporarse a un único servidor o plataforma de computación.
Esto obliga a mover información.
Y mover información cuesta tiempo y energía.
Cuanto mayores son los modelos y las cargas de trabajo, más importante resulta conseguir que los datos lleguen exactamente al lugar adecuado y en el momento preciso.
El desafío consiste en evitar que aceleradores cuyo coste puede ser extraordinariamente elevado permanezcan infrautilizados esperando información.
Nvidia asegura mejoras de hasta tres veces en determinadas operaciones
Según Hardy, Nvidia ha observado mejoras de hasta 3 veces en determinadas operaciones gracias a la capacidad de Vera para acelerar ese movimiento y coordinación de datos.
Es importante introducir un matiz: se trata de resultados comunicados por un directivo de Nvidia sobre operaciones concretas, no de una afirmación de que todos los centros de datos o todas las cargas de inteligencia artificial vayan a multiplicar automáticamente por tres su rendimiento.
El objetivo es eliminar cuellos de botella que impidan utilizar plenamente otros componentes, incluido el almacenamiento flash.
Este planteamiento refleja una de las obsesiones actuales de la industria: reducir el coste necesario para generar cada token y mejorar la relación entre rendimiento y consumo energético.
La electricidad se convierte en parte de la batalla por la IA
El cambio tiene enormes implicaciones económicas.
Cuando una instalación consume cantidades gigantescas de electricidad, mejorar unos pocos puntos porcentuales su eficiencia puede traducirse en enormes diferencias de costes.
Por eso empieza a resultar insuficiente medir exclusivamente cuántas operaciones puede realizar una GPU.
Importan igualmente métricas como tokens por vatio, utilización efectiva de los aceleradores, latencia, ancho de banda de memoria y eficiencia de las interconexiones.
La próxima generación de centros de datos tendrá que encontrar un equilibrio entre todas ellas.
Y esto convierte componentes aparentemente secundarios en activos estratégicos.
Memoria y almacenamiento ganan protagonismo
La segunda ola de inversión en infraestructura de inteligencia artificial también ha aumentado la importancia de los fabricantes de memoria.
Cuantos más aceleradores incorpora un sistema, más datos deben alimentarlos.
Eso exige aumentar la capacidad y velocidad de memoria y almacenamiento.
Sin embargo, añadir más memoria tampoco resuelve automáticamente el problema. El sistema tiene que mover esos datos con suficiente rapidez.
El cuello de botella puede desplazarse continuamente de un componente a otro.
Primero falta capacidad de computación. Después, memoria. Más tarde, ancho de banda. Luego, almacenamiento o electricidad.
La ventaja competitiva empieza así a depender de quién sea capaz de optimizar todos estos elementos simultáneamente.
OpenAI explora un enfoque diferente con Jalapeño
La fuente aportada señala que Nvidia no es la única compañía trabajando sobre el problema del movimiento de datos.
OpenAI ha desarrollado su chip Jalapeño con una filosofía parcialmente diferente: reducir desde el propio diseño la necesidad de trasladar información entre diferentes componentes.
La compañía explicó este mes que diseñó Jalapeño para minimizar el movimiento de datos y los retrasos de comunicación, intentando mantener cargas completas dentro de un sistema conectado.
Las dos estrategias persiguen un objetivo semejante mediante caminos diferentes.
Nvidia busca construir una infraestructura capaz de coordinar eficientemente enormes cantidades de recursos, mientras otros diseños intentan reducir desde el principio la cantidad de información que necesita desplazarse.
La batalla, por tanto, deja de limitarse a quién tiene el procesador más rápido.
El verdadero enemigo puede ser el movimiento de datos
Existe una razón física detrás de esta evolución.
Realizar cálculos consume energía, pero mover datos también puede resultar extraordinariamente costoso.
Cuanto mayor sea la distancia que debe recorrer la información y cuantos más componentes atraviese, mayores pueden ser la latencia y el consumo.
Por eso la arquitectura del centro de datos adquiere tanta importancia.
Una infraestructura bien diseñada puede mantener los aceleradores trabajando durante más tiempo y reducir esperas.
En la economía de la inteligencia artificial, donde una infraestructura puede representar inversiones de miles de millones, cada segundo de hardware infrautilizado tiene un coste.
Amazon y Google quieren reducir su dependencia de Nvidia
La estrategia de Nvidia tampoco aparece en el vacío.
Los grandes proveedores de nube llevan años desarrollando silicio propio para determinadas cargas.
Google cuenta con sus TPU y Amazon Web Services ha invertido en aceleradores como Trainium e Inferentia.
La motivación económica es evidente.
Una compañía que opera centros de datos a enorme escala puede ahorrar cantidades importantes si consigue diseñar procesadores adaptados específicamente a sus necesidades.
Esto significa que Nvidia ya no puede asumir que todas las grandes cargas de inteligencia artificial utilizarán indefinidamente sus GPU.
Su respuesta consiste en aumentar el valor del ecosistema completo.
Competir contra Nvidia exigirá algo más que fabricar una buena GPU
Aquí se encuentra probablemente la consecuencia estratégica más importante.
Hasta ahora, un competidor podía plantearse el desafío de fabricar un acelerador capaz de rivalizar con Nvidia en determinados benchmarks.
En el nuevo escenario eso podría no bastar.
Será necesario ofrecer también software, interconexiones, redes, CPU, acceso eficiente a memoria, almacenamiento y capacidad de gestionar miles de componentes simultáneamente.
Cuanto más integrada esté la infraestructura, mayor será la dificultad para sustituir únicamente una pieza.
Esta es precisamente una de las fortalezas que Nvidia intenta construir alrededor de sus futuras plataformas.
El riesgo: que la integración se convierta también en dependencia
Para los clientes, sin embargo, existe otra cara de la moneda.
Comprar una arquitectura cada vez más integrada puede mejorar rendimiento y simplificar el despliegue, pero también puede aumentar la dependencia tecnológica de un único proveedor.
Si CPU, GPU, redes, interconexiones y software forman parte de un mismo ecosistema, migrar posteriormente hacia otra plataforma puede resultar más complicado y caro.
Los grandes operadores intentarán evitar ese riesgo desarrollando alternativas propias o utilizando arquitecturas capaces de combinar equipamiento de diferentes fabricantes.
Por eso Nvidia no tiene garantizada la victoria.
Nvidia todavía tendrá que demostrar que puede mantener su ventaja
La ampliación hacia sistemas completos abre oportunidades, pero también introduce nuevos rivales.
Nvidia tendrá que competir contra fabricantes tradicionales de semiconductores, proveedores de redes, especialistas en almacenamiento y, sobre todo, contra hiperescaladores con recursos financieros suficientes para desarrollar su propio hardware.
El mercado puede evolucionar además hacia sistemas más heterogéneos, donde distintas clases de aceleradores sean utilizadas dependiendo de cada tarea.
No existe ninguna garantía de que una sola arquitectura vaya a dominar todos los escenarios.
Pero Nvidia parte con una ventaja considerable: su posición central en la infraestructura que ha impulsado la primera gran oleada de la inteligencia artificial generativa.
La próxima guerra de la IA se librará dentro del centro de datos
La conclusión es que la batalla tecnológica está cambiando.
La primera gran carrera consistió en conseguir suficientes GPU.
La siguiente consiste en lograr que decenas de miles de aceleradores, CPU, memorias, unidades de almacenamiento y dispositivos de red trabajen coordinadamente como si fueran una única máquina.
Ahí puede encontrarse la próxima gran ventaja competitiva de Nvidia.
La compañía ya no pretende limitarse a vender los procesadores que realizan los cálculos. Quiere proporcionar la arquitectura que decide cómo se alimentan, cómo se comunican y con qué eficiencia utilizan cada vatio disponible.
Si esta estrategia funciona, fabricar una GPU rival dejará de ser suficiente para erosionar su posición.
El desafío será mucho mayor: competir contra Nvidia significará competir contra el centro de datos completo.
