En 2016, el CEO de Nvidia, Jensen Huang, entregó personalmente a Elon Musk (entonces en OpenAI) el primer servidor – estación de trabajo DGX-1 que contaba con una potencia de cálculo que oscilaba entre 170 teraflops y 960 teraflops según el modelo y la configuración: el encuentro entre ambos se repitió (esta vez en SpaceX) en las últimas horas con motivo del lanzamiento del pequeña y muy potente Nvidia DGX Spark.
En comparación con su ilustre predecesor, que contribuyó al nacimiento de OpenAI y ChatGPT, el nuevo modelo Reduce drásticamente el tamaño, el consumo de energía y el precio, pero aumenta drásticamente la potencia informática.. Para NVIDIA DGX Spark es la supercomputadora con IA más pequeña del mundo; de hecho, las dimensiones son comparables a las de una Mac mini.
Mientras que el predecesor DGX-1 costaba más de 100 mil dólares, requería 3200W y ocupaba buena parte de un rack o chasis de casi un metro de altura, el nuevo DGX Spark es un rectángulo de 15 cm de lado, 5 centímetros de espesor, funciona con una fuente de corriente de 240W y con un precio que parte de los 4.000 dólares.
Mientras que las dimensiones, el consumo y los precios se han comprimido, el rendimiento literalmente explota, alcanzando un petaflop en el campo de la IA, es decir, un millón de billones de operaciones por segundo, una unidad de medida hasta hace poco reservada a los superordenadores que ocupaban racks o salas enteras.
Poder para la inteligencia
El paquete es pequeño pero completo, porque DGX Spark contiene todo el hardware y software de Nvidia que permite a los desarrolladores e investigadores comenzar a trabajar de inmediato.
Se basa en la arquitectura Grace Blackwell: funciona con el superchip Nvidia GB10 equipado con 128 GB de memoria unificada.. También están presentes las tecnologías Nvidia ConnectX-7 de 200 Gb por segundo para redes y Nvidia NVLink-CSC capaz de ofrecer cinco veces más ancho de banda que el PCIe de quinta generación.
En DGX Spark se incluye toda la pila de software de Nvidia AI, incluidas las plantillas, bibliotecas y microservicios de Nvidia NIM. el constructor declara que esta mini supercomputadora acelera el desarrollo de IA para modelos, agentes e IA física. Le permite realizar inferencias en modelos de IA con hasta 200 mil millones de parámetros, así como refinar modelos localmente con hasta 70 mil millones de parámetros.
Las principales marcas de PC también están listas
Nvidia comercializa su DGX Spark, en cualquier caso las principales marcas de PC con Windows están dispuestas a ofrecer sus propias versiones, con variaciones estéticas y de configuración. A partir del 15 de octubre podrás realizar pedidos con Nvidia pero también con Acer, Asus, Dell, Gigabyte, HPI, Lenovo y MSI.
Para todos los artículos dedicados a la inteligencia artificial, comience desde esta página de aatma.