Сервер ИИ-суперкомпьютер Nvideo DGX Spark

Важно понимать, что NVIDIA DGX Spark — это не отдельная видеокарта (GPU), которую можно установить в обычный компьютер, а полноценный персональный суперкомпьютер размером с небольшую книгу. Его сердцем является уникальный монолитный процессор NVIDIA GB10 Grace Blackwell Superchip.

Видеокарта здесь интегрирована непосредственно в этот чип на самом глубоком уровне, работая в единой связке с центральным процессором.

Архитектура «Графического ядра» внутри GB10 В основе графической части лежит новейшая архитектура Blackwell, дополненная тензорными ядрами пятого поколения. Это специализированная вычислительная матрица, созданная исключительно для задач искусственного интеллекта.

• Формат вычислений FP4: Одной из ключевых особенностей архитектуры является поддержка 4-битных вычислений с плавающей запятой (FP4). Использование столь низкой точности позволяет радикально увеличить скорость обработки данных и снизить потребление памяти без существенной потери качества работы нейросетей.
• Производительность: Графический ускоритель выдает до 1000 TOPS (триллионов операций в секунду) при работе с ИИ-задачами. Для сравнения, такая плотность мощности ранее была доступна только в серверных решениях, занимающих целые стойки.

Технология NVLink-C2C: Главное отличие от обычных ПК В традиционных компьютерах центральный процессор (CPU) и видеокарта (GPU) разделены шиной PCIe. Процессору приходится постоянно копировать данные в память видеокарты и обратно, что создает задержки. В DGX Spark используется технология когерентного соединения NVLink-C2C:

• CPU (20-ядерный Arm-процессор Grace) и GPU объединены в единую систему.
• У них общая область памяти объемом 128 ГБ LPDDR5x со скоростью передачи данных 273 ГБ/с.
• Пропускная способность канала между ними достигает 900 ГБ/с. Это в 5 раз быстрее, чем у интерфейса PCIe 5-го поколения, а время отклика составляет менее 20 наносекунд против привычных 400–600 нс.

Технические характеристики системы DGX Spark:

Для чего нужен такой видеочип? Благодаря архитектуре Blackwell и колоссальному объему быстрой унифицированной памяти, DGX Spark способен локально запускать и обучать гигантские модели. На одном устройстве можно работать с нейросетями размером до 200 миллиардов параметров (например, глубокие версии Llama или Mistral). Если объединить два таких мини-ПК в кластер, становятся доступны модели масштаба 405 миллиардов параметров (такие как Llama 3.1 405B).

Это устройство стирает грань между настольным компьютером и дата-центром, позволяя разработчикам создавать сложные генеративные модели прямо на рабочем столе, обеспечивая полную приватность данных и независимость от облачных сервисов.