Prometheus: миллион видеокарт. Meta строит вычислительного монстра
Компания Meta раскрыла технические подробности Prometheus, одного из крупнейших вычислительных комплексов для искусственного интеллекта. Система уже объединяет сотни тысяч графических процессоров NVIDIA, а конечная цель проекта — около одного миллиона GPU, соединённых в единую вычислительную инфраструктуру. Комплекс строится в Нью-Олбани, штат Огайо, а его энергопотребление рассчитано на гигаваттный масштаб.
Что известно о Prometheus
19 октября 2026 года Meta опубликовала инженерный отчёт о строительстве и эксплуатации Prometheus.
Первая очередь комплекса уже работает и используется для обучения моделей искусственного интеллекта, включая семейство Muse.
Основные характеристики проекта:
- До 1 миллиона GPU — целевая конфигурация.
- Сотни тысяч GPU уже задействованы в инфраструктуре.
- До 20 736 GPU объединяются одной сетевой системой внутри здания.
- Расстояние между отдельными вычислительными площадками превышает 100 километров.
- Для передачи данных используются десятки тысяч коммутаторов и миллионы миль оптоволоконных жил.
- Энергетическая инфраструктура проектируется для нагрузок гигаваттного масштаба.
На каком оборудовании работает система
Meta использует серверные платформы Catalina и Clemente, построенные на ускорителях NVIDIA GB200 и GB300.
Каждая конфигурация NVL72 объединяет 72 GPU через высокоскоростную систему NVLink.
NVIDIA GB200 NVL72:
- 72 графических процессора Blackwell.
- 13,4 ТБ общей видеопамяти.
- До 1,44 EFLOPS вычислительной мощности FP4.
- Пропускная способность NVLink до 130 ТБ/с.
NVIDIA GB300 NVL72:
- 72 графических процессора Blackwell Ultra.
- 20,7 ТБ общей видеопамяти.
- Пропускная способность NVLink до 130 ТБ/с.
- Энергопотребление конфигурации достигает примерно 135 кВт на стойку.
Для соединения серверов применяется отдельная сеть Backend Ethernet, обеспечивающая высокоскоростной обмен данными при распределённом обучении нейросетей.
Почти тысяча сбоев в сутки
На раннем этапе эксплуатации Prometheus столкнулся с серьёзными проблемами стабильности.
В середине 2025 года Meta фиксировала почти 1 000 прерываний вычислений в сутки на каждые 8 000 GPU.
Среди причин:
- Отказы графических процессоров.
- Ошибки видеопамяти.
- Неисправности соединений NVLink.
- Проблемы с сетью и охлаждением.
- Сбои программного обеспечения.
Для повышения надёжности Meta внедрила резервирование оборудования. В отдельных группах из 72 GPU для основной вычислительной нагрузки используются 64, а остальные восемь остаются резервными.
Дополнительно разработана технология Parallelism-Aware Fault Tolerance, позволяющая восстанавливать отдельные вычислительные процессы без полного перезапуска обучения.
За год количество прерываний удалось сократить на 99% относительно пиковых значений.
При обучении модели Muse Wonder полезная загрузка вычислительных ресурсов превышала 85%, а в некоторых задачах обучения с подкреплением достигала более 90%.
Энергопотребление и охлаждение
Одной из технических проблем Prometheus стали резкие изменения нагрузки на электросеть.
Во время запуска и остановки крупных вычислительных задач потребление электроэнергии может изменяться на 30–40%. В абсолютных значениях колебания достигают десятков мегаватт за несколько секунд.
Для управления нагрузкой Meta разработала систему Dynamo Dimmer, динамически регулирующую энергопотребление GPU.
Комплекс также использует:
- Жидкостное охлаждение вычислительных стоек.
- Аккумуляторные системы накопления энергии.
- Конденсаторы для сглаживания кратковременных пиков нагрузки.
- Автоматизированное управление электропитанием.
Следующее поколение — NVIDIA Vera Rubin
Meta планирует расширять вычислительную инфраструктуру с использованием ускорителей NVIDIA Vera Rubin.
Новая платформа San Miguel должна включать 72 GPU с памятью HBM4.
Заявленные характеристики будущей системы:
- 288 ГБ памяти HBM4 на каждый GPU.
- Пропускная способность памяти до 19,2 ТБ/с.
- До 2,52 EFLOPS вычислительной мощности FP4 на стойку.
- Энергопотребление свыше 170 кВт на стойку.
- Полностью жидкостное охлаждение.
По расчётам Meta, новая архитектура должна обеспечить улучшение производительности на ватт на 10–20% по сравнению с GB300 NVL72.
Помимо Prometheus, компания развивает ещё один крупный вычислительный комплекс Hyperion в Луизиане.
Prometheus уже используется для обучения ИИ-моделей, однако целевая конфигурация из миллиона GPU пока не достигнута. Срок полного развёртывания всех вычислительных мощностей Meta в опубликованном отчёте не уточнила.
Источники
- Meta Engineering — Inside Prometheus: Meta’s Journey to a Gigawatt-Scale Supercluster
- Meta — официальное видео комплекса Prometheus
Компания Meta раскрыла технические подробности Prometheus, одного из крупнейших вычислительных комплексов для искусственного интеллекта. Система уже объединяет сотни тысяч графических процессоров NVIDIA, а конечная цель проекта — около одного миллиона GPU, соединённых в единую вычислительную инфраструктуру. Комплекс строится в Нью-Олбани, штат Огайо, а его энергопотребление рассчитано на гигаваттный масштаб.
Что известно о Prometheus
19 октября 2026 года Meta опубликовала инженерный отчёт о строительстве и эксплуатации Prometheus.
Первая очередь комплекса уже работает и используется для обучения моделей искусственного интеллекта, включая семейство Muse.
Основные характеристики проекта:
- До 1 миллиона GPU — целевая конфигурация.
- Сотни тысяч GPU уже задействованы в инфраструктуре.
- До 20 736 GPU объединяются одной сетевой системой внутри здания.
- Расстояние между отдельными вычислительными площадками превышает 100 километров.
- Для передачи данных используются десятки тысяч коммутаторов и миллионы миль оптоволоконных жил.
- Энергетическая инфраструктура проектируется для нагрузок гигаваттного масштаба.
На каком оборудовании работает система
Meta использует серверные платформы Catalina и Clemente, построенные на ускорителях NVIDIA GB200 и GB300.
Каждая конфигурация NVL72 объединяет 72 GPU через высокоскоростную систему NVLink.
NVIDIA GB200 NVL72:
- 72 графических процессора Blackwell.
- 13,4 ТБ общей видеопамяти.
- До 1,44 EFLOPS вычислительной мощности FP4.
- Пропускная способность NVLink до 130 ТБ/с.
NVIDIA GB300 NVL72:
- 72 графических процессора Blackwell Ultra.
- 20,7 ТБ общей видеопамяти.
- Пропускная способность NVLink до 130 ТБ/с.
- Энергопотребление конфигурации достигает примерно 135 кВт на стойку.
Для соединения серверов применяется отдельная сеть Backend Ethernet, обеспечивающая высокоскоростной обмен данными при распределённом обучении нейросетей.
Почти тысяча сбоев в сутки
На раннем этапе эксплуатации Prometheus столкнулся с серьёзными проблемами стабильности.
В середине 2025 года Meta фиксировала почти 1 000 прерываний вычислений в сутки на каждые 8 000 GPU.
Среди причин:
- Отказы графических процессоров.
- Ошибки видеопамяти.
- Неисправности соединений NVLink.
- Проблемы с сетью и охлаждением.
- Сбои программного обеспечения.
Для повышения надёжности Meta внедрила резервирование оборудования. В отдельных группах из 72 GPU для основной вычислительной нагрузки используются 64, а остальные восемь остаются резервными.
Дополнительно разработана технология Parallelism-Aware Fault Tolerance, позволяющая восстанавливать отдельные вычислительные процессы без полного перезапуска обучения.
За год количество прерываний удалось сократить на 99% относительно пиковых значений.
При обучении модели Muse Wonder полезная загрузка вычислительных ресурсов превышала 85%, а в некоторых задачах обучения с подкреплением достигала более 90%.
Энергопотребление и охлаждение
Одной из технических проблем Prometheus стали резкие изменения нагрузки на электросеть.
Во время запуска и остановки крупных вычислительных задач потребление электроэнергии может изменяться на 30–40%. В абсолютных значениях колебания достигают десятков мегаватт за несколько секунд.
Для управления нагрузкой Meta разработала систему Dynamo Dimmer, динамически регулирующую энергопотребление GPU.
Комплекс также использует:
- Жидкостное охлаждение вычислительных стоек.
- Аккумуляторные системы накопления энергии.
- Конденсаторы для сглаживания кратковременных пиков нагрузки.
- Автоматизированное управление электропитанием.
Следующее поколение — NVIDIA Vera Rubin
Meta планирует расширять вычислительную инфраструктуру с использованием ускорителей NVIDIA Vera Rubin.
Новая платформа San Miguel должна включать 72 GPU с памятью HBM4.
Заявленные характеристики будущей системы:
- 288 ГБ памяти HBM4 на каждый GPU.
- Пропускная способность памяти до 19,2 ТБ/с.
- До 2,52 EFLOPS вычислительной мощности FP4 на стойку.
- Энергопотребление свыше 170 кВт на стойку.
- Полностью жидкостное охлаждение.
По расчётам Meta, новая архитектура должна обеспечить улучшение производительности на ватт на 10–20% по сравнению с GB300 NVL72.
Помимо Prometheus, компания развивает ещё один крупный вычислительный комплекс Hyperion в Луизиане.
Prometheus уже используется для обучения ИИ-моделей, однако целевая конфигурация из миллиона GPU пока не достигнута. Срок полного развёртывания всех вычислительных мощностей Meta в опубликованном отчёте не уточнила.
Источники
- Meta Engineering — Inside Prometheus: Meta’s Journey to a Gigawatt-Scale Supercluster
- Meta — официальное видео комплекса Prometheus