Описание | Гауди® 2 | Особенности | Слоты | Технические характеристики | Загрузки | Решения | Ресурс | Назад
AI / ML | AI Server
| AGS8200
AGS8200
Edgecore AGS8200 — это передовой высокопроизводительный сервер на базе GPU, адаптированный для приложений искусственного интеллекта и машинного обучения. Созданный для таких задач, как обучение больших языковых моделей, автоматизация процессов и совершенствование классификации и распознавания объектов, этот сервер обладает непревзойденными производительностью и масштабируемостью.
В основе AGS8200 восемь высокопроизводительных процессоров Intel® Habana® Gaudi® 2 и два процессора Xeon® Sapphire Rapids. Вместе они обеспечивают вычислительные мощности для выполнения разнообразных задач глубокого обучения с исключительной скоростью и точностью.
Каковы преимущества AGS8200?
Высокая производительность
AGS8200 на процессорах Intel® Gaudi® 2 поднимает глубокое обучение на новый уровень. Инновационная архитектура чипсета не только повышает производительность в задачах обучения и инференса, но и позволяет раскрыть весь потенциал искусственного интеллекта, обеспечивая высочайшую производительность приложений искусственного интеллекта и машинного обучения.
Энергоэффективность
Основанные на передовом 7-нм техпроцессе процессоры Intel® Gaudi® 2 имеют превосходные показатели рассеяния тепла. Благодаря разработанному Edgecore инновационному дизайну, AGS8200 обладает не только повышенной производительностью, но и энергоэффективностью. Это означает снижение эксплуатационных затрат и улучшение экологических показателей.
Экономическая эффективность
Процессоры Intel® Gaudi® 2 идеально подходят для использования в приложениях искусственного интеллекта и машинного обучения, позволяя добиться значительной экономической выгоды. Мы в Edgecore понимаем важность ваших инвестиций. Мы разрабатываем наши решения с учетом ваших потребностей, обеспечивая максимальную производительность без лишних затрат.
Открытая архитектура
Мы применяем оптимизированное для задач искусственного интеллекта коммутационное оборудование и программное обеспечение открытой архитектуры и участвуем в таких проектах и сообществах, как OCP, TIP и SONiC. Наше активное участие в коллективных проектах гарантирует, что мы сможем предложить комплексные, гибкие, перспективные решения в сфере коммуникаций для искусственного интеллекта и машинного обучения.
Производительность Intel® Gaudi® 2
Основные преимущества Intel® Gaudi® 2
■Ссылка/источник изображения MLPerf
Особенности
Edgecore AGS8200 идеально подходит для современных приложений искусственного интеллекта и машинного обучения. AGS8200 на базе ИИ-ускорителя Intel® Gaudi® 2 подходит для обучения и инференса больших языковых моделей, позволяя клиентам эффективно использовать всю мощь искусственного интеллекта.
Система основана на восьми процессорах Intel® Habana® Gaudi® 2 и двух процессорах Xeon® Sapphire Rapids. Процессор Gaudi® 2 оснащен 96 Гб памяти HBM2E и 24 сетевыми адаптерами 100 Гбит/с RoCEv2 RDMA. 24 сетевых адаптера 100 Гбит/с обеспечивают всестороннее подключение и внутреннее и внешнее масштабирование для обучения, тонкой настройки и других задач глубокого обучения.
Каждый процессор Gaudi® 2 имеет 21 неблокируемый порт 100 Гбит/с для соединения со всеми другими процессорами Gaudi® 2 сервера, что обеспечивает обучение на всех восьми процессорах Intel® Gaudi® 2 без необходимости использования внешнего коммутатора Ethernet.
Каждый AGS8200 поддерживает 6 портов QSFP-DD для горизонтального масштабирования. Порты 400 Гбит/с подключаются к коммутаторам 400 Гбит/с или 100 Гбит/с при помощи breakout-кабелей в стойках и кластерах узлов на базе Intel® Gaudi® 2.
Сервер может включать 16 HDD/SSD + 8 NVMe или 8 HDD/SSD + 16 NVMe для хранилища данных с поддержкой RAID HBA с 0/1/10/5/6/50/60.
■ Восемь процессоров Habana® Gaudi® 2 для обучения ИИ
■ Два масштабируемых процессора 4th Gen Intel® Xeon®
■ Расширенные сетевые возможности благодаря 24 портам 100 Гбит/с RoCE, интегрированным в каждый процессор Gaudi® 2
■ 700 Гб/с при масштабировании внутри сервера и 2,4 Тб/с при горизонтальном масштабировании
■ Простота построения системы и миграции благодаря стеку ПО Habana® SynapseAI®
■ Стандартизированная архитектура и Ethernet вместо проприетарных Infiniband и NVLINK
Технические характеристики
Форм-фактор
■ 8U
Вычислительный узел
■ ЦПУ: Sapphire Rapids, 2 сокета
Intel® Xeon® Platinum 8454H, 32c, 64 потока, 82,5 Мб, 270 Вт
■ PCH: Emmitsburg
■ Память: 16 слотов DDR5 до 2 Тб на ЦПУ
■ Операционная система: Ubuntu 20.04
■ BIOS: Flash 32 Мб
GPU
■ 8 x OAM (Intel Habana HL-225H/C)
Input/Output
■ Front: 2 x USB 2.0/3.0, 1 x VGA, 1 x UID, 1 x PWR
■ Rear: 2 x USB 2.0/3.0, 1 x VGA, 1 x RJ-45, 1 x UID
Вводы/Выводы
■ RDMA (ROCE v2)
■ 24 x 100 Гбит/с
■ 6 x QSFP-DD
Хранилище
■ Внутреннее: 2 x M.2
■ С доступом спереди: 16 x HDD/SSD+ 8 x NVMe или 8 x HDD/SSD+ 16 x NVMe
BMC
■ AST2600
TPM 2.0
CD-ROM
■ Поддержка внешнего USB CD-ROM
Блок питания
■ Система: 1+1 CRPS 2700 Вт AC/DC с резервированием и возможностью горячей замены
■ GPU: 3+3 CRPS 3000 Вт AC/DC с резервированием и возможностью горячей замены
Вентиляторы
■ 14+1 с возможностью горячей замены
Размеры
■ 900 x 447 х 352 мм
Рабочая температура
■ от 5°C до 35°C
Слоты расширения
■ 1 x OCP 3.0
■ 8 x PCle
ПО
■ SynapseAl: 1.13.0
■ Ядро: 5.4.0 и выше
■ Python: 3.10
■ PyTorch: 2.1.0
■ TensorFlow: 2.13.1
■ Open MPI: 4.1.5
■ Libfabric: 1.16.1 и выше
■ Transformers: >= 4.33.0, <4.35.0
Загрузки
AGS8200 Технический паспорт R01
Руководство по установке оборудования R01
Руководство пользователя программного обеспечения R01
Руководство пользователя системы BMC R01
Связанные решение
Связанный ресурс
