AI / ML | AI Server

  |  АГС8200

АГС8200

Edgecore AGS8200 — это современный высокопроизводительный сервер на базе графического процессора, созданный для удовлетворения требований приложений искусственного интеллекта и машинного обучения. Этот сервер, созданный для решения таких задач, как обучение больших языковых моделей, автоматизация процессов и улучшение классификации и распознавания объектов, предлагает непревзойденную производительность и масштабируемость.

В основе AGS8200 лежат мощные процессоры Intel® Habana® Gaudi® 2, всего восемь, и два процессора Xeon® Sapphire-Rapids. Эти компоненты объединяются, чтобы создать вычислительную мощь, готовую решать широкий спектр задач глубокого обучения с исключительной скоростью и точностью.

Почему стоит выбрать AGS8200?

Мощная производительность

AGS8200 на базе процессоров Intel® Gaudi® 2 выводит производительность глубокого обучения на новый уровень. Инновационная конструкция чипсета не только расширяет возможности обучения и вывода, но и раскрывает весь потенциал возможностей искусственного интеллекта, обеспечивая высочайшую производительность ваших приложений искусственного интеллекта и машинного обучения.

Энергоэффективность

Используя передовой техпроцесс 7 нм, процессоры Intel® Gaudi® 2 превосходно рассеивают тепло. В сочетании с оригинальной конструкцией Edgecore AGS8200 не только обеспечивает повышенную производительность, но и уделяет приоритетное внимание энергоэффективности. Это приводит к снижению эксплуатационных расходов и более экологичному следу.

Экономически эффективным

Intel® Gaudi® 2 точно настроен для использования искусственного интеллекта и машинного обучения, что обеспечивает существенную экономию. В Edgecore мы понимаем ценность ваших инвестиций. Наши решения разработаны с учетом ваших потребностей и обеспечивают оптимальную производительность без ненужных затрат.

Открытая архитектура

В Edgecore мы используем открытое и оптимизированное для искусственного интеллекта аппаратное и программное обеспечение коммутаторов, а затем участвуем в проектах или сообществах, таких как OCP, TIP и SONiC. Наше активное участие в совместных проектах гарантирует, что мы предоставляем комплексные, гибкие и готовые к будущему решения для ваших потребностей в подключении AI/ML.

Сила Intel® Gaudi® 2

Audi
Audi

Ключевые преимущества Intel® Gaudi® 2

Благодаря программному обеспечению BF16 Intel® Gaudi® 2 может превзойти своих конкурентов.

Intel® Gaudi® 2 демонстрирует производительность в 2 раза выше, чем его конкурент.

Intel® Gaudi® 2 — единственная жизнеспособная альтернатива графическому процессору марки N для обучения и вывода LLM (больших языковых моделей).

В тесте MLPerf Benchmark Intel® Gaudi® 2 является одним из двух графических процессоров, используемых для обучения GPT-3.

Ожидается, что благодаря программному обеспечению FP8 Intel® Gaudi® 2 будет иметь лучшее соотношение цены и качества, чем его конкурент.

■ ссылка/источник изображения MLPerf

Функции

Edgecore AGS8200 идеально подходит для современных приложений искусственного интеллекта и машинного обучения. AGS8200, оснащенный искусственным интеллектом Intel® Gaudi® 2, подходит для обучения и вывода LLM (больших языковых моделей), позволяя клиентам эффективно использовать возможности искусственного интеллекта.

Система оснащена восемью процессорами Intel® Habana® Gaudi® 2 и двумя процессорами Xeon® Sapphire-Rapids. Процессор Gaudi® 2 объединяет 96 ГБ памяти HBM2E и 24 сетевых адаптера 100GbE RoCEv2 RDMA. 24 сетевых адаптера 100G обеспечивают комплексное подключение и возможность внутреннего и внешнего масштабирования для обучения, точной настройки и другой обработки DL.

Каждый процессор Gaudi® 2 имеет 21 неблокируемый порт 100GbE для комплексного подключения к другим процессорам Gaudi® 2 на сервере, что позволяет проводить обучение на всех восьми процессорах Intel® Gaudi® 2 без необходимости использования внешнего коммутатора Ethernet.

Каждый AGS8200 поддерживает 6 портов QSFP-DD для горизонтального масштабирования. Порты 400G можно подключать к коммутаторам 400G или коммутаторам 100G с помощью соединительных кабелей в стойках и кластерах узлов на базе Intel® Gaudi® 2.

Сервер может включать 16 жестких дисков/твердотельных накопителей + 8 накопителей NVMe или 8 жестких дисков/твердотельных накопителей + 16 накопителей NVMe для хранилища, поддерживающего RAID HBA с 0/1/10/5/6/50/60.

■ Оснащен восемью обучающими процессорами Habana® Gaudi® 2 AI.
■ Два масштабируемых процессора Intel® Xeon® 4-го поколения
■ Расширенные сетевые возможности за счет 24 портов 100GE RoCE, встроенных в каждый Gaudi® 2.
■ Масштабирование 700 ГБ/с внутри сервера и горизонтальное масштабирование 2,4 ТБ/с.
■ Простота сборки или миграции системы с помощью стека программного обеспечения Habana® SynapseAI®.
■ Стандартизированная архитектура и Ethernet вместо фирменных Infiniband и NVLINK.

Технические характеристики

Form Factor
■ 8U

Compute Node
■ CPU: Sapphire Rapids, 2 Sockets
Intel® Xeon® Platinum 8454H, 32c, 64 threads, 82.5MB, 270 W
■ PCH: Emmitsburg
■ Memory: Upto 2TB 16x DDR5 memory slots per CPU
■ Operating System: Ubuntu 20.04
■ BIOS: 32MB Flash

GPU
■ 8 x OAM (Intel Habana HL-225H/C)

Input/Output
■ Front: 2 x USB 2.0/3.0, 1 x VGA, 1 x UID, 1 x PWR
■ Rear: 2 x USB 2.0/3.0, 1 x VGA, 1 x RJ-45, 1 x UID

Scale-Out Interface
■ RDMA (ROCE v2)
■ 24 x 100 Гбит/с
■ 6 x QSFP-DD

Storage
■ Internal: 2 x M.2
■ Front: 16 x HDD/SSD+ 8 x NVMe or 8 x HDD/SSD+ 16 x NVMe

BMC
■ АСТ2600

ТРМ 2.0

CD-ROM
■ Support external USB CD-ROM

PSU
■ System: 1+1 CRPS 2700 W redundant/hot-swappable AC/DC
■ GPU: 3+3 CRPS 3000 W redundant/hot-swappable AC/DC

Fans
■ 14+1 hot-swappable fans

Dimensions
■ 900 mm x 447 mm x 352mm

Operating Temperature
■ 5°С-35°С

Expansion Slots
■ 1 x OCP 3.0
■ 8 x PCle Slots

Soſtware
■ SynapseAl: 1.13.0
■ Kernel: 5.4.0 and above
■ Python: 3.10
■ PyTorch: 2.1.0
TensorFlow：2.13.1
■ Open MPI: 4.1.5
■ Libfabric: 1.16.1 and above
■ Transformers: >= 4.33.0, <4.35.0

Свяжитесь с нами, чтобы получить больше информации.

Сопутствующие решения

Решение для управления корпоративным центром обработки данных
Решения и приложения
Решение для управления корпоративным центром обработки данных

Серия Edgecore EPS также может использоваться в качестве коммутатора управления в архитектуре центра обработки данных для управления всеми функциями коммутатора с помощью операционной системы SONiC. Вместе с SONiC на базе сообщества это решение обеспечивает унифицированный контроль над всеми коммутаторами, упрощая развертывание, управление и мониторинг сетей.

Решение обеспечивает отличный контроль и гибкость управления сетью благодаря функциям уровня 2, уровня 3, управления и мониторинга, качества обслуживания и безопасности, а также гибкости управления сетью.

Решения для мультигигабитного Ethernet
Решения и приложения
Решения для мультигигабитного Ethernet

Предприятиям больше не придется беспокоиться о том, что их коммутатор станет узким местом при увеличении скорости беспроводной связи. Корпорация с многогигабайтным дизайном поддерживает Wi-Fi 6 для повышения удобства работы пользователей, а также обеспечивает функциональность и мощность, необходимые для того, чтобы гарантировать, что ваша растущая сеть поддерживает скорость, производительность и возможности подключения, которые ожидают пользователи.

Ориентируясь на предприятия, розничную торговлю, кампусы и гостиничный бизнес, Edgecore предлагает высокопроизводительные мультигигабитные решения для модернизации структуры сети на существующих кабелях и обеспечения более высоких скоростей сети и инфраструктуры Wi-Fi.

Гипермасштабируемый центр обработки данных
Решения и приложения
Гипермасштабируемый центр обработки данных

Решения для облачных центров обработки данных Edgecore используют структуру SDN, которую легко настроить и предоставить, поэтому сеть имеет возможность масштабироваться по мере расширения бизнеса. Централизованное управление исключает индивидуальное управление сетью, обеспечивая быстрые, масштабируемые и гибкие конструкции, отвечающие потребностям клиентов по мере роста бизнеса.

Образование
Решения и приложения
Образование

Решения для облачных центров обработки данных Edgecore, использующие концепции SDN, обеспечивают высокую скорость конвергенции и гибкость эффективного управления сетевой маршрутизацией, обеспечивая быструю доставку студентам. Это также снижает сложность работы ИТ-персонала, позволяя им централизованно управлять и контролировать всю сеть кампуса. Открытый облачный центр обработки данных создает масштабируемое и экономичное решение, отвечающее текущим и будущим потребностям сетевой структуры кампуса, предоставляя студентам непрерывный опыт обучения.

Правительство
Решения и приложения
Правительство

Решения для облачных центров обработки данных Edgecore сокращают затраты на обслуживание сети, обеспечивая при этом готовность сетевой структуры к технологиям следующего поколения, таким как программно-конфигурируемые сети (SDN). Недавно развернутые центры обработки данных полностью обратно совместимы с оставшейся устаревшей сетевой инфраструктурой, обеспечивая избыточность, высокую пропускную способность и низкую задержку.

Предприятие
Решения и приложения
Предприятие

Решения Edgecore для облачных центров обработки данных поддерживают корпоративную инфраструктуру для гипермасштабируемых сетей с помощью гибких возможностей развертывания и автоматизации, которые максимизируют эффективность работы и отвечают требованиям масштабируемости и растущим требованиям. Предприятия могут настроить все коммутаторы одновременно, и все устройства будут находиться на одинаковом расстоянии друг от друга, обеспечивая предсказуемую и постоянную задержку. При добавлении новой стойки с коммутаторами TOR нет необходимости проверять/обновлять централизованные межсетевые экраны и балансировщики нагрузки.

Связанный ресурс

Каталог продукции 2024 г.

Edgecore анонсирует коммутатор, оптимизированный для 800G, который обеспечивает Ethernet-фабрику для рабочих нагрузок AI/ML

Раскройте потенциал 5G с помощью DCSG Edgecore — гибкость, контроль, стабильность

Edgecore Networks сотрудничает с Exaware и FONEX для создания открытого мультисервисного маршрутизатора доступа OLT с использованием трансиверов Tibit