Visão geral | Gaudi® 2 | Características | Caça-níqueis | Especificações | Transferências | Soluções | Recurso | Voltar
IA / ML | Servidor de IA
| AGS8200
AGS8200
O Edgecore AGS8200 é um servidor de GPU de ponta e alto desempenho, desenvolvido sob medida para atender às demandas de aplicações de IA/ML. Projetado para se destacar em tarefas como treinamento de grandes modelos de linguagem, automatização de processos e aprimoramento da classificação e reconhecimento de objetos, este servidor oferece desempenho e escalabilidade incomparáveis.
No coração do AGS8200 estão os formidáveis processadores Intel® Habana® Gaudi® 2, oito no total, e dois processadores Xeon® Sapphire-Rapids. Esses componentes se unem para criar uma potência computacional, pronta para lidar com uma gama diversificada de cargas de trabalho de aprendizado profundo com velocidade e precisão excepcionais.
Por que escolher o AGS8200?
Desempenho poderoso
O AGS8200, equipado com processadores Intel® Gaudi® 2, eleva o desempenho do aprendizado profundo a novos patamares. Seu design inovador de chipset não apenas potencializa tarefas de treinamento e inferência, mas também libera todo o potencial dos recursos de IA, garantindo desempenho de ponta para suas aplicações de IA/ML.
Eficiência Energética
Utilizando um processo de 7 nm de última geração, os processadores Intel® Gaudi® 2 se destacam na dissipação de calor. Aliado ao design engenhoso do Edgecore, o AGS8200 não só oferece desempenho aprimorado, como também prioriza a eficiência energética. Isso se traduz em custos operacionais reduzidos e um impacto ambiental mais sustentável.
Custo-benefício
O Intel® Gaudi® 2 é perfeitamente ajustado para uso em IA/ML, oferecendo benefícios de custo substanciais. Na Edgecore, entendemos o valor do seu investimento. Nossas soluções são projetadas pensando nas suas necessidades, garantindo desempenho ideal sem custos desnecessários.
Arquitetura Aberta
Na Edgecore, adotamos hardware e software de switch abertos e otimizados para IA e, em seguida, nos envolvemos em projetos ou comunidades como OCP, TIP e SONiC. Nosso envolvimento proativo em projetos colaborativos garante que entreguemos soluções completas, flexíveis e prontas para o futuro, atendendo às suas necessidades de conectividade de IA/ML.
O poder do Intel® Gaudi® 2
Principais benefícios do Intel® Gaudi® 2
■ referência/fonte para imagem MLPerf
Características
O Edgecore AGS8200 é ideal para aplicações modernas de IA (Inteligência Artificial) e ML (Aprendizado de Máquina). Equipado com o acelerador de IA Intel® Gaudi® 2, o AGS8200 é adequado para treinamento e inferência de LLM (Modelos de Grandes Linguagens), permitindo que os clientes aproveitem com eficiência o poder da IA.
O sistema foi projetado com oito processadores Intel® Habana® Gaudi® 2 e dois processadores Xeon® Sapphire-Rapids. O processador Gaudi® 2 integra 96 GB de memória HBM2E e 24 placas de rede (NICs) de 100 Gbps RoCEv2 RDMA. As 24 placas de rede de 100 Gbps oferecem conectividade completa e escalabilidade interna e externa para treinamento, ajuste fino e outros processamentos de DL.
Cada processador Gaudi® 2 tem 21 x 100 Gbps de conectividade não bloqueante e completa com outros processadores Gaudi® 2 dentro do servidor, permitindo treinamento em todos os oito processadores Intel® Gaudi® 2 sem exigir um switch Ethernet externo.
Cada AGS8200 suporta 6 portas QSFP-DD para escalonamento horizontal. As portas de 400 Gbps podem ser conectadas a switches de 400 Gbps ou switches de 100 Gbps por meio de cabos breakout, em racks e clusters de nós baseados em Intel® Gaudi® 2.
O servidor pode incluir 16 x HDD/SSD + 8 x NVMe ou 8 x HDD/SSD + 16 x NVMe para armazenamento que suporta RAID HBA com 0/1/10/5/6/50/60.
■ Com oito processadores de treinamento Habana® Gaudi® 2 AI
■ Processadores escaláveis Intel® Xeon® de 4ª geração
■ Capacidade de rede expandida com 24 portas RoCE de 100 Gbps integradas em cada Gaudi® 2
■ Escala de 700 GB/segundo dentro do servidor e escala de 2,4 TB/segundo
■ Facilidade de construção ou migração do sistema com a pilha de software Habana® SynapseAI®
■ Arquitetura padronizada e Ethernet em vez de Infiniband e NVLINK proprietários
Especificações
Fator de forma
■ 8U
Nó de computação
■ CPU: Sapphire Rapids, 2 soquetes
Intel® Xeon® Platinum 8454H, 32c, 64 threads, 82,5 MB, 270 W
■ PCH: Emmitsburg
■ Memória: Até 2 TB 16 slots de memória DDR5 por CPU
■ Sistema operacional: Ubuntu 20.04
■ BIOS: 32 MB Flash
GPU
■ 8 x OAM (Intel Havana HL-225H/C)
Entrada/Saída
■ Frontal: 2 x USB 2.0/3.0, 1 x VGA, 1 x UID, 1 x PWR
■ Traseira: 2 x USB 2.0/3.0, 1 x VGA, 1 x RJ-45, 1 x UID
Interface de escalonamento horizontal
■ RDMA (ROCE v2)
■ 24 x 100 Gbps
■ 6 x QSFP-DD
Armazenar
■ Interno: 2 x M.2
■ Frontal: 16 x HDD/SSD+ 8 x NVMe ou 8 x HDD/SSD+ 16 x NVMe
BMC
■ AST2600
TPM 2.0
CD-ROM
■ Suporta CD-ROM USB externo
Fonte de alimentação
■ Sistema: 1+1 CRPS 2700 W redundante/trocável a quente CA/CC
■ GPU: 3+3 CRPS 3000 W redundantes/trocáveis a quente AC/DC
Fãs
■ 14+1 ventiladores intercambiáveis
Dimensões
■ 900 mm x 447 mm x 352 mm
Temperatura de operação
■ 5°C-35°C
Slots de expansão
■ 1 x OCP 3.0
■ 8 slots para PCle
Software
■ SynapseAl: 1.13.0
■ Kernel: 5.4.0 e superior
■ Python: 3.10
■ PyTorch: 2.1.0
■ TensorFlow: 2.13.1
■ MPI aberto: 4.1.5
■ Libfabric: 1.16.1 e superior
■ Transformadores: >= 4.33.0, <4.35.0
Soluções relacionadas
Recurso relacionado
