Publicado em 30 de julho de 2025<\/span><\/p>\n<\/div><\/div><\/div><\/div><\/div><\/div>A busca incessante por modelos de IA mais inteligentes, particularmente grandes modelos de linguagem (LLMs) e algoritmos de aprendizado profundo, impulsionou uma demanda sem precedentes por poder computacional. No centro dessa revolu\u00e7\u00e3o est\u00e3o as Unidades de Processamento Gr\u00e1fico (GPUs), que, com suas capacidades de processamento paralelo, s\u00e3o perfeitamente adequadas para os c\u00e1lculos intensivos e iterativos que definem o treinamento de IA. No entanto, liberar todo o potencial de milhares de GPUs interconectadas em um ambiente de data center n\u00e3o \u00e9 simplesmente uma quest\u00e3o de conect\u00e1-las. Requer uma infraestrutura de rede sofisticada, capaz de lidar com fluxos massivos de dados com lat\u00eancia m\u00ednima e, crucialmente, zero perda de pacotes. \u00c9 aqui que entra o poder computacional. Ponte de Data Center (DCB)<\/strong>, juntamente com mecanismos avan\u00e7ados de controle de fluxo como Controle de Fluxo Baseado em Prioridade (PFC)<\/strong> e Notifica\u00e7\u00e3o Expl\u00edcita de Congestionamento (ECN)<\/strong>, torna-se absolutamente essencial.<\/p>\nCongestionamento de rede em clusters de GPU de larga escala, uma vis\u00e3o geral<\/h1>\n
Imagine uma tarefa de treinamento de IA distribu\u00edda por centenas ou at\u00e9 milhares de GPUs. Essas GPUs trocam constantemente quantidades colossais de dados \u2014 par\u00e2metros, gradientes, valores de ativa\u00e7\u00e3o \u2014 frequentemente em rajadas altamente sincronizadas. Esse padr\u00e3o de comunica\u00e7\u00e3o "todos para um" ou "muitos para um", conhecido como\u00a0incast<\/strong>, pode sobrecarregar rapidamente as redes Ethernet tradicionais, comumente chamadas de\u00a0colapso da taxa de transfer\u00eancia<\/strong>Sem mecanismos adequados, os buffers de rede transbordam, levando \u00e0 perda de pacotes. No contexto da IA, a perda de pacotes n\u00e3o \u00e9 apenas um inconveniente; ela pode degradar severamente a efici\u00eancia do treinamento, aumentar o tempo de treinamento e at\u00e9 mesmo levar a problemas de converg\u00eancia do modelo. Retransmiss\u00f5es devido \u00e0 perda de pacotes introduzem lat\u00eancia significativa, anulando efetivamente as capacidades de processamento de alta velocidade das GPUs.<\/p>\nConectividade de rede, congestionamento e utiliza\u00e7\u00e3o de GPU<\/h1>\n
Portanto, o sucesso da rede se torna a chave para a alta utiliza\u00e7\u00e3o dessas GPUs de capital intensivo, tanto para treinamento quanto para infer\u00eancia:<\/p>\n
\n- Infer\u00eancia LLM (Paralelismo de Modelos e Lotes):\u00a0<\/strong>Para modelos de l\u00f3gica de camada \u00fanica (LLMs) muito grandes que exigem paralelismo (onde diferentes camadas ou partes do modelo residem em GPUs diferentes, potencialmente em servidores diferentes), cada solicita\u00e7\u00e3o de infer\u00eancia envolve transfer\u00eancias sequenciais de dados entre GPUs \u00e0 medida que o fluxo de dados percorre as camadas do modelo. Se o caminho de rede entre essas GPUs sofrer congestionamento, mesmo que breve, todo o pipeline de infer\u00eancia \u00e9 interrompido. Da mesma forma, ao usar o processamento em lote para maximizar a utiliza\u00e7\u00e3o da GPU, uma pequena quantidade de perda de pacotes ou atraso devido ao congestionamento em apenas uma parte de um lote pode atrasar a conclus\u00e3o de todo o lote, causando um efeito cascata nos lotes subsequentes. Isso se traduz diretamente em uma lat\u00eancia de infer\u00eancia maior para os usu\u00e1rios finais e uma taxa de transfer\u00eancia de infer\u00eancia significativamente menor (consultas por segundo) para o sistema como um todo. Os recursos de processamento sem perdas do DCB garantem que essas transfer\u00eancias cr\u00edticas entre GPUs nunca sejam interrompidas, mantendo um pipeline de infer\u00eancia est\u00e1vel e de alta taxa de transfer\u00eancia e maximizando o retorno sobre o investimento em GPUs.<\/li>\n<\/ul>\n
\n- LLM Fine-Tuning (Treinamento Distribu\u00eddo):<\/strong> Em um trabalho de ajuste fino distribu\u00eddo entre centenas de GPUs, o processo envolve trocas frequentes e massivas de atualiza\u00e7\u00f5es de gradiente e par\u00e2metros de modelo (por exemplo, opera\u00e7\u00f5es de redu\u00e7\u00e3o total). Se a rede sofrer congestionamento, essas opera\u00e7\u00f5es de comunica\u00e7\u00e3o coletiva ficam significativamente mais lentas. As GPUs, sendo processadores paralelos, ficam ociosas, aguardando que os dados de outras GPUs concluam a itera\u00e7\u00e3o atual antes de iniciarem a pr\u00f3xima. Uma GPU com utiliza\u00e7\u00e3o de computa\u00e7\u00e3o de 100% pode estar travando para E\/S de rede, o que significa que o trabalho efetivo realizado \u00e9 muito menor, resultando em horas ou at\u00e9 dias de tempo de computa\u00e7\u00e3o desperdi\u00e7ado e aumento nos custos de nuvem\/eletricidade. O PFC garante que esses pacotes cr\u00edticos de redu\u00e7\u00e3o total nunca sejam descartados, evitando lentid\u00f5es catastr\u00f3ficas, enquanto o ECN trabalha para gerenciar proativamente o fluxo para minimizar essas esperas ociosas.<\/li>\n<\/ul>\n
Bridging de Data Center: Criando Redes de IA Sem Perdas<\/h1>\n
O Data Center Bridging (DCB) \u00e9 um conjunto de padr\u00f5es IEEE (802.1Qxx) projetado para aprimorar o Ethernet em ambientes de data center, especificamente para suportar redes convergentes onde v\u00e1rios tipos de tr\u00e1fego (armazenamento, gerenciamento e computa\u00e7\u00e3o de alto desempenho) coexistem. A chave para o papel do DCB na IA \u00e9 sua capacidade de criar uma\u00a0tecido Ethernet de baixa lat\u00eancia e sem perdas<\/strong>, garantindo que o tr\u00e1fego cr\u00edtico de IA n\u00e3o sofra perdas de pacotes. Dois componentes essenciais do DCB que tornam isso poss\u00edvel s\u00e3o o Controle de Fluxo Baseado em Prioridade (PFC<\/strong>) e Notifica\u00e7\u00e3o Expl\u00edcita de Congestionamento (ECN<\/strong>).<\/p>\nControle de fluxo baseado em prioridade (PFC): preven\u00e7\u00e3o de perda de pacotes no n\u00edvel do link<\/h1>\n
O PFC (IEEE 802.1Qbb) \u00e9 um mecanismo de controle de fluxo em n\u00edvel de link que estende o quadro PAUSE Ethernet tradicional. Ao contr\u00e1rio do quadro PAUSE padr\u00e3o, que interrompe todo o tr\u00e1fego em um link, o PFC permite\u00a0pausa seletiva do tr\u00e1fego com base na prioridade da Classe de Servi\u00e7o (CoS)<\/strong>.<\/p>\nSegue uma explica\u00e7\u00e3o simplificada de como o PFC funciona em um ambiente com muitas GPUs:<\/p>\n
\n- Classifica\u00e7\u00e3o de tr\u00e1fego:<\/strong>\u00a0O tr\u00e1fego de treinamento de IA, que geralmente utiliza Acesso Direto \u00e0 Mem\u00f3ria Remota (RDMA) sobre Ethernet Convergida (RoCEv2), recebe um CoS espec\u00edfico de alta prioridade. Isso garante que ele seja tratado como dado cr\u00edtico pela rede.<\/li>\n
- Detec\u00e7\u00e3o de congestionamento:<\/strong>\u00a0Quando o buffer de sa\u00edda de um switch para uma fila CoS espec\u00edfica (por exemplo, aquela dedicada ao tr\u00e1fego RoCEv2) atinge um limite predefinido, isso indica congestionamento iminente.<\/li>\n
- Quadro de pausa PFC:<\/strong>\u00a0O switch congestionado envia um quadro de pausa PFC de volta para o dispositivo transmissor upstream (outro switch ou a placa de interface de rede \u2013 NIC) de uma GPU). Este quadro de pausa \u00e9 espec\u00edfico para a prioridade CoS congestionada.<\/li>\n
- Parada Seletiva:<\/strong>\u00a0Ao receber o quadro de pausa PFC, o dispositivo upstream interrompe temporariamente a transmiss\u00e3o de tr\u00e1fego apenas para aquela prioridade de CoS espec\u00edfica. Outras classes de tr\u00e1fego no mesmo link permanecem inalteradas.<\/li>\n
- Recupera\u00e7\u00e3o e retomada do buffer:<\/strong>\u00a0\u00c0 medida que o buffer congestionado se esgota e sua ocupa\u00e7\u00e3o cai abaixo de um limite de retomada, o switch envia um quadro de retomada PFC, sinalizando ao dispositivo upstream para reiniciar a transmiss\u00e3o para essa prioridade.<\/li>\n<\/ul>\n
Benef\u00edcios do PFC para GPUs:<\/h1>\n\n- Perda de Pacotes Zero:<\/strong>\u00a0Ao pausar o tr\u00e1fego antes que os buffers transbordem, o PFC garante a entrega sem perdas de dados cr\u00edticos de IA, o que \u00e9 fundamental para a integridade e efici\u00eancia de computa\u00e7\u00f5es de GPU distribu\u00eddas.<\/li>\n
- Isolamento do Tr\u00e1fego:<\/strong>\u00a0Ele evita que uma explos\u00e3o de tr\u00e1fego de IA de alta prioridade afete outros tipos de tr\u00e1fego menos sens\u00edveis ao tempo no mesmo link, mantendo a estabilidade geral da rede.<\/li>\n
- Desempenho previs\u00edvel:<\/strong>\u00a0Ao eliminar a perda de pacotes, o PFC contribui para um desempenho mais previs\u00edvel e consistente para a comunica\u00e7\u00e3o da GPU, reduzindo a trepida\u00e7\u00e3o e melhorando os tempos de conclus\u00e3o do trabalho.<\/li>\n<\/ul>\n
No entanto, o PFC pode ter limita\u00e7\u00f5es. Se n\u00e3o for cuidadosamente projetado e configurado, pode ocorrer uma "tempestade de PFC", onde os quadros de pausa se propagam amplamente, podendo levar a lentid\u00e3o ou impasses em toda a rede, especialmente em ambientes com m\u00faltiplos saltos.\u00a0\u00c9 por isso que outra tecnologia, ECN, \u00e9 adicionada para complementar o PFC<\/strong>.<\/p>\nNotifica\u00e7\u00e3o Expl\u00edcita de Congestionamento (ECN): Preven\u00e7\u00e3o Proativa de Congestionamento<\/h1>\n
ECN (RFC 3168) \u00e9 um mecanismo que permite que dispositivos de rede sinalizem congestionamento incipiente para terminais\u00a0antes<\/strong>\u00a0ocorre perda de pacotes. Em vez de descartar pacotes, dispositivos com ECN marcam os pacotes no cabe\u00e7alho IP para indicar congestionamento. Isso fornece o n\u00edvel de gerenciamento de fila ativo necess\u00e1rio para um tr\u00e1fego confi\u00e1vel entre GPUs.<\/p>\nO processo de gerenciamento de tr\u00e1fego ECN normalmente se desenrola da seguinte forma:<\/p>\n
\n- Negocia\u00e7\u00e3o compat\u00edvel com ECN:<\/strong>\u00a0Durante o estabelecimento da conex\u00e3o (por exemplo, handshake TCP), o remetente e o destinat\u00e1rio negociam suas capacidades ECN.<\/li>\n
- Marca\u00e7\u00e3o de congestionamento:<\/strong>\u00a0Quando a utiliza\u00e7\u00e3o da fila de um dispositivo de rede atinge um limite ECN (um limite inferior ao que acionaria o PFC), o dispositivo marca os pacotes ECN-capazes recebidos como "Congestionados" (CE).<\/li>\n
- Notifica\u00e7\u00e3o do destinat\u00e1rio:<\/strong>\u00a0O pacote marcado chega ao receptor compat\u00edvel com ECN.<\/li>\n
- Feedback do remetente:<\/strong>\u00a0O receptor ent\u00e3o ecoa essa notifica\u00e7\u00e3o de congestionamento de volta ao remetente (por exemplo, definindo o bit ECN-Echo (ECE) no cabe\u00e7alho TCP ou enviando um Pacote de Notifica\u00e7\u00e3o de Congestionamento (CNP) no RoCEv2).<\/li>\n
- Redu\u00e7\u00e3o de taxa:<\/strong>\u00a0Ao receber o feedback de congestionamento, o remetente reduz proativamente sua taxa de transmiss\u00e3o, aliviando assim o congestionamento antes que o buffer transborde e os pacotes sejam perdidos.<\/li>\n<\/ul>\n
Sinergia de PFC e ECN para grandes implanta\u00e7\u00f5es de GPU:<\/h1>\n
Em clusters de IA de larga escala, compostos por centenas ou milhares de GPUs caras, o PFC e o ECN trabalham em conjunto para fornecer uma rede sem perdas robusta e eficiente, aumentando assim o valor entregue pelas pr\u00f3prias GPUs:<\/p>\n
\n- ECN como Primeira Linha de Defesa:<\/strong>\u00a0O ECN atua como um mecanismo proativo, fornecendo alertas antecipados de congestionamento. Ao permitir que os remetentes reduzam suas taxas preventivamente, ele minimiza a probabilidade de atingir os limites de PFC e evita a medida mais dr\u00e1stica de pausar o tr\u00e1fego. Essa adapta\u00e7\u00e3o "suave" da taxa \u00e9 crucial para manter o fluxo cont\u00ednuo de dados.<\/li>\n
- PFC como \u00faltimo recurso:<\/strong>\u00a0Caso as medidas proativas da ECN n\u00e3o sejam suficientes para evitar congestionamentos, ou se ocorrerem picos repentinos e massivos de tr\u00e1fego, o PFC entra em a\u00e7\u00e3o como um mecanismo reativo de parada obrigat\u00f3ria para evitar qualquer perda de pacotes no tr\u00e1fego de IA mais cr\u00edtico.<\/li>\n
- Otimizando o desempenho do RoCEv2:<\/strong>\u00a0O RoCEv2, amplamente adotado para interconex\u00f5es de GPUs, depende fortemente desses mecanismos. Os sinais ECN acionam algoritmos de controle de congestionamento (como o Data Center Quantized Congestion Notification \u2013 DCQCN) nas NICs, ajustando dinamicamente as taxas de transmiss\u00e3o. O PFC garante que, mesmo sob carga extrema, nenhum pacote RoCEv2 seja descartado, preservando a integridade das opera\u00e7\u00f5es RDMA.<\/li>\n
- Balanceamento de lat\u00eancia e taxa de transfer\u00eancia:<\/strong> Ao combinar a limita\u00e7\u00e3o de taxa proativa do ECN com a garantia de aus\u00eancia de perdas do PFC, os arquitetos de rede podem ajustar a rede com precis\u00e3o para equilibrar a baixa lat\u00eancia para fluxos de dados pequenos e sens\u00edveis ao atraso (mensagens pequenas e interativas) e a alta taxa de transfer\u00eancia para fluxos de dados grandes e volumosos (transfer\u00eancias de dados em massa durante o treinamento).<\/li>\n<\/ul>\n
Exemplo de empresa do mundo real: cargas de trabalho de IA multilocat\u00e1rio com diversos requisitos de QoS e SLA<\/h1>\n
Em uma grande empresa, um cluster de IA raramente \u00e9 dedicado a uma \u00fanica tarefa. Considere um ambiente multilocat\u00e1rio em que o mesmo cluster de GPU suporta diversas cargas de trabalho de IA distintas:<\/p>\n
\n- Equipes de Pesquisa e Desenvolvimento (P&D):<\/strong> Executar tarefas experimentais de ajuste fino do LLM para novos recursos do produto. Essas tarefas costumam ser grandes, de longa dura\u00e7\u00e3o e podem tolerar uma lat\u00eancia inicial ligeiramente maior, mas exigem largura de banda garantida para serem conclu\u00eddas dentro de uma janela de tempo espec\u00edfica (por exemplo, durante a noite, com um SLA para conclus\u00e3o pela manh\u00e3). Para elas, uma taxa de transfer\u00eancia consistente para evitar atrasos no treinamento \u00e9 fundamental, mesmo que isso signifique desacelerar momentaneamente outros tr\u00e1fegos de menor prioridade.<\/li>\n
- O departamento de Controle de Qualidade de Fabrica\u00e7\u00e3o (CQ): <\/strong>Requer detec\u00e7\u00e3o de defeitos em tempo real em linhas de montagem, exigindo lat\u00eancia extremamente baixa (<10ms) e perda de pacotes pr\u00f3xima de zero (por exemplo, SLA de 99,999% infer\u00eancias bem-sucedidas) para evitar paradas na linha de produ\u00e7\u00e3o.<\/li>\n
- Equipe de An\u00e1lise de Risco Financeiro: <\/strong>Execu\u00e7\u00e3o de trabalhos de infer\u00eancia em lote para detec\u00e7\u00e3o de fraudes ou previs\u00e3o de mercado. Esses trabalhos s\u00e3o essenciais, mas menos interativos, exigindo alto rendimento para grandes conjuntos de dados a serem processados dentro de uma janela de conformidade espec\u00edfica (por exemplo, at\u00e9 o final do dia).<\/li>\n<\/ul>\n
O DCB, com PFC e ECN, permite que os administradores de rede classifiquem e priorizem esses diversos tipos de tr\u00e1fego. O tr\u00e1fego RoCEv2 para consultas de infer\u00eancia sens\u00edveis \u00e0 lat\u00eancia pode receber a CoS de maior prioridade com limites ECN rigorosos para garantir a redu\u00e7\u00e3o proativa da taxa, enquanto o tr\u00e1fego de treinamento recebe uma CoS de alta prioridade para entrega sem perdas, e outros tr\u00e1fegos de fundo usam uma classe padr\u00e3o. Esse gerenciamento de tr\u00e1fego sofisticado garante que as consultas de infer\u00eancia de alta prioridade n\u00e3o sejam prejudicadas por uma tarefa de treinamento massiva, assegurando que os requisitos de SLA de cada cliente sejam atendidos na infraestrutura de GPU compartilhada.<\/p>\n
Conclus\u00e3o<\/h1>\n
\u00c0 medida que os modelos de IA continuam a crescer em complexidade e escala, a infraestrutura de rede escal\u00e1vel subjacente torna-se um componente cada vez mais cr\u00edtico para o desempenho geral do sistema. O Data Center Bridging (DCB), com seus recursos fundamentais de Controle de Fluxo Baseado em Prioridade (PFC) e Notifica\u00e7\u00e3o Expl\u00edcita de Congestionamento (ECN), n\u00e3o \u00e9 meramente uma otimiza\u00e7\u00e3o ou um recurso desej\u00e1vel; \u00e9 um facilitador fundamental e essencial para a constru\u00e7\u00e3o de solu\u00e7\u00f5es de computa\u00e7\u00e3o de IA eficientes, confi\u00e1veis e escal\u00e1veis, com grandes investimentos em GPUs. Ao selecionar solu\u00e7\u00f5es de conectividade de rede que garantam comunica\u00e7\u00e3o sem perdas, gerenciem proativamente o congestionamento e forne\u00e7am controle granular sobre o tr\u00e1fego, as solu\u00e7\u00f5es escal\u00e1veis baseadas nessas tecnologias DCB capacitar\u00e3o as empresas e suas estrat\u00e9gias de IA a expandir os limites do que \u00e9 poss\u00edvel usando tecnologias padr\u00e3o do setor, acelerando o ritmo da inova\u00e7\u00e3o na era da intelig\u00eancia artificial.<\/p>\n<\/div><\/div><\/div><\/div><\/div>
Se tiver algum coment\u00e1rio, d\u00favida ou pergunta sobre nossos produtos e servi\u00e7os, preencha o formul\u00e1rio abaixo.<\/p>\n<\/div>
![](\"https:\/\/www.edge-core.com\/wp-content\/uploads\/2025\/07\/20250730_1200x675_no-textv1.jpg\" "\\"20250730_1200x675_sem")
<\/span><\/div><\/div><\/div>![\"Mark](\"https:\/\/www.edge-core.com\/wp-content\/uploads\/2024\/11\/Mark-Harris-photo.jpg\" "\\"Mark-Harris-foto\\"")
<\/span><\/div><\/div><\/div>