Решения и приложения
Комплексное ИИ-решение
Приложения искусственного интеллекта есть повсюду, и они добились значительных успехов. Множество необычных, потрясающих продуктов и приложений меняют мир. Будь то здравоохранение, финансовые технологии или розничная торговля, вы можете видеть, что ИИ играет важную роль в этих отраслях. С другой стороны, продукты с маркировкой ИИ влияют на мир; Мобильные телефоны с искусственным интеллектом, компьютеры с искусственным интеллектом, булавки с искусственным интеллектом, Rabbit и т. д. — все они управляются механизмами искусственного интеллекта.
Как раскрыть возможности этих продуктов искусственного интеллекта? Секреты — LLM (большая языковая модель) и LAM (большая модель действий). Без LLM и LAM продукты искусственного интеллекта не смогут доставить конечным пользователям волшебство искусственного интеллекта. Эти модели обучаются с использованием мощных серверов искусственного интеллекта, которые обычно расположены в центрах обработки данных искусственного интеллекта.
Центр обработки данных ИИ состоит из серверов ИИ, коммутаторов высокой производительности, трансиверов и кабелей, ни один из которых не является обязательным.
AI-трафик имеет следующие характеристики.
Переход от традиционной сети к сети на основе искусственного интеллекта — это эволюция, которая меняет способ работы сети. В кластерах AI/ML время выполнения задания (JCT) является наиболее важным показателем.
Как увеличить время выполнения работы
RoCE (RDMA over Converged Ethernet) играет важную роль, когда мы говорим о сетях искусственного интеллекта. Поскольку функция без потерь в сетях AI важна, RoCE контролирует скорость передачи и перегрузку трафика.
Что такое RDMA (удаленный прямой доступ к памяти)? RDMA — это технология, которая позволяет передавать данные между памятью и периферийными устройствами или из памяти в память без использования ресурсов ЦП или ОС. Когда реализуется RDMA через Ethernet, это означает, что отправитель напрямую обращается к памяти сетевой карты из приложения и драйвера сетевой карты. использует буфер стека UDP для уменьшения накладных расходов на обработку, уменьшения задержки и достижения более высокой пропускной способности.
PFC (управление потоком на основе приоритетов) и ECN (явное уведомление о перегрузке) в сети обеспечивают передачу без потерь и предотвращение перегрузок. Сочетание PFC и ECN представляет собой DCQCN (квантовое уведомление о перегрузке центра обработки данных), которое представляет собой высокопроизводительное решение по управлению перегрузкой для сетей AI. DCQCN — наиболее широко используемый алгоритм управления перегрузкой в сетях RoCEv2.
Графические процессоры (GPU) изначально были разработаны для ускорения компьютерной графики и обработки пикселей изображений. В наши дни ученые обнаружили, что графические процессоры превосходно справляются с наукой о данных и анализом изображений, они также применяются в более широком диапазоне, включая AI и ML (машинное обучение), и именно поэтому графический процессор теперь является так называемым GPGPU (общий). Целевые вычисления на графическом процессоре). Когда графические процессоры взаимодействуют с центральными процессорами, они могут ускорить рабочий процесс и раскрыть возможности искусственного интеллекта.
Edgecore предлагает коммутатор NOS с поддержкой AI, SONiC, который поддерживается на широком спектре платформ коммутации, обеспечивая интерфейс абстракции коммутатора (SAI) в диапазоне от 1G до 800G, охватывающий leaf и коммутаторы уровня суперпозвоночника.
Благодаря универсальным коммутаторам SONiC и Edgecore поддерживаются телеметрический мониторинг и управление, оптимизированная пропускная способность за счет точной настройки сети без потерь и балансировки нагрузки. Все эти функции предназначены для уменьшения перегрузок, точного определения точек перегрузки, оптимизации распределения нагрузки и JCT.
Кроме того, Edgecore обеспечивает комплексное обслуживание и поддержку SONiC на разных этапах, включая предпродажное и послепродажное обслуживание.
Ключевые преимущества решения
Почему ИИ-решения Edgecore
Хорошо спроектированный центр обработки данных с искусственным интеллектом должен учитывать архитектуру графического процессора, его функции, общую стоимость и энергопотребление. Решения Edgecore AI оптимизированы для обеспечения высокой производительности и эффективности и превосходны в условиях тяжелых нагрузок.
Новейшие коммутаторы и серверы AI/ML Edgecore созданы на базе лучших мировых поставщиков чипсетов и разработаны нашими опытными инженерами, что позволяет максимально повысить эффективность вычислений. Кроме того, Edgecore предоставляет готовые к использованию трансиверы и кабели, полностью сертифицированные для работы с переключателями Edgecore в результате тщательной проверки. Вы можете не беспокоиться о совместимости.
При этом мы поддерживаем открытую архитектуру, активно привлекаем к участию различные проекты, а затем предоставляем комплексные, гибкие и готовые к будущему решения для ваших потребностей в подключении AI/ML.
Edgecore всегда опережает рынок. От периферии до ядра, от коммутатора до сервера — теперь Edgecore предоставляет клиентам все необходимое для создания центра обработки данных с искусственным интеллектом, особенно подходящего для глубокого обучения, обучения и вывода.
Ускорьте свою сеть искусственного интеллекта прямо сейчас!
сопутствующие товары
Edgecore AGS8200 — это высокопроизводительный масштабируемый сервер на базе графического процессора, подходящий для приложений AI (искусственный интеллект)/ML (машинное обучение). Сервер идеально подходит для обучения больших языковых моделей, автоматизации, классификации объектов и сценариев использования распознавания.
Edgecore AGS8200 — это высокопроизводительный масштабируемый сервер на базе графического процессора, подходящий для приложений AI (искусственный интеллект)/ML (машинное обучение). Сервер идеально подходит для обучения больших языковых моделей, автоматизации, классификации объектов и сценариев использования распознавания.
AS9817-64O 64 порта коммутатора OSFP800 с Tomahawk 5 Высокопроизводительный коммутатор с малой задержкой для высокопроизводительных центров обработки данных
AS9817-64D 64 порта коммутатора QSFP-DD800 с Tomahawk 5 Высокопроизводительный коммутатор с малой задержкой для высокопроизводительных центров обработки данных