基於IOWN分散式資料中心的分散式AI推理聯合現場驗證

向以網路為中心的人工智慧基礎設施演進

人工智慧驅動型應用（例如智慧城市服務、工業自動化和即時影像分析）的快速發展，對超低延遲處理、可擴展的GPU利用率和高頻寬連接提出了越來越高的要求。. 傳統的集中式資料中心架構在滿足這些新興需求方面日益面臨限制。. 。為了克服這些挑戰，智邦、Edgecore、NCHC、NIAR 和 NTT 發起了一項協作現場驗證研究. 這項研究成功證明了基於IOWN的全光子網路（APN）在連接台灣和日本資料中心的基礎上進行分散式人工智慧推理的可行性。.

跨境合作生態系統 這個多領域專案採取了獨特的執行方式，即在實際的現場部署，而不是在受控的實驗室模擬環境中進行。. 每個合作夥伴都為生態系統帶來了專業知識：

• NTT提供了IOWN架構、APN連接技術和編排控制。.

• Accton貢獻了人工智慧基礎架構架構和解耦硬體平台。.

• Edgecore交付了系統整合、光網路和營運管理平台.

• NCHC 和 NIAR 提供了分散式 GPU 運算環境、驗證設施和 AI 工作負載執行平台。. 他們通力合作，成功驗證了一種涉及網路、光傳輸、人工智慧基礎設施和營運整合的跨境架構。.

驗證框架及結果 此合作項目利用智慧交通監控示範計畫作為實際驗證架構。. 目標是評估人工智慧服務是否可以在地理位置分散的運算資源上動態執行。. 現場驗證證實，分散式人工智慧推理可以在地理位置分散的站點之間以穩定的延遲執行，這主要得益於基於APN的連接性。. 此外，該專案也證明，分散式GPU資源的協調可以獨立於實體位置進行。. 透過整合資料中心互連 (DCI) 編排和光波長交換技術，此基礎設施支援高度靈活的流量工程。.

開放式織物貨架解決方案及未來展望 基於這些正面成果，各組織評估了一個名為開放式光纖機架解決方案的可部署模型。. 這種模組化、解耦式架構整合了應用伺服器、APN 連接、DCI 網關和開放式網路平台，以支援下一代以網路為中心的 AI 服務。. 本白皮書提出的根本性架構轉變，是從以設備為中心的運算轉向以網路為中心的分散式人工智慧基礎設施的轉型。.

總之，這項聯合實地驗證表明，多方生態系統合作對於加速全球可部署人工智慧基礎設施的演進至關重要。. 透過利用 IOWN APN 和解耦硬件，科技業可以從孤立的計算模式轉型為高效、面向未來的 AI 框架。.