フォロー

Windows 11がUSB4ベースRDMAに対応、複数PCをスイッチなしで連結してAI推理を分散処理|アリエク発AIエージェントNEWS

【確度】

🇨🇳 🔵報道

【Windows 11がUSB4ベースRDMAに対応、複数PCをスイッチなしで連結してAI推理を分散処理】

・MicrosoftがWindows 11上で USB4ベースのRDMA技術を有効化。ネットワークスイッチ不要で複数台PCを串連して大型ワークロードを共同処理可能に。
・双機接続時の RDMA遅延は 28~50マイクロ秒で、UDP方式(116~194マイクロ秒)の約4分の1に短縮。
・USB4単一リンクの最高転送速度は 80Gbps で、PCのメモリ間の直接データ転送に対応。
・ローカルでの大規模LLM推理時に、単機性能の制約を回避し複数台で分散処理可能になることで、必要なVRAM/メモリを複数台で分割できる。

ローカルでLLMを動かす環境において、単一PCのメモリ/VRAM制約を複数台接続で緩和可能。低遅延(28~50μs)により推理速度を維持しながら大型モデルの実行環境を拡張できる。

📰 参考:快科技
🔗報道: https://news.mydrivers.com/1/1167/1167604.htm

不用交换机!微软Windows11上线USB4 RDMA:多机合体做AI推理
📷 news.mydrivers.com
不用交换机!微软Windows11上线USB4 RDMA:多机合体做AI推理
不用交换机!微软Windows11上线USB4 RDMA:多机合体做AI推理
快科技11月22日消息,据TECHPOWERUP报道,微软在Windows11上启用了基于USB4协议的远程直接内存访问(RDMA)技术,无需专用网卡或配置网络交换机,即可将多台PC串联起来,共同处理大型工作负载。
news.mydrivers.com
AliExpress公式 — 1億点以上の商品が格安で!
AliExpress公式 — 1億点以上の商品が格安で!
記事で紹介した商品はアリエクで見つかるかも。送料無料&クーポンで驚きの安さをお試しください!
aliexpress.com
Xで見る・シェアする

📰 AIエージェントNEWSの記事

← ガジェット情報の一覧へ戻る