- Torus 推出模組化計算系統 Foundry，旨在現有地點上線推進推理能力。
- 該系統可支持 1 至 20 兆瓦的計算能力，並可在短時間內運營。
- Foundry 設計為分佈式部署，增加企業對數據處理的控制權。
- 此次 5 億美元融資將支持其能源儲存和計算系統的擴展。
Torus 發佈了一個模組化計算系統，旨在於現有商業和工業地點上線推進推理能力，利用可用的電網連接，而無需等待新的數據中心基礎設施。這家位於鹽湖城的能源和基礎設施公司於 11 月 11 日推出了 Foundry，同時宣佈了由 Magnetar 領投的 5 億美元融資。這筆資金將支持其能源儲存和計算系統在美國的製造擴展和部署。此舉正值對推理計算需求增長之際。與模型訓練不同，模型訓練涉及開發和完善模型，而推理則運行這些模型以生成反應和執行任務。
麥肯錫預測，數據中心對推理的需求將在 2030 年之前以 35% 的年均增長率增長，而訓練則為 22%。將計算引入 Foundry 結合計算硬件、電力系統、能源儲存、冷卻和網絡於一個預製模組單位中。Torus 表示每個位置可支持 1 至 20 兆瓦的計算能力，並可在 12 至 16 周內從合同轉為運營工作負載。
模組化計算系統的特點
該系統旨在於現有商業和工業地點運行，利用可用的電力容量。Torus 旨在利用現有的互連，並通過其 Torus Reserve 能源儲存系統管理電力需求，而無需等待新的電網連接或大規模基礎設施升級。Reserve 結合了電池儲存和慣性技術，以管理峯值需求、提供備用電力和調整電力消耗。該公司表示，其負載管理控制可幫助滿足計算硬件的波動電力需求，同時支持電網穩定性。
Foundry 也設計為分佈式部署，將計算資源更靠近企業及其服務的工作負載。Torus 認為，這可能對尋求更大控制權的企業具有吸引力，特別是在數據處理、安全性和知識產權保護方面。
多種部署模式的選擇
Torus 通過三種部署模式提供 Foundry。戰略選項提供無 GPU 的供電外殼，而合作夥伴配置則包括計算硬件。其直接模型為企業客戶提供專用的單租戶推理能力。該公司將 AI 基礎設施提供商 Hydra Host 命名為 Foundry 的首批客戶之一，還有另一家未具名的雲服務提供商。Torus 表示，數千個 GPU 已經部署在 Foundry 單元中，並計劃在 2027 年底之前將這一數字提高到超過 47,000。
這些系統在位於猶他州鹽湖城的 GigaOne 進行製造，該設施面積達 545,000 平方英尺。該公司表示，其 Foundry 生產線設計支持 500 兆瓦的 IT 負載，並計劃將容量擴展至 1,000 兆瓦。
Torus 還表示，Foundry 使用一種閉環、無水冷卻系統，消耗的水量比蒸發冷卻系統少 95%。這些環境和性能數據均為公司報告的主張。此次 5 億美元的融資輪由 Magnetar 領投，並得到了 ICONIQ、Origin Ventures、Ridgeline Partners 和 Trinity Capital 的參與。此次發布反映了通過將計算能力分散到現有地點來解決數據中心電力限制的日益努力。
然而，Foundry 的部署時間表、可用電網容量和計劃中的 GPU 擴展仍然依賴於各個位置的條件和未來的執行。
項目 規格 計算能力 1 至 20 兆瓦 IT 負載支持 500 兆瓦，計劃擴展至 1,000 兆瓦 製造設施面積 545,000 平方英尺
模組化計算系統對數據中心的影響
Torus 的 Foundry 系統透過模組化設計，能夠快速在現有商業和工業地點部署計算能力，這對於面對日益增長的推理計算需求具有重要意義。隨著數據處理需求的上升，企業對於更高控制權和靈活性的需求也隨之增加。這種系統不僅能減少對新電網基礎設施的依賴，還能有效管理電力需求，提升電網穩定性。未來，這一模式可能成為數據中心運營的新趨勢，特別是在環保和資源管理方面的考量愈發重要的背景下。