AI超級集群時代即將來臨！這對AI晶片是利多，但會持續多久呢？ 原文網址:https://bit.ly/3Oo2g2G 原文: 過去兩年來，營運大數據中心的公司一直在競相購買輝達的AI處理器。現在，一些最雄心 勃勃的參與者正在透過建立所謂的超級電腦伺服器集群來升級未來AI之戰。 xAI在幾個月內就在孟菲斯建造了一台名為Colossus的超級電腦，其中配備了 100,000顆 輝達的Hopper AI晶片，並宣稱全世界上最強大的超級集群。Meta執行長馬克祖克柏於 2024年10月表示，他的公司已經在使用一組晶片來訓練其最先進的AI模型，因為其也正積 極建立超級集群。 一年前，由數萬個晶片組成的集群就被認為是非常龐大了。根據瑞銀分析師估計，OpenAI 使用了大約10,000顆輝達AI晶片來訓練其於2022年底推出的ChatGPT版本。如今這一超級 集群風潮，開始吹向更多廠商。 也由於對這種更大超級集群的推動，正幫助輝達維持成長軌跡，使其季度營收從兩年前的 約70億美元增加到如今的超過350億美元。 迄今為止，將許多晶片安裝在一個地方，並透過超高速網路電纜連接在一起，可以以更快 的速度產生更大的AI模型，似乎成為風潮。換句話說，輝達AI熱潮的持續在很大程度上將 取決於最大的晶片集群的表現。這一趨勢不僅帶來了晶片購買熱潮，還刺激了對輝達網路 設備的需求，該設備正迅速成為一項重要業務，每年帶來數十億美元的銷售額。 如今看起來，用於訓練巨型AI模型的最大超級集群最多包含10萬顆輝達當前晶片。接下來 的下一代超級集群的起始數量約為10顆Blackwell晶片，這一性能提升將是明顯的。 對於xAI和Meta等公司來說，這一場資金賭注很高。它們一方面為了運算能力而相互競爭 ，另一方面也打賭擁有更多的輝達晶片，將可轉化為相應更好的AI模型。除了xAI和Meta 之外，OpenAI和微軟也一直致力於為AI建立重要的新型運算設施。此外，谷歌也正在建造 大型數據中心來容納驅動其AI戰略的晶片。 根據SemiAnalysis研究，超級集群正從幾十個晶片一直擴展到10萬顆AI晶片，但沒有證據 其會持續擴展到100萬顆AI晶片和1000億美元的系統。可是馬斯克的下一步可能是在2025 年夏天為xAI和自動駕駛系統建立一個由輝達最新晶片組成的30萬顆晶片集群。 這是一個龐大的投資，畢竟，每一顆Blackwell晶片的成本約為3萬美元，這意味著10萬顆 AI晶片的超級集群將花費30億美元，那更不用說30萬顆AI晶片了。此外，隨著高耗能晶片 集群變得更加緊密，保持輝達晶片冷卻就變成一項重大挑戰。 這一場AI超級集群的遊戲，將是下一個值得關注的議題，這也會影響未來AI趨勢的發展啊 ！ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1732601165.A.81C.html 推 Chricey : 樓上UC2當糖吃，天天走拿飛 11/28 05:04