輝達(Nvia Corp)透露最新高階人工聰明(AI)畫圖處置器(GPU)「H200」(見圖)、產出速度幾乎是前一代H100的兩倍快,股價臨近古史最高峰。
MarketWatch、CNBC等外電新聞,輝達13日發行報導稿公佈,H200搭配14GB的次世代「HBM3e」影像體,能幫助執行「推論」(inference)性能。所謂推論,是指運用培訓百家樂 牌例 練習過的大型語言模子(LLM)生成文字、記憶或預計。
輝達指出,以臉書(Facebook)母公司Meta Platforms, Inc的開源軟體AI模子「Llama 2」測試後,發明H200幫助推論的速度幾乎是H百家樂 抽水100兩倍快。另有,H200將與H100相容,意味著已開端運用H100培訓先前AI模子的業者,不需求改變伺服器體制或軟體規格,就可直接採用H200。
輝達並表明,明(2024)年起,亞馬遜網路辦事(Amazon Web Services)、Google Cloud、Microsoft Azure及Oracle 百家樂遊戲網站Cloud Infrastructure將是第一批佈署H200的雲端辦事提供商,CoreWeave、Lambda及Vultr也會參加。
H100、H200都是基於輝達Hopper條理。依據輝達10月宣示,因為GPU需要高漲,前程將從兩年除舊一次條理的格式改為一年一次。輝達並呈現一張簡報,暗示2024年將刊登基於Blackell條理的B100。
H200預定2024年第二季開端出貨,競爭敵手是超微(AMD)的MI300X GPU。MI300X同樣增添百家樂單機額外影像體,可幫助大型AI模子執行推論性能。
輝達13日股價回聲上漲059%、收48620美元,已持續第9個買賣日走揚,臨近8月31日的古史收盤新高(49355美元)。Do Jones Market Data數據顯示,這是輝達自2024年12月27日連漲10個買賣日以來,最為綿長的漲勢。