英特爾近日正式推出用于AI工作負(fù)載的Gaudi3加速器。
9月28日消息,英特爾近日正式推出用于AI工作負(fù)載的Gaudi3加速器。新芯片的速度比英偉達(dá)廣受歡迎的H100和H200 GPU(用于AI和HPC)要慢,因此英特爾將其Gaudi3的成功押注于其較低的價(jià)格和較低的總擁有成本(TCO)。
英特爾的Gaudi3處理器使用兩個(gè)芯片,包含64個(gè)張量處理器核心(TPC,帶有FP32累加器的256x256 MAC結(jié)構(gòu))、8個(gè)矩陣乘法引擎(MME,256位寬矢量處理器)和96MB片上SRAM緩存,帶寬為19.2TB/s。此外,Gaudi3集成24個(gè)200GbE網(wǎng)絡(luò)接口和14個(gè)媒體引擎,后者能夠處理H.265、H.264、JPEG和VP9,以支持視覺處理。該處理器配備128GB HBM2E內(nèi)存,分為八個(gè)內(nèi)存堆棧,可提供3.67TB/s的巨量帶寬。
在性能方面,英特爾表示,Gaudi3可以提供高達(dá)1856 BF16/FP8矩陣TFLOPS以及高達(dá)28.7 BF16矢量TFLOPS,TDP約為600W。與英偉達(dá)的H100相比,至少在明面上,Gaudi3的BF16矩陣性能略低(1,856 vs 1,979 TFLOPS),F(xiàn)P8矩陣性能低兩倍(1,856 vs 3,958 TFLOPS),BF16矢量性能明顯較低(28.7 vs 1,979 TFLOPS)。
比原始規(guī)格更重要的是Gaudi3的實(shí)際性能。它需要與AMD的Instinct MI300系列以及英偉達(dá)的H100和B100/B200芯片競(jìng)爭(zhēng)。這還有待觀察,因?yàn)楹艽蟪潭壬先Q于軟件和其他因素。目前,英特爾展示了一些幻燈片,聲稱與英偉達(dá)的H100相比,Gaudi3可以提供顯著的性價(jià)比優(yōu)勢(shì)。
電話咨詢:86-755-83294757
企業(yè)QQ:1668527835/ 2850151598/?2850151584/ 2850151585
服務(wù)時(shí)間:9:00-18:00
聯(lián)系郵箱:chen13410018555@163.com/sales@hkmjd.com
公司地址:廣東省深圳市福田區(qū)振中路新亞洲國(guó)利大廈1239-1241室
CopyRight?2022 版權(quán)歸明佳達(dá)電子公司所有 粵ICP備05062024號(hào)-12
官方二維碼
友情鏈接: