英特爾推出新款A(yù)I芯片:推理性能比英偉達H100快50%

美國當?shù)貢r間4月9日,英特爾在面向客戶和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會上,英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。
英特爾表示,Gaudi 3 AI加速器可通過以太網(wǎng)的通用標準連接多達數(shù)萬個加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓(xùn)練和推理方面的重大飛躍。
英特爾Gaudi 3預(yù)計可大幅縮短70億和130億參數(shù)Llama2模型,以及1750億參數(shù)GPT-3模型的訓(xùn)練時間。
英特爾表示,Gaudi 3能夠比英偉達上一代H100處理器訓(xùn)練特定大型語言模型的速度快40%,在推理端比英偉達H100快50%。
基辛格在現(xiàn)場表示,Gaudi 3的性能將與英偉達H200相當,在某些領(lǐng)域的性能甚至?xí)谩5撬麤]有給出具體數(shù)據(jù)。
值得注意的是,外媒指出,H100是英偉達Hopper產(chǎn)品線中的老款芯片,在2022年發(fā)布。英偉達在去年又發(fā)布了H200,將于今年二季度正式開售,2024年3月英偉達展示了新的Blackwell B100和B200芯片。
英特爾表示,Gaudi 3已經(jīng)在Meta大模型Llama上做了測試,可以有效地訓(xùn)練或部署AI大模型,包括文生圖的Stable Diffusion和語音識別的Whisper等等。
在現(xiàn)場,基辛格也展示了集成最新英特爾芯片的AI PC,能夠快速處理的多項任務(wù),例如快速處理郵件、語音處理、圖像渲染等。
據(jù)了解,英特爾Gaudi 3采用臺積電5納米工藝制造。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨,包括戴爾、惠普和超微電腦在內(nèi)的公司將使用該芯片。
當天,英特爾還分享了企業(yè)AI各細分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。英特爾為面向數(shù)據(jù)中心、云和邊緣發(fā)布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來更高的AI性能。
英特爾想要打造一個廣泛的AI生態(tài)聯(lián)盟,推動企業(yè)在AI領(lǐng)域創(chuàng)新。
英特爾概述了面向開放的、可擴展的AI系統(tǒng)的戰(zhàn)略,其中包括硬件、軟件、框架和工具。當天,英特爾聯(lián)合多家公司宣布,將創(chuàng)建一個開放平臺助力企業(yè)推動AI創(chuàng)新。這一計劃旨在開發(fā)開放的、多供應(yīng)商的生成式AI系統(tǒng),通過RAG(檢索增強生成)技術(shù),提供部署便利性、性能和價值。RAG可使企業(yè)在標準云基礎(chǔ)設(shè)施上運行的大量現(xiàn)存專有數(shù)據(jù)源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業(yè)中的應(yīng)用。
進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智能芯片能否幫助英特爾找到股價上漲的動能值得關(guān)注,在9日盤中,英特爾一度下跌1.7%,或創(chuàng)出約三年半來最差六日表現(xiàn),但在發(fā)布新的芯片后,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元,
- ·榮耀Magic6系列將搭載驍龍8 Gen 3移動平臺,..
- ·塑料軟包裝業(yè)產(chǎn)能過剩 今年增速將低于10%
- ·Mate 30遭谷歌后裝封堵 或倒逼鴻蒙全面上線
- ·特斯拉何時將至20萬元以內(nèi) 最早有望2022年實現(xiàn)
- ·HTC Vive Cosmos評測:沖擊本世代最爽快的VR..
- ·閃迪明年發(fā)4TB SD卡:最高可以做到128TB!
- ·阿里為醫(yī)護人員設(shè)立健康保障金 最高可賠付50..
- ·瑪莎拉蒂發(fā)布未來發(fā)展計劃 2020年正式開啟電..
- ·蔚來否認拆分自動駕駛業(yè)務(wù)部門 稱無相關(guān)合并..
- ·百度“共度計劃”宣布升級:新增20億基金助力..





