AI模擬芯片能效達傳統(tǒng)芯片14倍
時間:2023-08-26 04:26:48
(資料圖片)
《自然》23日發(fā)表的研究報道了一種能效為傳統(tǒng)數(shù)字計算機芯片14倍的人工智能(AI)模擬芯片。這一由IBM研究實驗室開發(fā)的芯片在語音識別上的效率超過了通用處理器。該技術或能突破當前AI開發(fā)中因算力性能不足和效率不高而遇到的瓶頸。
隨著AI技術的崛起,對能源和資源的需求也隨之上升。在語音識別領域,軟件升級極大提升了自動轉寫的準確率,但由于在存儲器與處理器之間移動的運算量不斷增加,硬件無法跟上訓練和運行這些模型所需的數(shù)以百萬計的參數(shù)。研究人員提出的一個解決辦法是,使用“存內計算”(CiM,或稱模擬AI)芯片。模擬AI系統(tǒng)通過直接在它自己的存儲器內執(zhí)行運算來防止低效,而數(shù)字處理器需要額外時間和能源在存儲器和處理器之間移動數(shù)據(jù)。模擬AI芯片預計能極大提升AI計算的能效,但對此的實際演示一直缺乏。
研究團隊此次開發(fā)了一個14納米的模擬芯片,在34個模塊(tile)中含有3500萬個相變化內存單元。研究團隊用兩個語音識別軟件在語言處理能力上測試了該芯片的效率,這兩個軟件分別是一個小網(wǎng)絡(谷歌語音命令)和一個大網(wǎng)絡(Librispeech語音識別),并在自然語言處理任務上與行業(yè)標準進行對比。小網(wǎng)絡的性能和準確率與當前的數(shù)字技術相當。對于更大的Librispeech模型來說,該芯片能達到每秒每瓦12.4萬億次運算,系統(tǒng)性能估計最高能達到傳統(tǒng)通用處理器的14倍。
研究團隊總結道,該研究在小模型和大模型中同時驗證了模擬AI技術的性能和效率,有望成為數(shù)字系統(tǒng)的商業(yè)可行的替代選擇。
相關稿件
被騙緬甸中科院博士最新消息:中國駐泰國大使館已接手,正辦理回國手續(xù)
勁仔食品:截至8月18日,公司股東人數(shù)為12,671人
中蘭環(huán)保龍虎榜數(shù)據(jù)(8月25日)
對大陸感情深厚的臺青丁翊凱:在中華民族的復興進程中幫助臺灣青年更好融入
俄羅斯卡盧加州州長稱俄防空系統(tǒng)在該州摧毀兩架烏方無人機
延慶區(qū)百泉街道燕水佳園社區(qū):黨建引領辦實事 以人為本促發(fā)展
四維圖新:公司擁有大量數(shù)據(jù)資產,產生自智云、智駕等多個業(yè)務板塊
博信股份: 公司目前已形成以裝備綜合服務業(yè)務和智能硬件及其衍生產品業(yè)務為主的發(fā)展模式
建設銀行上半年實現(xiàn)凈利1672.95億元 較上年同期增長3.12%
2023成都北河三歸山音樂生活節(jié)時間、地點、嘉賓及門票
紐交所暫停WeWork(WE.US)權證交易,并啟動退市程序


