AI應用大爆發,AMD XDNA架構拿下X86 AI第一城
時間:2023-08-27 00:00:28
AMD在今年1月的CES 2023大會上正式發布了銳龍7000系列移動處理器,其中核心代號“Phoenix(鳳凰)”的銳龍7040系列受到了用戶和業界的廣泛關注,畢竟它是AMD旗下首款內置AI引擎的X86處理器,在今年AI應用井噴式爆發的環境下,對AMD的未來布局意義非凡。而在前不久,雷蛇旗下首款搭載銳龍9 7940HS處理器的筆記本產品也正式開售,這也讓銳龍7040系列成為了首批正式上市的X86 AI處理器,同時也標志著AMD率先將X86處理器帶入了AI時代。
【資料圖】
引領X86進入AI時代的AMD Ryzen AI是什么?
了解過Stable Diffusion之類AI應用工具的朋友都知道,其實用傳統的CPU架構也能實現AI計算,只是效率方面并不能與專用的AI引擎硬件加速相比,那么具體的原因是什么呢?這里不妨以AMD銳龍7040系列獨創的XDNA AI引擎為例進行分析。
傳統的多核心處理器架構采用了固定的共享連接方式(通過緩存),如此一來核心之間數據傳輸排隊造成的阻塞就限制了計算能力,而且時序也并不是固定的。同時,這樣的架構在內存利用方面也增加了對帶寬的搶奪,減少了內存的可用量。綜合這些因素來看,傳統的多核心架構其實并不是AI高效計算的最優解。
AMD的XDNA AI引擎則專為AI計算而生。它內部的AI引擎單元采用類似Mesh的專用方式進行互聯,各個單元之間都可以直接通信,因此不存在數據阻塞的情況,同時也保證了時序的確定性。此外,每個AI引擎單元都配備了分布式本地內存,不會出現緩存未命中的情況,同時擁有更高的訪問帶寬,也降低了對內存容量的需求。
由于內置在處理器中的XDNA AI引擎架構可以脫離云端工作,所以在本地也可以無延遲地處理不同的AI神經網絡計算,包括CNN(卷積神經網絡)、RNN(循環神經網絡)、LSTM(時間遞歸神經網絡)等,并支持INT8,16,32、BFloat16等各種數據類型,還具備實時多任務能力,可處理最多4條并發空間流,峰值算力可以達到10TOPS(每秒10萬億次計算),因此是遠超CPU和GPU能效的。
除了相對傳統處理器架構更高的性能和能效以外,AMD Ryzen AI引擎還改變了推理模型的處理方式。它不再像傳統神經網絡那樣只能在多個“神經元”之間一層一層地逐次流動,而是采用了全新的適應性數據流架構和適應性互連,針對不同負載、模型、數據,由不同單元、層級進行同步處理,從而大大提高效率和能效,還可以由開發者進行定制,找到更適合特定負載的處理方式,進而實現效率最大化。此外,Ryzen AI引擎在安全性和隱私保護方面也更優秀,因為本地AI網絡不依賴云端,數據都是直接在本地完成,所以不用擔心個人數據和內容泄露,更不會成為神經網絡模型的一部分。
當然,處理器光有好的AI引擎也不能充分發揮其性能,必須從操作系統層面進行深度優化才能獲得最好的效果。因此AMD Ryzen AI引擎是與微軟深度合作打造的,它工作在微軟AI框架之下,軟件通過編譯來訪問銳龍處理器的AI引擎。因此,開發者不需要去考慮AI引擎的硬件層面,自然也不用擔心兼容性的問題。目前微軟Windows 11自帶的Windows Studio Effects就已經對AMD Ryzen AI引擎提供了支持,在配備銳龍7040系列處理器的筆記本上,可以對內置攝像頭采集的畫面進行后期處理,提供背景效果、自動取景、眼神接觸等功能。
未來,AMD Ryzen AI引擎還會在更多領域大顯身手。比如Text to image,說說話就能制作出高品質的畫作。像Adobe Premiere Pro等生產力軟件現在已經擁有AI功能了,未來也會加入更多的AI硬件加速支持。AI智能工作助手可以安排日程、撰寫演講稿與郵件,還能整理預算、制作PPT、語音轉文字等等;AI生活助手,可以精準、快速地整理大量圖片和視頻文件,方便歸檔或分享;AI視覺與游戲增強方面,可以在游戲中插幀或提升畫面精度,AI驅動的NPC角色也可以實現實時對話、互動,讓游戲更有“人性”。
其實,這些應用場景現在已經能夠通過云端AI服務器和本地的高性能處理器與GPU來實現,而現在有了X86處理器專屬的AI引擎,就可以在本地高效完成了。同時對于筆記本來說,由于AI引擎可以徹底解放處理器和GPU的AI運算壓力,所以還能夠有效延長電池續航。
另外,根據目前的信息來看,很可能命名為Windows 12的下一個版本的Windows將專注于AI體驗,深度集成人工智能功能。包括 Windows 分析當前正在查看的信息并根據上下文提示,以快速啟動項目或應用的功能。Windows還可以識別圖像中的對象和文本等等,但諸如此類的AI功能將需要像Ryzen AI這樣的專用硬件支持才能運行。
同時,為了方便開發者以最高效率使用Ryzen AI引擎,AMD在對開發者的支持方面也相當重視。其中獨特的一體化AMD AI堆棧可以綜合利用處理器、XDNA架構的算力與能力,支持ONNX、TensorFlow、PyTorch等多種模型。微軟、OEM廠商、ISV獨立軟件開發商、個人開發者都可以自由使用它們。
按照AMD的路線圖,Ryzen AI軟件平臺將于今年晚些時候全面推出,它將為開發人員提供將AI添加到現有應用程序所需的工具,并創建全新的程序。
AMD在5月曾經首次公開展示了這一軟件,提供了開發人員可以試用的demo和代碼樣本。而在今年夏天,AMD通過臨時版本推動了這一進程,增加了對運行在IPU上的新操作符的支持,并提供了對ONNX、PyTorch和TensorFlow模型的量化支持。開發者可以在AMD官網訪問Ryzen AI軟件文檔頁面了解更多詳細信息。
未來的Ryzen AI軟件版本將支持更多在AMD XDNA上運行的操作,ONNXRT Execution Provider(EP)對Vitis AI提供上游支持,將根據工作負載的特性自動決定是在CPU上還是在AMD XDNA AI引擎上運行。
開發人員可以采用PT、TF和ONNX格式的訓練模型,使用AMD Vitis AI Quantizer或者Microsoft Olive Quantizer將這些模型量化為INT8,并使用帶有Vitis AI Execution Provider的ONNX Runtime進行部署。前者將對代碼進行分區和編譯,以運行在AMD XDNA AI引擎或CPU上。
今年晚些時候,AMD將發布更多的工具鏈、庫和指南,以簡化人工智能開發。AMD還計劃增加對Generative AI模型的支持。
在初步了解了Ryzen AI引擎的相關知識之后,接下來我們看看首款內置AI引擎的銳龍移動處理器具體表現如何。
銳龍9 7940HS:首款內置AI引擎的X86旗艦移動處理器
▲銳龍7040系列核心代號Phoenix,采用4nm、Zen 4架構,內置AMD Ryzen AI引擎
目前x86處理器中集成專門AI處理模塊的,只有銳龍7040H/HS系列。據說,英特爾要等到下一代處理器,也就是第14代酷睿可能才會有類似的設計,在其下一代Meteor Lake處理器內部集成AI單元。英特爾官方也在COMPUTEX 2023展示了其下一代Meteor Lake處理器的AI性能,從結果來看,雖然算力效率沒有GPU高,但處理器內部幾個單元的協同工作效率的提升仍然是可觀的,也由此可見專用AI引擎的優勢。
而部分型號的AMD 銳龍7040系列處理器上現在已經配備了專用的Ryzen AI引擎,不但可以支持Windows11的早期AI功能,更可以為將來的Windows 12操作系統提供更強大的支持。AMD銳龍7040系列移動處理器核心代號“Phoenix”,采用領先的4nm制程和全新的Zen 4架構,相對上代Zen 3/3+架構在IPC、工作頻率以及能效比方面都有明顯提升。當然,銳龍7040系列最大的看點還是在X86平臺首發內置AMD銳龍AI引擎,在AI應用中能提供專用加速功能。
采用全新Zen 4架構的銳龍9 7940HS具備8大核16線程,三級緩存16MB,基礎頻率4.0GHz,最高加速頻率高達5.2GHz;集顯部分,它內置了RDNA 3架構的Radeon 780M,擁有12個CU,頻率高達2800 MHz;內存部分,支持雙通道DDR5 5600或LPDDR5X 7500。TDP方面,AMD官方給出的標準是35W~54W可調。總而言之,擁有8個全規格大核、5.2GHz高頻率、內置AI引擎和最強集顯的銳龍9 7940HS可以說是目前輕薄性能本移動處理器中旗艦級的存在。
▲雷蛇靈刃14 2023首發搭載銳龍9 7940HS處理器
雷蛇靈刃14 2023首發搭載了銳龍9 7940HS處理器,它定位高性能輕薄游戲本,整體的重量僅有1.84千克,厚度為17.99毫米,這對于一款內置銳龍9 7940HS旗艦處理器+RTX 4070獨顯的游戲本來講已經是相當輕薄了。
▲實戰體驗微軟Windows 11內置的Camera應用里由AMD Ryzen AI引擎提供的特效
前面已經介紹過銳龍9 7940HS內置的AMD Ryzen AI引擎是和微軟深度合作打造的,目前已經在Windows 11中得到了支持。下面我們就深入體驗一下實際效果。打開Windows 11自帶的Camera應用,可以看到右側菜單擁有三個選項,分別是“Automatic framing(自動取景)”、“Eye Contact(眼神接觸)”、“Background effects(背景效果)”。
自動取景功能可以自動縮放畫面,使得焦點人物始終在畫面中間;眼神接觸則讓人物的視線看起來始終對著鏡頭;背景效果則可以虛化背景,突出焦點人物。只有CPU內置AI引擎,才會使用這3個功能,所以目前只有AMD銳龍7040系列可以開啟。實際使用中Ryzen AI引擎加速的效果非常明顯,而且非常方便,相對需要安裝第三方APP的GPU方案來講,這在追求長續航的輕薄本上確實是一個能效更高、更易用的AI加速方案。
總結:Ryzen AI引擎領銜,AMD開創高能效AI時代
最后簡單總結一下。AMD旗下的銳龍7040系列移動處理器除了性能與能效大幅升級之外,其內置的AMD Ryzen AI引擎更是開創了移動辦公本地AI應用高能效加速的時代,為AMD進軍AI普及應用領域拿下第一城,也為AMD建立完整的AI生態圈打下了基礎,代表著AMD從云端到本地的AI產品線布局目標達成。
同時,AMD與微軟深度合作、推出相應的軟件包也讓開發者能夠更方便地使用Ryzen AI引擎,在各種AI應用中發揮出最佳的性能與能效。而且,隨著下一代Windows操作系統中加入更多的AI應用和特性,AMD銳龍7040處理器憑借專用的Ryzen AI引擎,不但可以超前支持下一代特性,還有先發優勢,勢將帶來更強的體驗。
而首發即驚艷業界的銳龍9 7940HS也有不俗的性能表現,它的8個大核可以做到最高全核4.8GHz水平,單核更是高達5.2GHz以上,相對上代提升非常明顯,內置Ryzen AI引擎更是讓它如虎添翼,不但可以在現有的應用中發揮極強的性能也能在未來的AI應用中提供全新的高效體驗。
可以預見的是,在未來AMD通過與合作伙伴的深度優化,Ryzen AI引擎還可廣泛用于數據分析、智能助手、計算視覺、生產創作等諸多場景,再加上EPYC處理器、Radeon Instinct加速器、Xilinx加速器等全產品線支持AI的優勢,AMD已經擁有了一整套的AI解決方案,可以為用戶提供最為全面的AI支援,相對于其它專攻單一產品線的對手來看,AMD在AI方面的潛力更加強大、更具有可持續發展性。
相關稿件
效仿恒大?曝武漢三鎮為亞冠換帥,將簽前多特名帥,年薪100萬歐
湖南省2023年智能制造及科技創新企業專場現場招聘會28日舉行,掃碼在新湖南客戶端看直播宣講
緬北電信詐騙女生集體宿舍監控視頻曝光!女生毫無隱私可言,可悲
頭條 推進完善援疆資金使用管理和監督機制,上海市財政局調研組來喀調研
8月26日訊,2023亞布力中國企業家論壇第十九屆夏季高峰會于8月25日至27日在深圳舉行
菲律賓拿的是19年中國隊劇本,克拉克森痛哭,士氣崩盤,男籃穩了
亞廣聯大學生機器人大賽將于27日在柬埔寨舉行 閃電新聞將現場直擊
叮當健康上半年營收增長12.9% 通過“數字化+專業物流”拓展糖尿病等專科領域
榮耀首款外折屏手機?Magic Vs2最新消息:35W充電功率+輕薄大屏!
《一路朝陽》一場“閨蜜決裂”,暴露了田蓉和李慕嘉的2種畸形觀
0-1!歐戰爆出大冷,上季亞軍遭魚腩逼入絕境,恐以恥辱方式出局


