MediaTek運用Meta Llama 2大語言模型,賦能終端設備生成式AI應用
時間:2023-08-25 12:01:45
(相關資料圖)
2023 年 8 月 24 日 – MediaTek今日宣布利用Meta新一代開源大語言模型(LLM)Llama 2 以及MediaTek先進的AI處理器(APU)和完整的AI開發平臺(NeuroPilot),建立完整的終端側AI計算生態,加速智能手機、物聯網、汽車、智能家居和其他邊緣設備的AI應用開發,為終端設備提供更安全、可靠和差異化的使用體驗。預計年末采用 MediaTek 新一代天璣旗艦移動芯片的智能手機支持由Llama 2模型開發的AI應用,可為用戶帶來振奮人心的生成式AI應用體驗。
MediaTek 資深副總經理暨無線通信事業部總經理徐敬全博士表示:“生成式AI的日益普及是數字化轉型的重要趨勢之一,我們的愿景是為Llama 2的開發者和終端用戶提供工具,帶來更多令人興奮的AI創新機遇和產品體驗。通過與Meta的伙伴關系,MediaTek可提供更強大的硬件和軟件整體解決方案,為終端設備帶來遠超以往的功能和體驗。”
目前,大多數生成式AI都依賴云計算,MediaTek基于Llama 2模型成功實現直接在終端設備上運行生成式AI應用。這將為開發者和用戶提供獨特優勢,包括無縫的使用體驗,更強的用戶信息安全和可靠性,更低延遲,離線運算的能力以及更低的運營成本,讓每個人都能享受到生成式AI帶來的便捷與創新。
要在終端設備上充分釋放生成式AI的潛力,設備制造商需采用高算力、低功耗的AI處理器(APU),并通過更快、更可靠的網絡連接來增強設備的整體算力。如今,每一顆MediaTek 5G智能手機SoC均搭載AI處理器,已廣泛執行生成式AI應用成功案例,例如 AI 降噪(AI-NR)、AI 超級分辨率(AI-SR)以及AI運動補償(AI-MEMC)等。
MediaTek將于年末推出新一代旗艦移動芯片,將采用針對Llama 2模型而優化的軟件棧(NeuroPilot),與搭配支持Transformer模型做骨干網絡加速的升級版AI處理器(APU),可減少動態隨機存取內存(DRAM)的讀寫消耗和帶寬占用,進一步強化大語言模型和生成式AI應用的性能,助力開發者打造令人驚艷的AI應用,加速終端設備AI應用落地發展。
相關稿件
MediaTek運用Meta Llama 2大語言模型,賦能終端設備生成式AI應用
華立股份:經營現金流由負轉正,財務費用增長四成 | 中報拆解
熱門深層補水美白抗氧化的面霜推薦:緩解皮膚粗糙和干燥的問題!
《黑神話:悟空》將有30分鐘海外體驗版:內容與國內試玩版不同
如何建?怎么管?城市綠道建設“加速跑”?折射出哪些發展理念?
一大批稅收優惠政策公布 全方位多層次支持資本市場持續健康發展
首屆北京交叉科學大會召開 深入推進科教融匯構建學科交叉新格局
北斗星通:上半年實現營收約20.49億元 同比增長35.54%
Gartner:2023年全球AI芯片收入將達530億美元 2027年達1194億美元
糧食經營嚴禁壓級壓價、以陳頂新!《糧食質量安全監管辦法》10月1日起施行
米哈游《絕區零》實機演示視頻發布:新艾利城市、超自然災害空洞
有銀行下調存款利率 理財經理:“可能接下來還會降”!居民該怎么做?


