国产美女主播视频一区_国产精品蜜臀在线观看_亚洲成人动漫一区_亚洲视屏在线播放

首頁 > 資訊

酷睿輕薄本也能運行大語言模型,英特爾推動 PC 生成式 AI 落地

來源:面包芯語 時間:2023-08-26 08:00:16

IT之家8 月 24 日消息,2023 年 8 月 18 日上午,英特爾在大灣區舉辦了一場技術分享會,主題是英特爾在 AIGC(人工智能生成式計算)領域的最新進展。會上,英特爾的技術專家向與會者展示了他們在 AIGC 上的技術方向,并進行了多個應用的演示。

首先,英特爾介紹了他們在大語言模型方面的優化和支持。在我們傳統的認知里,運行類似 ChatGPT 這種大語言模型必須要有大顯存的顯卡支持。但這場交流會卻顛覆了我們的認知。英特爾為了讓 12、13代酷睿平臺也能夠順利運行各種大語言模型并提供流暢的使用體驗,構建了 BigDL-LLM 庫。通過這個庫,可以對各種大語言模型進行優化和支持,包括一些開源的、可以在本地運行的大語言模型。這個庫甚至可以在一臺搭載 16GB 內存的英特爾輕薄本的機器上運行參數量高達 16B 的大語言模型。此外還支持 LLaMA / LLaMA2、ChatGLM / ChatGLM2 等多個大語言模型。


(資料圖片)

接下來,英特爾展示了他們在大語言模型應用方面的表現。通過集成了 ChatGLM2、LLaMA2 和 StarCoder 這三個大語言模型的 Demo,他們演示了這些模型在中文和英文應用上的表現。通過優化和量化操作,這些大語言模型在生成回答時能夠以非常快的速度生成,并且不影響閱讀體驗。英特爾已經發布了這套 Demo,任何搭載 12、13代酷睿的電腦都可以直接安裝并體驗。

我們這里選擇了一臺通過英特爾Evo平臺認證的輕薄本:華為 MateBook 16s 來進行測試。處理器為酷睿 i9-13900H + 32G 內存,看看在核顯輕薄本上究竟能不能跑 AIGC。

英特爾大語言模型的 Demo 安裝過程非常傻瓜,英特爾已經打包成了 EXE 文件,安裝并導入.Bin 格式的大語言模型就可以運行了。打開界面我們可以看到左側可以選擇聊天內容、調整模型參數和查看運算延遲,右側則是聊天框。

筆者先嘗試問了他一些人情世故方面的問題,沒想到回答非常出色,響應速度也很快。這樣一個問題只花了 658.87ms 就完成了響應。

在運算過程中我們可以看到,i9-13900H 占用率達到了 100%,內存占用達到了 16G,Xe 核顯也有一定占用。看來這個運算過程確實是在本地進行的。經過英特爾不斷的優化和 13代酷睿處理器算力的提升,我們真的在輕薄本上實現了 AIGC 的落地。

在情感分析功能中,我們讓大語言模型分析了一段經典散文。可以看到雖然分析的角度比較淺顯,但沒有邏輯錯誤,還是可以自洽的。

而在這個中文翻譯功能中,英特爾大語言,模型的表現就更加令我意外了,它的翻譯質量相當高,速度也很快。哪怕是有如此多專有名詞的稿件,也能準確無誤地翻譯。

在故事創作方面,這套大語言模型也展現出了令我驚訝的邏輯能力和創造能力。我這邊讓它寫一篇關羽大戰林黛玉,最后林黛玉取勝的故事。但 AI 居然認識到了這兩人根本不是一個時代的,最后寫了一個穿越時空的戲碼,雖然漏洞百出,但大體上沒有問題。

生成大綱功能則是一個非常有用的功能,我們只要輸入想要撰寫的稿件,就能幫我們列出一套邏輯清晰的稿件大綱了。這對于經常需要寫文章的群體來說能起到很好的輔助作用。

信息提取功能對于經常需要閱讀報告的群體來說很有幫助。可以快速從長篇文章中提取核心信息。我這邊嘗試讓 AI 從英文文章中提取中文信息,效果卻依然非常好。

最后,筆者讓 AI 給出一份青島美食建議和青島旅游建議。由于這個大語言模型是完全離線運行的,所以給到的信息也會比較陳舊,但單從撰寫水平來看還是不錯的。

除了大語言模型應用外,英特爾還展示了在 AI 文生圖算法 Stable Diffusion 上的支持。他們啟用了 OpenVINO 的加速,開發了一套 AI 框架,通過一行代碼的安裝,就可以加速 PyTorch 模型的運行。通過 Stable Diffusion 的 WebUI,可以在集成顯卡和 Arc 獨立顯卡上運行 Stable Diffusion Automatic1111。通過演示,可以看到在 Evo 輕薄本和搭載 i7-13700H 處理器的機器上,Stable Diffusion 在集成顯卡上的表現效果。96EU 版本的英特爾銳炬 Xe 顯卡強大的算力,可以支持 Stable Diffusion 軟件上運行 FP16 精度的模型,快速生成高質量圖片。

同時,他們還展示了在搭載 i7-13700K CPU + Arc A770 獨顯的機器上運行 Stable Diffusion 的效果,速度非常快。

此外,英特爾還展示了基于 Arc 顯卡的人物動作的三維數字重建技術。通過 Arc 強大的算力和 OpenVINO 框架對 AI 算法的優化推理,可以實時探測和重建人物動作,并進行后期渲染。這項技術不需要智能穿戴設備,只需連接家用攝像頭,即可實現實時探測和重建人物動作,并通過數字人的形象進行動畫渲染。通過實時的骨骼點信息和 3D 重建,數字人可以展現出靈活多樣的肢體動作,實現真實的三維動效。同時,根據用戶的需求,可以自定義渲染器的畫風,快速打造各種元宇宙應用。

在最后的渦輪卡展示環節,英特爾展示了他們新的渦輪 GPU 卡,Arc A770 16G。這張卡具有雙槽全長全高的設計,適應各種邊緣側服務器機箱或設備機箱。它采用渦輪風扇設計,減少對機箱內流場的干擾,更適合多卡混合計算的服務器、煉丹爐場景。

從本次分享會看來,英特爾一直著力于發展 AI 技術,特別是當下火熱的 AIGC 領域,英特爾也沒有缺席。憑借 13代酷睿強勁的算力和不斷的算法優化,現在即便是輕薄本也可支持大語言模型的本地運行。而在 Arc 顯卡的加持下,Stable Diffusion 文生圖的支持也在不斷開展。同時,英特爾也在探索 AI 的下一代應用場景,并為企業級用戶提供算力更強的解決方案。

通過這些技術的展示,英特爾向大家展示了他們在 AIGC 領域的領先地位和不斷創新的能力。他們致力于為用戶提供更智能、高效的計算體驗,推動人工智能技術的發展和應用。隨著技術的不斷進步和完善,我們可以期待在未來看到更多來自英特爾的 AIGC 應用和解決方案。

相關稿件

酷睿輕薄本也能運行大語言模型,英特爾推動 PC 生成式 AI 落地

外國青年感受現代化成都:巴適得很

中國競走隊田徑世錦賽陷獎牌荒 整體成績不如日本

CBA官方更新福建注冊信息:陳林堅頂薪續約2年 黎伊揚B類續約2年

徐州村BA籃球比賽時間+地點安排2023 徐州打籃球

約45萬人民幣 電動大眾帕薩特歐洲開賣

核輻射檢測儀電商今日爆單 專家:用普通儀器很難發現差

海外網友熱議KT擊敗HLE:包括Viper在內,HLE全員都看起來很平庸

一加Ace2原神版 手機充滿電會自動斷電嗎

深圳能源上半年凈利潤同比增長74.86%

明晚客戰滄州雄獅,國安隊將用“狀態最好的11人”沖擊三連勝

2023手機散熱器橫評:長得越怪、凍得越快

一次注冊分期發行 用市場化力量調節 A 股融資節奏

煉化股票龍頭排名分析,今日煉化股票價格多少?(2023/8/25)

肝跑了、胃到了心包里 罕見先天畸形新生兒上海獲救

太陽紙業(002078.SZ)發半年度業績,凈利潤12.51億元,同比減少24.59%

洛陽鉬業上半年產量躍升 下半年業績將觸底反彈

連城數控上半年營收18.9億元:同比增長55%在手訂單金額90億元

聚焦二次供水和污水處理業務 舜禹股份上半年扣非凈利潤增長39%

8月25日生意社PP(纖維)基準價為7637.50元/噸

知名券商研究所,遭警示!

8月25日生意社新戊二醇基準價為9766.67元/噸

啟動!市區大園六路建設前期工作正有序開展

國臺辦:堅決反對美國向中國臺灣地區出售武器

呂梁:關于占用消防通道開設集市和娛樂設施的來信,官方回復

【今日天氣預報】武漢2023年08月25日天氣預報,多云,無持續風向,空氣質量優

聯合國貿易和發展會議最新報告指出—— 非洲迎來融入全球供應鏈新機遇

8月24日基金凈值:國投瑞銀新能源混合A最新凈值1.9195,漲0.64%

印尼、馬來西亞和泰國三國簽署本幣交易協議 減少對美元依賴

小米手環功能介紹臺詞(小米手環功能介紹)


主站蜘蛛池模板: 免费看又黄又无码的网站| 亚洲福利av| 日韩欧美第二区在线观看| 国产素人在线观看| 日本久久久a级免费| 国产精品一区二区免费在线观看| 91久久久久久国产精品| 国产日韩欧美夫妻视频在线观看| 欧美亚洲国产日韩2020| 亚洲v国产v在线观看| 99国产在线观看| 国产精品美女免费视频| 国产精品亚洲视频在线观看| 久久99精品国产99久久6尤物| 内射国产内射夫妻免费频道| 日本视频一区二区不卡| 日韩在线视频在线观看| 午夜免费电影一区在线观看| 亚洲一区二区在线看| 丰满少妇久久久| 99精品国产高清一区二区| 高清视频一区| 精品视频一区在线| 久精品国产欧美| 国产在线观看不卡| 日韩亚洲欧美中文在线| 日日骚久久av| 欧美精品在线观看91| 麻豆成人av| 九九久久九九久久| 国产区精品视频| 国产999在线观看| 伊人天天久久大香线蕉av色| 91国在线精品国内播放| 国产精品国产三级国产专播精品人| 国产精品视频网站| 97久久精品国产| 亚洲91精品在线观看| 日韩视频在线免费观看| 久久免费视频在线观看| 国模吧一区二区|