熟女少妇一区二区三区四区_精品日产a一卡2卡3卡_美女强视频在线观看_国产精品久久久久69孕妇9_免费高清一级大毛片视频播放播放_久久国产av不卡_99久高清在线视频观看_y88午夜久久国产精品麻豆

本地化部署DeepSeek有手就行,零刻SER9 Pro實(shí)操,還能玩3A!    

電腦整機(jī) 03-17 14:36:31 99 0

自開年以來以DeepSeek為代表的AI工具火出了天際,工作中的許多瑣碎事兒都可以交給AI來完成。不過對(duì)于商業(yè)體來說,提升生產(chǎn)力效率是一回事,數(shù)據(jù)隱私安全就是另一回事了。

像奶爸公司最近就發(fā)了通知,對(duì)DeepSeek工具的使用做了諸多要求,并且嚴(yán)禁將部分資料上傳到非本地化部署的AI中。

奶爸最近剛好在修訂制度,目標(biāo)是將現(xiàn)行的37個(gè)制度整合為7個(gè)制度,不讓用DeepSeek不就要了我的老命了,果斷帶自費(fèi)購買的零刻SER9 Pro Mini PC到公司本地化部署DeepSeek,直接當(dāng)著合規(guī)同事的面上傳公司制度到DeepSeek(手動(dòng)狗頭),舒服 。

本地化部署DeepSeek教程

▼自從DeepSeek問世以來,眾多玩家對(duì)于本地化部署的追求就沒有停過,剛開始大家都以為只有硬核的獨(dú)立顯卡才能進(jìn)行本地化部署,后來大家發(fā)現(xiàn)通過CPU+內(nèi)存 以及 核顯GPU+內(nèi)存的形式都能實(shí)現(xiàn),真正讓DeepSeek本地化部署走進(jìn)了千家萬戶。

對(duì)于AMD核顯目前比較推薦使用LM Studio進(jìn)行部署,對(duì)核顯的支持更好,部署也更加簡(jiǎn)單。搜索引擎搜索LM Studio就能找到LM Studio,提醒一下官網(wǎng)的后綴是ai,別進(jìn)了那個(gè)jewellery的網(wǎng)站。

關(guān)于零刻SER9 Pro

▼DeepSeek對(duì)內(nèi)存帶寬相對(duì)來說還是比較敏感的,理論上帶寬越高,響應(yīng)速度會(huì)更快一點(diǎn)。零刻SER9 Pro采用8000MHz的美光板載LPDDR5內(nèi)存,在DeepSeek的使用上更有優(yōu)勢(shì)一些,AMD AI 365處理器搭載的Radeon 880M核顯也是目前核顯第一梯隊(duì)領(lǐng)頭羊的存在。

▼零刻SER9 Pro共有兩個(gè)型號(hào),高配版采用AMD AI 9 HX370處理器,搭載Radeon 890M核顯,標(biāo)準(zhǔn)版搭載AMD AI 9 HX365處理器,相較高配版便宜600,更具性價(jià)比。

▼相較上代銳龍8000系列,AMD銳龍AI 300系列處理器大幅更新了架構(gòu),CPU升級(jí)為Zen5大小核架構(gòu),核心更多,能效比更高;核顯GPU則升級(jí)為了RDNA3.5架構(gòu),Radeon 880M有12個(gè)核心,Radeon 890M更是升級(jí)到了16顆;NPU則是升級(jí)到了XDNA2架構(gòu),AI算力達(dá)到了50 TOPS(不過目前LM Studio暫時(shí)無法讓NPU加入運(yùn)算)。

▼零刻SER9 Pro延續(xù)了SER8/SEi14的經(jīng)典設(shè)計(jì),一體式金屬機(jī)身造型以及圓潤的倒角相當(dāng)精致,對(duì)比Mac mini M4有電源鍵方便實(shí)用,保留有USB-A接口的優(yōu)勢(shì)(手動(dòng)狗頭)。

▼SER9 Pro采用下進(jìn)風(fēng)/后出風(fēng)散熱風(fēng)道設(shè)計(jì),背面與地板采用塑膠材質(zhì),保證冷熱通道徹底隔離。講道理SER9 Pro著實(shí)很安靜,即便是高負(fù)載之下風(fēng)扇的聲音只會(huì)像自然中的風(fēng)聲,不會(huì)有風(fēng)扇高速轉(zhuǎn)動(dòng)的那種風(fēng)切的聲音。

▼SER9 Pro一如既往的大滿貫的接口配置,前面板3個(gè)接口+背面8個(gè)接口,既保證了高度的擴(kuò)展性也兼顧了便利性;電源依舊是小巧的航嘉代工120W,不論是外出攜帶還是收納都很便利。

  • 1個(gè)USB-C 4(40Gbps/PD/DP1.4/雷電3)
  • 1個(gè)USB-C 3.2Gen2×1(10Gbps)
  • 2個(gè)USB-A 3.2Gen2×1(10Gbps)
  • 2個(gè)USB-A 2.0
  • 1個(gè)DP1.4(4K@240Hz)
  • 1個(gè)HDMI2.1(4K@240Hz)
  • 1個(gè)2.5G網(wǎng)口
  • 2個(gè)3.5mm音頻口

▼SER9 Pro AI 365版在嶄新出廠的時(shí)候跑分在140萬+.

不過我的機(jī)器已經(jīng)被我折騰了蠻久,魯大師、360幫我裝了蠻多的實(shí)用軟件,造成紙面性能測(cè)試數(shù)據(jù)稍微低了點(diǎn),不重要。

部署時(shí)刻

▼LM Studio軟件的安裝很簡(jiǎn)單,基本上一路Next就行。

▼我的零刻SER9 Pro搭在了1TB英睿達(dá)SSD,而且平時(shí)也沒有分盤符的習(xí)慣,這里就裝在了C盤,如果大家有分盤符,而且C盤容量比較小,建議不要部署在C盤,包括之后存儲(chǔ)模型也是。

▼打開LM Studio軟件后,右上角位置有一個(gè)skip onboarding的按鈕,點(diǎn)擊跳過。

▼接著點(diǎn)擊Select a model to load按鈕,進(jìn)行大模型下載。

▼搜索DeepSeek R1 Distill,注意要選擇GGUF后綴(格式)。

▼實(shí)測(cè)8B與14B Q4模型都能夠較為流暢的運(yùn)行,小伙伴們可以自行選擇,根據(jù)我收集的信息來看Qwen相對(duì)來說更適合中文大語言模型,不過實(shí)測(cè)下來Qwen與Llama個(gè)人感覺不出來差異。點(diǎn)擊右下角的Download即可進(jìn)行下載,實(shí)測(cè)不適用魔法也能正常下載,速度在2-3MB/s所有。

▼下載完成后就可以選擇對(duì)應(yīng)的模型進(jìn)行加載了,默認(rèn)情況下LM Studio會(huì)使用CPU進(jìn)行運(yùn)算,個(gè)人更建議使用GPU模式運(yùn)行,一方面能避免CPU高負(fù)載電腦的超級(jí)卡頓,另一方面GPU模式在顯存占用和響應(yīng)速度上更具優(yōu)勢(shì),更適合性能要求較高的場(chǎng)景。

▼打開手動(dòng)選擇模型加載參數(shù)按鈕,使用零刻SER9 Pro搭載的Radeon 880M核顯進(jìn)行運(yùn)行。

▼找到GPU OFFload這個(gè)控制選項(xiàng),直接把數(shù)量拉滿,如果你選用了中文會(huì)看到是GPU卸載,不用理會(huì)。

▼這時(shí)候我們就可以正式加載蒸餾模型了,不過LM Studio會(huì)提示可能會(huì)造成設(shè)備高負(fù)載,這時(shí)候我們需要將策略改為“關(guān)閉”,反正我試了一下最寬松的策略也不允許加載。

▼接著我們要設(shè)置系統(tǒng)給GPU分配的內(nèi)存(約等于顯存那么個(gè)意思),零刻SER9 Pro默認(rèn)給到的是4GB。

▼重啟計(jì)算機(jī)瘋狂點(diǎn)擊鍵盤的Del按鈕進(jìn)入到BIOS。

▼進(jìn)入到BIOS Advanced功能標(biāo)簽頁,選擇AMD CBS功能。

▼選擇NBIO Common Options選項(xiàng)。

▼進(jìn)入到GFX Configuration功能。

▼在Dedicated Graphics Memory位置就可以選擇配置給核顯的內(nèi)存數(shù)量。

▼零刻SER9 Pro的 BIOS預(yù)設(shè)了8G、16G、24G多個(gè)選項(xiàng),用戶可以很方便的進(jìn)行選擇?;旧?B模型給到8G就夠用了。

▼全都設(shè)置好以后F4保存并退出BIOS,電腦重新啟動(dòng)。

▼這時(shí)候再調(diào)用DeepSeek R1模型,可以看到GPU已經(jīng)快樂的奔跑起來了,雖然混合運(yùn)行(CPU、GPU同時(shí)調(diào)用)的情況下,CPU占用率也蠻高,但是系統(tǒng)流暢度會(huì)提高不少。

▼8B Q4蒸餾模型下10.32Token/s在使用中基本上高度可用。

▼14B Q4蒸餾模型下8.22Token/s,相對(duì)7B模型并不會(huì)感覺到有明顯的差異。不過注意使用14B模型要分配16GB內(nèi)存給核顯就是了。

▼零刻官方對(duì)SER9 Pro370和SER9 Pro365本地部署DeepSeek的性能測(cè)試,感興趣的小伙伴可以再了解下。

零刻SER9 Pro性能測(cè)試

核顯3DMark基準(zhǔn)測(cè)試

▼在3DMARK上,使用Fire Strike(DX11)、Time Syp(DX12)、Speed Way(DX12 Ultimate)、Port Royal(光追)四個(gè)個(gè)基準(zhǔn)項(xiàng)目進(jìn)行測(cè)試,他們分別能夠反映主流網(wǎng)游、近幾年的3A大作、以及光追性能,Steel Nomad則能夠提現(xiàn)高性能游戲電腦性能。通過量化的數(shù)據(jù)能夠方便我們進(jìn)行不同設(shè)備之間的橫向?qū)Ρ取?

▼最終測(cè)試結(jié)果如下:

Night Raid :39655;Fire Strike :9929,Time Spy :3501分;Steel Nomad Light:3360。零刻SER9 Pro HX365 搭載的AMD Radeon 880M核顯的設(shè)備相較于前一代的Radeon 780M有著顯著的性能提升,超高頻的內(nèi)存頻率也起到了相當(dāng)重要的作用。

游戲性能測(cè)試

▼游戲性能測(cè)試這里,我們分別測(cè)試了網(wǎng)游LOL、競(jìng)速類游戲地平線5、老牌3A 古墓麗影暗影、吃配置小怪獸賽博朋克2077以及霍格沃茲之遺。3A大作在1080P分辨率全高畫質(zhì)下也能有48幀以上的成績(jī),不追求極致的畫面用Mini PC玩游戲也挺好的。

8000MHz內(nèi)存性能測(cè)試

▼常用AMD的小伙伴們都知道,在AMD處理器上我們一般都是追求低延遲,對(duì)高頻不敢有什么奢望,但是零刻SER9 Pro卻搭載了4 * 8(32GB)lpddr5內(nèi)存,就還蠻離譜的,不得不測(cè)一下了。

▼通過AIDA64進(jìn)行測(cè)試,讀取速度90.74GB/s,寫入速度為109.29/s,復(fù)制速度為80.58GB/s,延遲138.1ns,復(fù)制速度相當(dāng)不錯(cuò),非常適合用來做大模型項(xiàng)目部署。

寫在最后

高性能迷你主機(jī)市場(chǎng)中,零刻有著美觀的設(shè)計(jì)與極致的性價(jià)比。

對(duì)于SER9 Pro來說,AMD銳龍AI 9 365處理器10核20線程設(shè)計(jì),最高加速頻率達(dá)5.0GHz,輕松應(yīng)對(duì)多任務(wù)處理與高負(fù)載應(yīng)用,Radeon 880M核顯RDNA 3.5架構(gòu),12CU單元,2900MHz頻率,性能堪比入門獨(dú)顯,完全是一步到位入坑即退坑之選。

如果同時(shí)追求性能與更極致的性價(jià)比,那么SER8 8745HS版本也是不錯(cuò)的選擇。

本地化部署DeepSeek有手就行,零刻SER9 Pro實(shí)操,還能玩3A!   
廣告聲明:文中若存在對(duì)外跳轉(zhuǎn)的鏈接(涵蓋商品鏈接、超鏈接、二維碼等各類形式),其目的在于為您呈上更多與內(nèi)容相關(guān)的產(chǎn)品信息,助您迅速甄別。但我們不對(duì)其做任何明示或暗示的保證,煩請(qǐng)您謹(jǐn)慎參考,依據(jù)自身的需求與判斷來做出決策。

17
LV17爐火純青
0 爆料
158 原創(chuàng)
0 評(píng)論
網(wǎng)友評(píng)論
泸定县| 根河市| 柳江县| 灵寿县| 台东县| 奇台县| 苏尼特左旗| 阳谷县| 嘉荫县| 宁陕县| 乌拉特前旗| 丹凤县| 辽阳市| 吉首市| 佛坪县| 贵德县| 高碑店市| 成武县| 怀集县| 潞西市| 阳山县| 象山县| 靖宇县| 白山市| 房山区| 宝鸡市| 乐业县| 铁岭市| 西昌市| 丹阳市| 沙坪坝区| 桐庐县| 万宁市| 辛集市| 黄梅县| 柞水县| 焉耆| 芜湖县| 康定县| 昂仁县| 炎陵县|