最近一段時(shí)間，以 DeepSeek 為代表的國產(chǎn)大模型，憑借開源生態(tài)和硬件適配性，催生了大量鐘情本地部署的極客玩家，本地部署也就成了熱門話題。本地部署的AI有著低延遲高安全低成本的優(yōu)勢，但對硬件要求是非常高的。比較重要的是CPU，GPU以及內(nèi)存，大容量內(nèi)存決定了本地 AI 模型的可選范圍和運(yùn)行效率,如果你內(nèi)存不夠大，卡死也是比較可能的。

最近由于出現(xiàn)了單條32G的條子，組64G也是比較方便的事了，海盜船也更新了最新的復(fù)仇者內(nèi)存條，單條32G可以根據(jù)自己需求購買。價(jià)格是比較便宜的。另外我手上正好也有張微星的5070TI神龍顯卡，顯存也有個(gè)16G，正好也看看大容量內(nèi)存以及大顯存顯卡對 AI 本地部署的加成有多大效果。

這次的海盜船復(fù)仇者是可以單條購買的，當(dāng)然也有對條，根據(jù)你的需求選擇，比如我可以選擇四條或者就選2條，搭配比較方便。外包裝還是一貫的黃色，說實(shí)話這個(gè)容量如果你不跑AI，干什么其實(shí)都?jí)蛄恕?

內(nèi)存造型依然是復(fù)仇者的傳統(tǒng)電競風(fēng)，兩邊激光蝕刻的菱形紋理滿布馬甲表面，中間區(qū)域貼了塊金屬片，刻著“VENGEANCE”，也就是復(fù)仇者的英文。

這次的復(fù)仇者并沒有帶 RGB ，所以內(nèi)存整體高度非常的矮，控制在 35mm 左右。有著更好的硬件兼容性，適合搭配空間緊張的 ITX 機(jī)箱或者一些小機(jī)箱。

看一下時(shí)序，38 - 44 - 44 - 96，工作電壓 1.35V，由于容量比較大，所以頻率和時(shí)序都比較保守，這也和這代的CPU有關(guān)，插滿4條你只有低時(shí)序，但容量的重要性一直是大于時(shí)序的。

顯卡就是微星的5070TI神龍了，造型我是非常的喜歡的，擁有暴風(fēng)之怒旗艦機(jī)的散熱模組，暴風(fēng)7風(fēng)扇也刻意增大了散熱量。

這次還有波浪鰭片4.0，用于減少噪音，RGB采用了多區(qū)域光效，除了右邊的MSI的龍標(biāo)，風(fēng)扇那里也是有RGB的。

當(dāng)然，供電接口還是16pin的新接口。

IO接口就是傳統(tǒng)的3DP+1HDMI了。

先看下內(nèi)存顆粒，這次查詢的顆粒為K4RAH086VD-BCQK,是三星的顆粒。

插上后進(jìn)入系統(tǒng)確認(rèn)識(shí)別到64G，頻率為6000，這里可以看到系統(tǒng)就要用到6G左右的內(nèi)存。

關(guān)于本機(jī)部署 ollama 有太多教程，我就省略了，如果不喜歡CMD可以上網(wǎng)搜一搜，有很多軟件都可以使用，這里就不在贅述。根據(jù)本機(jī)的配置，測試我們使用的14，32，70B的蒸餾版，在往上真的又卡又帶不動(dòng)。

首先，先測一下70B，剛加載，問了一下丁真是誰，內(nèi)存使用量就達(dá)到了37G，70B雖然是蒸餾板，也已經(jīng)非常吃硬件了，當(dāng)然如果你能把顯卡換成5090D，那肯定是要好上不少的。

我使用了16G*2的內(nèi)存也測試了一遍，剛加載，內(nèi)存基本就吃滿了，后面就開始一字一句的彈字，我也就沒測試下去了，32G內(nèi)存是肯定不行的。

32B的情況下則要好很多，內(nèi)存也就使用了14個(gè)G，能支持一般的使用，但是回答問題的精準(zhǔn)度就不那么高了，我問丁真是誰，它回答的半真半假，要不是網(wǎng)上能查我就信了。

使用32G內(nèi)存在使用上也是沒什么問題的，回答問題也差不多，就不多贅述了。

14B需求的內(nèi)存更少，只需要8G左右，但回答問題很不精準(zhǔn)，比如我讓它幫我寫入黨申請書，寫的就明顯沒有70B和32B那么的流暢。

14B對內(nèi)存的要求不算高，32G其實(shí)也夠用，但是你問他丁真是誰，它都說不知道要再去學(xué)習(xí)，也是非常的豹笑了。

說實(shí)話，如果你想組建本地的AI，硬件的要求會(huì)非常的高，70B以下的模型我覺得大部分是不能用的。5070TI，64G內(nèi)存這種硬件基本要標(biāo)配，我的5070TI在使用70B的情況下也是有一些卡頓的。70B以下的模型雖然流暢，但回答的精度不高，經(jīng)常不知道它在說什么。那從測試結(jié)果來看，大容量內(nèi)存顯存對于 AI 應(yīng)用最大的優(yōu)勢是提升了運(yùn)行上限，另外由于四槽的兼容性不好，大容量內(nèi)存也為了解決這個(gè)問題而生。另外在娛樂和生產(chǎn)力方面，大容量的內(nèi)存也是很有必要的，比如剪輯視頻?？磥鞟I的風(fēng)潮即將帶來大批量的硬件更換。