DeepSeek本地化部署痛點

2025年1月，DeepSeek-R1大模型一經(jīng)發(fā)布，便在人工智能領(lǐng)域掀起了千層巨浪。對比以往的AI大模型，其性能強悍，且“更懂人”，許多人的生活、工作習慣也在使用其過后，得到了徹底的顛覆。然而網(wǎng)頁版的DeepSeek在我看來并不是完整版的，其存在穩(wěn)定性較差（服務(wù)器繁忙），且無法持續(xù)性進行訓練等問題。本地化部署才能發(fā)揮其100%的強勁實力，舉個例子網(wǎng)頁版相當于“通用公路”，而本地化部署則相當于“專屬高鐵”。

然而要實現(xiàn) DeepSeek的本地化部署，卻也不是那么簡單，對于普通人來說，最大的門檻莫過于硬件方面的限制，組裝一臺能夠流暢運行DeepSeek32B以上模型的電腦，費用已經(jīng)不菲，勸退不少人。即便真的組裝了主機進行部署，也存在難以隨身攜帶電腦，隨時使用等問題。

最佳解決方案？

但身為一名程序員，不嘗嘗鮮，屬實難受，在上下翻找之后，貌似也發(fā)現(xiàn)了最佳解決方案，那便是云電腦。

云電腦是一種基于云計算技術(shù)的服務(wù)，它將電腦的硬件資源（如計算、存儲等）放在云端，用戶通過互聯(lián)網(wǎng)連接終端設(shè)備即可訪問和使用這些資源，體驗比傳統(tǒng)電腦更高配置的算力，能夠滿足圖形渲染、大型游戲體驗、AI建模等需求。

省去了攢錢組裝的過程，即開即用，無需下載，實現(xiàn)了硬件自由。還可跨設(shè)備無縫連接，上班摸魚用電腦訓練大模型，下班通勤路上用手機查看進度，到家后使用平板繼續(xù)調(diào)試。為了選擇一款合適的云電腦，我也嘗試了幾款市面上比較熱門的主流產(chǎn)品，做了簡單的對比測試，以下是個人體驗報告：

一、主流云電腦介紹

1、ToDesk云電腦

ToDesk相信很多人都不陌生，作為消費級遠程控制王者，幫助了許多職場人士進行多平臺遠程協(xié)作，大幅提升了工作效率，以其高清的畫質(zhì)，流暢的體驗而著名?，F(xiàn)如今也帶著強勁的技術(shù)實力，向AI生產(chǎn)力工具進行了轉(zhuǎn)型。

ToDesk云電腦提供強大算力的云端服務(wù)，具備硬核性能、旗艦級配置，擁有超清畫質(zhì)、超低延時、多端共享等特點。在配置方面，提供了云圖形工作站、高性能云電競、AIGC藏寶地三大類型劃分，可選擇電腦配置，以包時或計時方式進行收費，可按小時、天、月、年進行購買，較為靈活。

目前在云電競板塊也提供了一些活動優(yōu)惠碼，初次體驗，價格更低。

2、青椒云

青椒云是瑞云科技推出的一種安全云桌面服務(wù)，涵蓋公有云桌面服務(wù)和私有云桌面，可以幫個人和企業(yè)快速構(gòu)建、高效管理云上辦公環(huán)境，賦能視覺設(shè)計、影視制作、教育培訓、政企辦公等行業(yè)，打造云服務(wù)生態(tài)閉環(huán)。

青椒云電腦根據(jù)配置劃分了AIGC、普通辦公、游戲娛樂、設(shè)計制作四大類型。

計費方式包含了計時、包天、包月、時段，四種類型，標準版的AIGC開機小時費3.8元，僅做試用的話，價格稍高。

3、無影云

無影云電腦隸屬阿里云旗下，個人版包含日常工作生活中使用電腦必需的功能，主要適用于個人和家庭，支持在客戶端內(nèi)實現(xiàn)“購買、管理與使用”一站式體驗，具備配置靈活、接入方便、兼容外設(shè)、數(shù)據(jù)安全等優(yōu)勢。能滿足學生網(wǎng)課、家庭電腦、日常辦公、團隊協(xié)作等使用需求。

無影云電腦個人版主要以月卡、季卡、年卡方式進行銷售，購買產(chǎn)品后，需手動進行配置的選擇，以此來判定計費規(guī)則，如黃金款產(chǎn)品40核時，可支持4核8G開機10小時，或8核16G開機5小時。

小結(jié)：三款云電腦產(chǎn)品計價方式均有所不同，ToDesk云電腦、青椒云的計價方式類似，以包時、計時、包月、包年幾種方式來計價。 ToDesk云電腦的計時方式，相似配置之下價格更低更劃算 。而無影云電腦計價方式則類似充值后消費的模式，購買套餐獲取每個月的核時，然后根據(jù)每次連接的所選配置來扣除，費用不穩(wěn)定，以16核32G內(nèi)存的方式來計算， 無影云最低價套餐每小時需4元 。

二、云電腦初體驗

1、ToDesk云電腦

ToDesk云電腦在AIGC藏寶地選擇相應(yīng)配置，并進行購買后，便會在我的電腦中生成對應(yīng)的新云電腦，等待2~3分鐘初始化后，便可連接進入桌面。

在AIGC云電腦中，已經(jīng)為我們提供了一鍵啟動DeepSeek插件，通過查詢ollama，其內(nèi)置了DeepSeek-R1-7B和DeepSeek-R1-32B兩個模型，支持聯(lián)網(wǎng)搜索。

這里也得做個小小的科普，B表示模型的參數(shù)量級，直接影響計算復(fù)雜度和顯存占用。7B代表70億參數(shù)，32b就代表320億參數(shù)，雖然DeepSeek最高可以達到671B，但是那體量得是國家級研究才用得上，通過官方性能報告來看，DeepSeek-R1-32B已經(jīng)相當強悍。對于普通人來說已經(jīng)完全夠用，足以優(yōu)秀地解決各類高精度任務(wù)，適合超大規(guī)模任務(wù)，如語言建模、大規(guī)模訓練等。

2、青椒云

青椒云要使用DeepSeek，需要在購買時，提前選擇好DeepSeek-R1云鏡像。

在購買后，便可以到云桌面管理界面開機使用，開機需要等待1~2分鐘進入桌面。

進入云電腦后，桌面便為我們準備好了Chatbox，根據(jù)設(shè)置查詢，內(nèi)置了2個模型——DeepSeek-R1 8b和14b。

3、無影云

無影云電腦的啟動方式會較為麻煩一點，需要用戶手動進行相關(guān)配置，整個過程需要選擇配置全新電腦，抑或是導入鏡像。如果沒去閱讀文檔，很容易選錯進入配置新電腦。正確的配置方式是導入鏡像，并輸入第三方鏡像分享碼，進行系統(tǒng)選擇。

最后需設(shè)置云電腦的配置，此時便會決定購買的套餐核時的消耗模式，官方文檔推薦使用的是電競模式，但是一小時的費用算下來實在是太高了，最低檔的黃金套餐，每月僅40核時，都不夠跑1小時。只能以流暢、性能模式進行測試。

在完成選擇后，大概1分鐘內(nèi)，便可以配置成功。成功進入到DeepSeek鏡像，通過查詢得知，無影云內(nèi)置的模型為DeepSeek-R1 7b和14b。

小結(jié)：在三款云電腦的初步體驗中， ToDesk云電腦和青椒云電腦的連接方式接近 ，購買后開機便可以直接連接， 無需多余配置 。而 無影云 電腦初始化配置較為麻煩， 需要手動來自定義電腦 ，如果沒有閱讀文檔，容易誤操作。而在遠程操控云電腦的體驗上，三款產(chǎn)品的連接穩(wěn)定性接近，但是在畫質(zhì)方面 ToDesk云電腦和無影云電腦開最高清模式，非常清晰，而青椒云略遜一籌 ，肉眼可見鋸齒感較強，綜合體驗ToDesk云電腦較好。

三、本地化模型體驗

為了測試本地化模型的使用，我也是準備了兩種方法，一種是直接用本地化模型輸出代碼，再經(jīng)過實測，查看代碼可行性。另一種是使用Cherry-Studio構(gòu)建個人知識庫，測試使用效果。

ToDesk云電腦

首先進行最簡單的測試，使用32b本地化模型生成代碼測試，ToDesk云電腦生成網(wǎng)頁版貪吃蛇小游戲，思考、輸出速度非常迅速。

生成的html頁面，可直接流暢運行，沒有bug的產(chǎn)生。

Cherry-Studio搭建本地知識庫，需要一些準備工作，首先是使用ollama部署embedding模型。使用cmd命令行，可以看到本地ollama可以正常運行，輸入ollama pull shaw/dmeta-embedding-zh，完成下載。

之后進入Cherry-Studio軟件中，設(shè)置模型服務(wù)為Ollama模型，選擇shaw模塊為剛才下載的shaw/dmeta-embedding-zh，并勾選上deepseek的32b模型。

接著便可以添加本地知識庫，輸入知識庫名稱，以及剛才下載的嵌入模型，便可以完成創(chuàng)建。

此時，便可以往我們的知識庫里添加文件，或者是網(wǎng)址、網(wǎng)站、筆記等內(nèi)容，構(gòu)建專屬于自己的知識庫。

緊接著，在Cherry-Studio軟件聊天助手里，勾選上知識庫，輸入問題，便會返回知識庫相關(guān)的信息，如我測試用的自己寫的選購文章，此時便會根據(jù)文檔內(nèi)容輸出，耗時19秒便可以完成深度思考與回答。在回答里，甚至會附上表格對比，能夠極大方便我進行對比分析。

如果錄入更多專業(yè)性文檔，能夠幫助我們極速查詢文檔、總結(jié)知識要點，快速獲取所需知識，將會大幅提升工作學習效率。

青椒云

使用青椒云進行代碼測試時，14b模型輸出算是流暢，總耗時也是在2分鐘內(nèi)。

生成的代碼，乍一看沒問題，但是試著運行了一下，卻發(fā)現(xiàn)了隱藏bug，當貪吃蛇邊緣觸碰到食物，居然意外結(jié)束了游戲，代碼還需要人工進行排查調(diào)整才能正常使用。

在青椒云上使用Cherry-Studio，與ToDesk云電腦配置方式一樣，這里就不贅述了，直接來看測試結(jié)果。導入知識庫后，深度思考回答效率非?？?，僅耗時17秒多，但是輸出的內(nèi)容，會相比ToDesk云電腦簡單不少，基本是對文檔內(nèi)容的復(fù)制。

無影云

使用無影云進行代碼測試時，14b模型會略顯卡頓，輸出是逐個字冒出，總過程耗時較久。

當html代碼生成后，發(fā)現(xiàn)到瀏覽器端并不能正常運行，陷入了死循環(huán)，游戲開始便會撞墻結(jié)束，無法正常運行。

在Cherry-Studio中進行本地知識庫查詢，14b模型8核時與16核時配置之下，配置之下，深度思考耗時較長，甚至有時總耗時約10分鐘才能完整輸出內(nèi)容。

切換到最頂配的60核時配置進行運行，速度有了較大提升，但是也需要數(shù)十秒的思考過程才能將知識庫的內(nèi)容進行分析總結(jié)，輸出內(nèi)容質(zhì)量介于青椒云和ToDesk云電腦之間。

小結(jié)：在本地化代碼輸出、知識庫內(nèi)容搭建方面，ToDesk云電腦憑借32b模型，有較大的優(yōu)勢，代碼可靠性高，能對知識庫內(nèi)容進行總結(jié)分析，內(nèi)容更具可讀性。青椒云14b模型，輸出速度快，但是代碼穩(wěn)定性差，存在隱藏bug，知識庫內(nèi)容輸出較為簡單。無影云14b模型，輸出速度最慢，代碼同樣缺乏可靠性，多次輸出仍無法正常運行，知識庫的內(nèi)容總結(jié)與青椒云接近。

總結(jié)

根據(jù)上文內(nèi)容，個人也列舉個表格進行總結(jié)。青椒云和無影云同樣支持最高14b模型，但是在體驗上卻完全不同。青椒云畫質(zhì)較差，在深度思考回答方面，速度反饋較快，與ToDesk云電腦接近。無影云畫質(zhì)高清，連接穩(wěn)定，但是在代碼輸出、知識庫總結(jié)方面，速度最慢，十分耗時。

ToDesk云電腦在相同算力下價格低26%，并在DeepSeek-R1-32B模型的加持之下，推理速度達18 token/s，各方面的表現(xiàn)均更為出色。且配置流程比競品快2.3倍 ，畫質(zhì)高清，延遲性低。32B模型也更具備深挖知識庫內(nèi)容的實力，能夠極大提升工作、學習效率。