一、 AI大模型+Docker+NAS
AI技術其實在很多年前就已經(jīng)有了,但一直沒有找到好的應用場景,所以一直不瘟不火,近些年隨著ChatGPT的一夜爆火,各種AI大模型就如雨后春筍般涌現(xiàn),讓人目不暇接。文字、圖片、視頻、音頻一切都可以通過AI來進行創(chuàng)作,未來誰掌握了AI誰就能遙遙領先!
NAS(網(wǎng)絡附加存儲)作為集中存儲的優(yōu)質(zhì)解決方案,以強大的數(shù)據(jù)存儲與安全備份能力深受廣大消費者喜愛,隨著技術的不斷發(fā)展,NAS配置越來越強、性能越來越好,已經(jīng)慢慢成為家庭或企業(yè)不可或缺的數(shù)據(jù)中心,辦公、娛樂輕松拿捏。Docker作為一個開源容器引擎,可以屏蔽復雜的軟件安裝過程,只要有鏡像就可以幾秒鐘內(nèi)完成復雜應用的安裝。作為劃時代的部署技術,目前主流NAS都支持Docker進行應用部署,成千上萬的各種鏡像大大增加了NAS的可玩性。今天就讓我們一起使用Docker不花一分錢在NAS上部署自己的AI大模型!
二、 綠聯(lián)DXP4800系列
綠聯(lián)作為全球科技消費電子領域的知名品牌,其產(chǎn)品從最初的電腦周邊慢慢擴展到充電、音頻、存儲等領域,旗下產(chǎn)品以創(chuàng)新設計、高品質(zhì)、簡單易用、性價比而著稱,今年綠聯(lián)發(fā)布了全新的DXP4800系列,硬件方面搭載性能強勁的Intel處理器與DDR5超高頻內(nèi)存,容量最高支持96TB,除4盤位普通硬盤外還支持雙NVMe M.2高速固態(tài)硬盤,接口方面常見的HDMI、USB3.2、Type-C、雙有線網(wǎng)口通通標配。
軟件方面更是搭載了自研的新一代UGOS Pro系統(tǒng),雖然在系統(tǒng)初期存在不少問題,但隨著綠聯(lián)的不斷努力,很多初期的問題都得到了一一解決,在廣大用戶與綠聯(lián)一起共建下,UGOS Pro會越來越完善。
DXP4800系列總共有兩款產(chǎn)品,一款是DXP4800、一款是DXP4800 Plus,DXP4800采用4核4線程,睿頻3.4GHz的Intel N100處理器,搭載8G DDR5單通道內(nèi)存,最高支持16GB內(nèi)存,擁有兩個2.5GbE有線網(wǎng)絡接口。DXP4800 Plus則配備了性能更強勁的5核6線程,睿頻4.4GHz的Intel 8505處理器,搭載8G DDR5內(nèi)存,最高容量支持64G,并且支持雙通道。另外,有線網(wǎng)絡接口一個為2.5GbE,一個為10GbE,散熱方面增加了CPU散熱風扇,價格方面比DXP4800貴700元。如果預算有限追求性價比可以選擇DXP4800,追求更好的性能就選擇DXP4800 Plus。
三、 綠聯(lián)DXP4800 Plus使用體驗
因為我比較喜歡折騰,所以選擇了性能更強的DXP4800 Plus。DXP4800 Plus采用長方形外觀設計,做工非常扎實的黑灰色航空鋁加厚機身安全感滿滿,外殼表面進行了磨砂處理,金屬質(zhì)感直接拉滿,論顏值綠聯(lián)DXP4800 Plus確實比老牌NAS要好看不少。
NAS正面四個硬盤位依次排開,上面還有01、02、03、04的數(shù)字標注,每個硬盤倉底部還配置了兒童鎖,鎖上后硬盤倉就不能被拉出。硬盤倉下面從左到右依次為電源按鍵、網(wǎng)絡指示燈、4個硬盤指示燈、SD卡槽、USB Type-C Gen2接口、USB-A 3.2 Gen2接口。綠聯(lián)的布局設計非常合理,常用的接口都在前面,使用更加方便快捷,SD卡槽的加入讓我們從單反相機拷貝相片、視頻更加簡單。
背面一如既往的配備了磁吸防塵網(wǎng)罩,拿下防塵網(wǎng)罩即可看到風扇出風孔,綠聯(lián)DXP4800 Plus采用空氣動力學散熱設計,14cm大尺寸風扇可以快速帶走熱量,時刻保持硬盤全速穩(wěn)定運行。底部為接口區(qū)域,從左到右依次為HDMI接口、USB3.2 Gen1接口、兩個USB2.0接口、2.5GbE有線網(wǎng)口、10GbE有線網(wǎng)口、復位按鍵、電源接口,接口配置十分豐富。
將NAS底部面板的螺絲擰下來,拿下面板即可看到兩個M.2插槽和兩條DDR5內(nèi)存條插槽,剛好我手頭有來自金百達的兩根16GB DDR5-5600內(nèi)存和一塊來自希捷的酷魚530固態(tài)硬盤,趕緊給綠聯(lián)DXP4800 Plus安裝上,這樣32GB高速DDR5內(nèi)存搭配2TB高速固態(tài)硬盤,加上性能強勁的Intel 8505處理器,性能完全是桌面級了,無論是存儲數(shù)據(jù)還是影音娛樂它都能輕松應對,運行AI本地大模型更加輕松。
綠聯(lián)DXP4800 Plus安裝配置是一如既往的簡單,只需幾步就可以輕松完成初始化。自研的UGOS Pro系統(tǒng)界面十分清新,左上角為快捷菜單,可以快速打開APP并且支持快速搜索,右上角為CPU、內(nèi)存、網(wǎng)絡使用情況監(jiān)控、任務中心、通知、搜索、賬號管理,桌面左側(cè)為已安裝軟件列表,界面跟我們常用的Windows類似,即使是新手也能輕松駕馭。
NAS支持Web、PC、手機、電視等多種訪問方式,可以非常方便的進行數(shù)據(jù)集中存儲以及讀取,同時還提供了專業(yè)的客戶端管理軟件,綠聯(lián)云APP功能非常全面,只需一個APP就可以搞定所有需求。
除了本地訪問以外,綠聯(lián)DXP4800 Plus還支持通過UGREENlink服務來實現(xiàn)外網(wǎng)直接訪問,不需要給NAS配置公網(wǎng)IP更加省事省心,無論你在何地只要能登陸就可以訪問NAS的資源,簡直是出差人的福音,身在外地也可以隨時欣賞NAS中存儲的寶寶照片了。
在權限方面綠聯(lián)DXP4800 Plus提供了個性化權限管理,可以通過角色與用戶組來進行靈活的用戶授權,而且支持細粒度的讀寫權限控制,對于共享的文件夾還可以設置使用限額,避免空間被隨意占用。
新增用戶還新增了邀請注冊方式,通過分享鏈接或二維碼圖片邀請家人進行注冊,家人填寫資料后經(jīng)過管理員審批即可成功注冊新用戶。
存儲方面綠聯(lián)DXP4800 Plus支持多種RAID模式,比如靈活適配的JBOD、利用率高的Basic、多盤加速RAID0、安全穩(wěn)定的RAID1、性能均衡的RAID5、安全性高的RAID6以及性能安全兼?zhèn)涞腞AID10,大家可以按需進行選擇,由于我只使用了兩塊硬盤所以我選擇了安全穩(wěn)定的RAID1模式。
數(shù)據(jù)安全方面綠聯(lián)也考慮得十分周到,除了使用自研的加密技術以外,還內(nèi)置安全管家可以實現(xiàn)實時防護、定時查殺等功能,安全管家就像一個稱職的保鏢,24小時保護NAS的安全。為此NAS也通過了美國TRUSTe、南德ETSI EN 303 645認證,并且通過了網(wǎng)絡安全等級保護二級測評、360軟件安全漏洞測試,大家可以放心使用。
通過NAS內(nèi)置的應用中心我們可以下載各種軟件,輕松搞定NAS管理、同步備份、AI相冊、影音娛樂、下載等功能,另外NAS還支持虛擬機與Docker技術,大大增加了可玩性。據(jù)可靠消息后續(xù)綠聯(lián)還會支持第三方應用,進一步豐富應用生態(tài)。
四、 AI大模型Docker部署
UGOS Pro系統(tǒng)現(xiàn)在支持Docker項目Compose,通過利用別人現(xiàn)成的或自己編寫的yaml文件,可以快速創(chuàng)建多個相關聯(lián)的容器項目,相比以前一個接一個的創(chuàng)建容器、配置容器,部署效率大幅提升。
接下來我們使用Docker進行本地AI大模型部署,首先我們先下載部署工具ollama、openwebui的Docker鏡像。
下載完成后進行容器啟動配置,選擇鏡像-》本地鏡像-》ollama鏡像,點擊+號創(chuàng)建容器。
其它參數(shù)都不變,只需把網(wǎng)絡模式改成Host模式,讓容器使用NAS的網(wǎng)絡。
容器啟動后我們可以查看容器的資源消耗以及日志情況,如果沒有報錯則新建一個終端。
進入終端,輸入ollama run qwen2:0.5b安裝千問大模型。
安裝完畢后可以直接與千問大模型進行文字對話,由于綠聯(lián)DXP4800 Plus性能強勁,千問大模型問答相當流暢,沒有出現(xiàn)任何卡頓或延遲現(xiàn)象。
接著我們試試更復雜的llama3.1大模型,先運行ollama run llama3.1:8b命令進行安裝。
安裝完畢后,讓AI給我寫篇游記大綱也是手到擒來,llama3.1:8b模型比qwen2:0.5b運行要稍微慢一點,但完全能接受。
大家肯定不喜歡一直用命令行來與AI大模型進行交流,這個時候我們就再啟動一個openwebui容器,步驟與ollama類似,在配置里面將網(wǎng)絡改為host,另外還需要配置一個ollama的訪問地址,IP就是NAS的IP,端口是固定的。
容器啟動后我們可以通過NAS IP加8080端口進行訪問,打開界面我們可以發(fā)現(xiàn)它與ChatGPT的頁面非常像,在左上角我們可以選擇前面安裝的兩個AI大模型,選擇大模型后在底部輸入框輸入問題即可愉快的與AI進行文字交流了。
綠聯(lián)DXP4800 Plus得益于Intel 8505處理器+DDR5高頻內(nèi)存的強大硬件配置,除了可以自己部署AI大模型外,綠聯(lián)還內(nèi)置了不少基于本地化算力的AI模型,通過這些AI模型可以輕松實現(xiàn)AI智能搜索、圖片主體識別、重復照片識別、隱私保護、人臉識別等功能,讓相冊管理更加輕松快捷。
另外,NAS還支持先進的本地AI自學習識圖模型訓練,我們可以選擇一堆圖片進行訓練,同時還可以將訓練好的模型保存下來,這一切都在NAS本地進行,不需要將圖片發(fā)往服務器,有效避免隱私泄露。
娛樂方面,UGOS Pro系統(tǒng)集下載、整理、播放、分享全鏈路于一體,支持常見的下載協(xié)議,比如:HTTP、FTP、BT、PT、百度網(wǎng)盤、微軟OneDrive網(wǎng)盤等等。整理方面影視中心內(nèi)置智能算法,可以自動準確的匹配NAS中存儲的各種影視信息,打造只屬于自己的專屬精美影視海報墻,個人感覺綠聯(lián)的影視中心比第三方的APP更好用。播放方面支持HDR、藍光、4K、杜比視界,通過電視機連接NAS就可以輕松享受影院級視聽體驗。分享方面,支持HDMI、DLNA投屏、綠聯(lián)TV APP、網(wǎng)絡掛載訪問,另外還支持權限控制,比如:小朋友就只能看適合他們的影片,后續(xù)還會上線家長控制模式,可以有效約束孩子的使用行為。
五、 總結(jié)
綠聯(lián)DXP4800 Plus顏值在線、硬件配置強勁、接口豐富,不但可以滿足家庭的數(shù)據(jù)安全存儲需求還能為家人帶去不一樣的娛樂體驗,基于AI智能學習的相冊、簡單易用的影視中心都非常不錯。支持虛擬機與Docker大幅提升了NAS的可玩性,綠聯(lián)DXP4800 Plus既是家庭數(shù)據(jù)中心又是家庭娛樂中心,裝上AI大模型后立馬化身為生產(chǎn)力神器。UGOS Pro系統(tǒng)簡單易用、安全可靠,每一次更新都有驚喜,未來可期!