Copyright 2017-2025 新車測評網(wǎng) 版權(quán)所有 ICP備18049689號-30
本地部署的原因
選擇本地部署AI大模型DeeSeek主要有以下幾點(diǎn)原因:
數(shù)據(jù)隱私與合規(guī)性保障: 本地部署允許控制數(shù)據(jù)的收集、存儲和使用,確保符合相關(guān)法律法規(guī),保護(hù)用戶和企業(yè)的隱私信息不被泄露或?yàn)E用。
高效資源管理: 避免了云服務(wù)帶來的計(jì)算資源分配不均和延遲問題,可以根據(jù)實(shí)際需求靈活調(diào)整資源,提高處理效率。
成本控制: 自有服務(wù)器的資源使用更為靈活,降低了運(yùn)營成本,避免了因云服務(wù)產(chǎn)生的額外費(fèi)用,如帶寬、存儲和計(jì)算資源的高支出。
快速響應(yīng)與創(chuàng)新: 本地部署能夠更快地進(jìn)行模型優(yōu)化和迭代,適應(yīng)市場需求的變化,促進(jìn)技術(shù)進(jìn)步和服務(wù)質(zhì)量的提升。
綜上所述,本地部署AI大模型DeeSeek是經(jīng)過權(quán)衡后的一個明智選擇,能夠在數(shù)據(jù)安全、資源管理、成本控制等方面為未來發(fā)展奠定良好基礎(chǔ)。
開始部署
注:部署耗時(shí)約30分鐘。
分為3步:
下載并安裝ollama
下載開源大模型deepseek
下載并安裝開源webUI
下載并安裝ollama
下載地址:https://ollama.com/
安裝ollama
安裝好后啟動ollama,系統(tǒng)右下角會出現(xiàn)ollama圖標(biāo):
下載deepseek模型
我們找到阿里的deepseek大模型,選擇7b的:
復(fù)制上面這段代碼
ollama run deepseek-r1
在電腦上,按:窗口鍵+R,打開運(yùn)行窗口,如下圖:
輸入:cmd后按回車鍵,打開命令提示符窗口,如下圖所示:
將下面的代碼塊,復(fù)制粘貼到,命令提示符窗口中,按回車
ollama run deepseek-r1
等待幾秒鐘后,顯示如下內(nèi)容,即安裝成功了。