ollama官網(wǎng) https:/// 直接點擊下載,會根據(jù)你的系統(tǒng)自動下載相應的版本。  下載完之后,直接點擊安裝,默認安裝到c盤。 安裝完之后就可以在命令窗口測試一下。  ollama的常用命令如下:
ollama serve 啟動ollama
ollama create 從模型文件創(chuàng)建模型
ollama show 顯示模型信息
ollama run 運行模型
ollama pull 從注冊表中拉取模型
ollama push 將模型推送到注冊表
ollama list 列出模型
ollama cp 復制模型
ollama rm 刪除模型
ollama help 獲取有關任何命令的幫助信息
安裝模型默認都是安裝在c盤的,如果c盤空間不足可以指定安裝模型位置。 在系統(tǒng)變量中添加一個名為:OLLAMA_MODELS的變量名,路徑選擇一個合適的位置。  設置好路徑之后,一定要重新啟動重啟,才能生效。 接下來就是拉去大模型,打開官網(wǎng)可以看到從ollama可以直接拉去的大模型:  比如說我選擇llama3,點進去之后,也可以選擇版本:  然后拉去這個大模型的話,直接復制右邊的命令:ollama run llama3。 在命令窗口執(zhí)行就好了。如下,我安裝得不是llama3。  這樣就安裝完成了。運行:  查看本地已經(jīng)安裝的模型:  一定要注意,自己的電腦配置是否適合模型的大小。 注意:您應該至少有 8 GB 可用 RAM 來運行 7B 型號,16 GB 來運行 13B 型號,32 GB 來運行 33B 型號。 模型的大小如下:  還可以安裝一些web和桌面程序來交互大模型,比如:  github鏈接:ollama 比如說:Open WebUI 
|