跳转到主要内容

deepseek

主要软件

  • ollama:模型运行平台
  • openweb UI:简单的chat页面
  • dify :模型编排平台
  • docker
  • python

安装模型运行平台ollama

模型运行平台下载:https://ollama.com/download

模型备份

每次下载模型都需要很久,可以将模型备份出来

进入到用户文件夹下面,例如 C:\Users\admin.ollama\models , 将模型复制出来,复制到新的机器(未验证)

下载和运行模型


# 显示所有命令行参数
ollama

# 所有的命令行

serve       Start ollama
create      Create a model from a Modelfile
show        Show information for a model
run         Run a model
stop        Stop a running model
pull        Pull a model from a registry
push        Push a model to a registry
list        List models
ps          List running models
cp          Copy a model
rm          Remove a model
help        Help about any command


# 验证安装
ollama -v


# 下载模型
ollama pull deepseek-r1:1.5b

# 运行模型,如果本地没有这个模型则下载并运行
# 运行后,此时会出现一个对话窗口,可以进行输入并对话,
# 键入/bye 或者ctrl+d可以退出对话窗口,模型在后台运行
# 退出对话框后,如果需要再次进入对话框,可以在此run模型
ollama run deepseek-r1:1.5b

# 显示已经安装的模型列表
ollama list

# 显示所有在运行的模型列表
ollama ps

# 显示模型信息
ollama show deepseek-r1:1.5b