惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

G
Google Developers Blog
博客园 - 司徒正美
Last Week in AI
Last Week in AI
Recent Announcements
Recent Announcements
Y
Y Combinator Blog
博客园 - 聂微东
M
MIT News - Artificial intelligence
博客园_首页
Jina AI
Jina AI
博客园 - 叶小钗
酷 壳 – CoolShell
酷 壳 – CoolShell
H
Hackread – Cybersecurity News, Data Breaches, AI and More
J
Java Code Geeks
F
Fortinet All Blogs
aimingoo的专栏
aimingoo的专栏
小众软件
小众软件
Vercel News
Vercel News
The Cloudflare Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
云风的 BLOG
云风的 BLOG
N
Netflix TechBlog - Medium
B
Blog
Google DeepMind News
Google DeepMind News
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More

博客园 - 会长

一个用来将数字转换为英文的MySql函数 Snowflake算法生成Id 用C语言实现ElGamal算法 如何用C#代码验证XML文件是否符合DTD规范 如何调试WebBrowser控件中的JS代码 解决Devexpress的RichEditControl控件保存为docx文件后在word里打开字体显示不正确的问题 《水浒传》中的物价 诗词记录 对开发流程优化的建议 如何在HP ProLiant-DL580 Gen9 上安装ESXi NumPy基础 闪存客户端 北京某软件园小公园 MySQL优化技巧 大叔学ML第五:逻辑回归 大叔学ML第四:线性回归正则化 大叔学ML第三:多项式回归 大叔学ML第二:线性回归 大叔学ML第一:梯度下降
本地部署DeepSeek并用Python调用
会长 · 2025-02-05 · via 博客园 - 会长

需要下载的软件

  1. OllamaSetup.exe(Ollama是一个管理和运行大语言模型的开源工具)
  2. Hollama_0.25.1-win-x64.exe【可选】(Hollama是一个Ollama的可视化工具)
  3. python-3.13.1-amd64.exe
  4. VSCodeUserSetup-x64-1.96.4.exe【可选】

安装步骤

安装Ollama并运行模型DeepSeek

从官网下载相应的版本,这里使用的是Windows版本,双击执行安装文件默认会安装到C盘,可通过如下方式指定安装路径:
OllamaSetup.exe /DIR=your path

安装完毕后运行Ollama.exe即可,可通过命令ollama help查看参数。其中,应先了解以下参数:

  • serve,用来启动ollama(windows上通过安装包安装的Ollama会开机自动启动,启动后可以在浏览器中查看,地址为: http://127.0.0.1:11434/
  • run 运行一个模型(初次运行,会自动下载模型)
  • list 列出所有模型
  • cp 列出正在运行的模型
  • rm 删除模型
  • help 帮助

安装完毕并启动Ollama后,可通过执行以下命令下载并运行DeepSeek:
ollama run deepseek-r1:1.5b
更多模型请见 https://ollama.com/search , 我电脑配置低,故选的是1.5b。

如果一切正常,DeepSeek运行起来后是这样的:
image

这时候可以发一些文字并得到反馈了:
image

可输入/?看到帮助信息

安装Hollama

Hollama也是一个开源软件,它和ollama的关系类似于Navicat和Mysql,有了它,就不用在黑糊糊的CMD下面和模型交互了,类似的软件有还有很多,请参见:https://github.com/ollama/ollama

运行起来的效果如下:
image

试用python调用

这里列出了可以调用Ollama服务的很多类库: https://github.com/ollama/ollama 。 暂使用Python测试:

先安装模块:

pip install ollama

用VS Code编写代码如下:

import ollama

if  __name__ == '__main__':
    res = ollama.chat(model='deepseek-r1:1.5b', stream=False, messages=[{'role': 'user', 'content':'how are you'}])
    print(res)

执行结果:
image