惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

T
The Blog of Author Tim Ferriss
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
云风的 BLOG
云风的 BLOG
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
P
Palo Alto Networks Blog
D
Docker
H
Hackread – Cybersecurity News, Data Breaches, AI and More
S
Schneier on Security
Engineering at Meta
Engineering at Meta
I
InfoQ
L
LangChain Blog
Cyberwarzone
Cyberwarzone
T
Tenable Blog
WordPress大学
WordPress大学
P
Privacy & Cybersecurity Law Blog
罗磊的独立博客
Apple Machine Learning Research
Apple Machine Learning Research
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Jina AI
Jina AI
C
CERT Recently Published Vulnerability Notes
Scott Helme
Scott Helme
博客园 - 三生石上(FineUI控件)
酷 壳 – CoolShell
酷 壳 – CoolShell
Know Your Adversary
Know Your Adversary
D
Darknet – Hacking Tools, Hacker News & Cyber Security
The Last Watchdog
The Last Watchdog
Last Week in AI
Last Week in AI
Cloudbric
Cloudbric
S
SegmentFault 最新的问题
爱范儿
爱范儿
Application and Cybersecurity Blog
Application and Cybersecurity Blog
博客园 - 叶小钗
AI
AI
T
Tor Project blog
I
Intezer
T
Threatpost
www.infosecurity-magazine.com
www.infosecurity-magazine.com
V
Visual Studio Blog
N
News and Events Feed by Topic
Latest news
Latest news
S
Security Affairs
博客园 - Franky
Microsoft Security Blog
Microsoft Security Blog
C
Cyber Attacks, Cyber Crime and Cyber Security
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
B
Blog RSS Feed
C
Cybersecurity and Infrastructure Security Agency CISA
Hugging Face - Blog
Hugging Face - Blog
小众软件
小众软件
S
Securelist

博客园 - 一杯清酒邀明月

使用开源三件套(OpenClaw+Ollama+1Panel)部署个人AI助理 范进中举 Win11内核隔离无法启动,彻底删除AliPaladin64 Windows11 微软Microsoft官方制作系统U盘方法,系统安装详细教程 Windows11 微软Microsoft官方系统安装、重装教程 硬盘检测和维护常用软件,NAS用户必备 硬盘检测工具 Victoria 简单使用教程,Victoria 无响应?无法扫描? Window自带的“画图”软件查看图片某点的RGB值 Postman 安装使用教程---图文讲解 机器视觉开源代码集合 Windows11 Microsoft Edge浏览器,任务栏显示的是Edge(2),怎么去掉(2) Microsoft Edge浏览器收藏夹网页(书签)怎么默认新建标签页打开 电气设备故障诊断法“六诊、九法、三先后、六先后” Win10 Win11 蓝牙耳机连接笔记本电脑音量直接爆棚 预装Windows 11系统的新电脑怎么跳过联网验机?这两种方法可以搞定 Qt与C++标准的兼容之旅 Q QTreeWidget遍历,通过QTreeWidgetItemIterator Qt QTableWidget中设置单个单元格不可编辑和可以编辑 Qt CSS设置QTreeWidget拖动条宽度
DeepSeek本地部署,告别服务器崩溃的烦恼
一杯清酒邀明月 · 2025-02-14 · via 博客园 - 一杯清酒邀明月

一:安装 Ollama
  要在本地运行 DeepSeek,我们需要使用 Ollama——一个开源的本地大模型运行工具。
  首先,访问 Ollama官网 下载该工具。官网提供了针对不同操作系统的安装包,用户只需选择适合自己电脑的版本即可。在本例中,我们选择下载适用于 Windows 操作系统的版本。

 Ollama 安装包下载后双击install,安装速度还是比较快的**(注:直接安装到C盘)**

 安装完成 Ollama 后,打开电脑的 CMD(命令提示符)。只需在电脑下方的搜索框中输入“cmd”并按回车,即可打开命令提示符窗口。输入**【ollama help】**

二:下载部署 Deepseek 模型

返回 Ollama官网 ,在网页上方的搜索框中输入 “DeepSeek-R1”,这是我们要在本地部署的模型。

  点击 “DeepSeek-R1” 后,您将进入模型的详情页面,页面中会显示多个可选择的参数规模。每个参数规模代表了模型的不同大小和计算能力,从 1.5B 到 671B 不等。这里的 “B” 代表 “Billion”,即“十亿”,因此:
● 1.5B 表示该模型具有 15 亿个参数,适合轻量级任务或资源有限的设备使用。
● 671B 则代表该模型拥有 6710 亿个参数,模型规模和计算能力都极为强大,适合大规模数据处理和高精度任务,但对硬件要求也相应更高。

  选择不同的参数规模意味着你可以根据自己的硬件配置和应用需求,决定使用哪个版本的模型。较小的模型需要的计算资源较少,适合快速推理或硬件资源较弱的设备;而较大的模型则在处理复杂任务时具有更高的推理能力,但需要更多的内存和显存支持。

  按下Win + X组合键或搜索“设备管理器”,展开“显示适配器”类别,可以看到已安装的显卡型号。如果需要更详细的信息,可以右键点击显卡名称,选择“属性”查看详细信息;我的是【RTX 3050】稳妥点下载1.5B

  选择好模型规模后,复制右边的一个命令。【ollama run deepseek-r1:1.5b】

  复制命令后,回到命令提示符窗口,将刚刚复制的命令粘贴进去,并按回车键即可开始下载模型。【下载大概1小时左右,有点慢】

  模型下载完成后,您可以直接在命令提示符窗口中使用它,开始进行推理操作。

  以后如果我们需要再次使用 DeepSeek 模型,只需打开命令提示符窗口,直接输入之前复制的指令,按回车即可重新启动模型并进行推理操作。【ollama run deepseek-r1:1.5b】(1.5b有点不够智能,模型数量不够)

三:可视化图文交互界面 Chatbox
  虽然我们可以在本地使用 DeepSeek 模型,但其默认的命令行界面较为简陋,很多用户可能不太习惯。为了提供更直观的交互体验,我们可以使用 Chatbox 这个可视化的图文界面来与 DeepSeek 进行交互。
  只需访问 Chatbox 官网,在这里,你可以选择使用其本地客户端,或者直接通过网页版进行操作,享受更友好的使用体验。

  进入 Chatbox 网页版本后,点击“使用自己的 API Key 或本地模型”选项。这将允许你连接到自己本地的 DeepSeek 模型或通过 API Key 访问外部服务。

  这里需要注意的是,为了能够 Ollama 能远程链接,这里我们最好看一下 【如何将 Chatbox 连接到远程 Ollama 服务:逐步指南】的教程,根据这个教程操作一下。一般无需配置;
  如果你使用的是 window的PC应用【pc端下载过程不展示了下载就行】

  只需要配置相应的环境变量即可。配置好环境变量后,需要重启 Ollama 程序以使设置生效。

变量名:OLLAMA_HOST ——> 变量值:0.0.0.0
变量名:OLLAMA_ORIGINS ——> 变量值:*

  重启 Ollama 程序后,返回到 Chatbox 设置界面,关闭当前的设置窗口,然后重新打开它。在重新打开后,你就能在界面中选择已经部署好的 DeepSeek 模型了。选择模型后,点击保存即可开始使用。

  接下来,只需在 Chatbox 中新建对话即可开始使用 DeepSeek 模型。以下图为例,您可以看到上方是模型的思考过程,下方则是模型给出的答案。

总结
  通过本文提供的三步教程——安装Ollama工具、下载DeepSeek模型、配置可视化的Chatbox界面,用户可以轻松实现本地部署。尤其是Chatbox的图文交互界面,不仅让操作变得更加直观和友好,也使得模型的使用变得更加高效。
  无论是普通用户,还是开发者,采用本地部署的方式都能避免服务器崩溃带来的麻烦,并且可以根据自己的硬件条件选择合适的模型版本,灵活应对不同的任务需求。
  总的来说,本地部署不仅是解决DeepSeek响应慢和系统宕机问题的有效方法,还为用户提供了更加稳定、便捷的使用体验。如果你也在使用DeepSeek,或者正在考虑部署类似的模型,按照这篇指南进行操作,将会大大提升你的工作效率,告别频繁的宕机和不稳定的服务,带来更顺畅的体验。