惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

MyScale Blog
MyScale Blog
博客园 - 司徒正美
A
About on SuperTechFans
Vercel News
Vercel News
H
Hackread – Cybersecurity News, Data Breaches, AI and More
爱范儿
爱范儿
I
InfoQ
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
博客园_首页
Google DeepMind News
Google DeepMind News
T
Tailwind CSS Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
F
Fortinet All Blogs
S
SegmentFault 最新的问题
阮一峰的网络日志
阮一峰的网络日志
D
Docker
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
G
Google Developers Blog
Stack Overflow Blog
Stack Overflow Blog
M
MIT News - Artificial intelligence
Jina AI
Jina AI
H
Help Net Security
量子位
IT之家
IT之家

第七星尘的独立博客

第七星尘的独立博客 | 我的又一个C端工具,幕映电视投屏工具 保护每一次 AI 调用的隐私安全 — 面向企业和个人的大模型安全接入网关 第七星尘的独立博客 | 一个简单易上手的图标设计工具,代码已开源 第七星尘的独立博客 | 免费开源,高颜值的监控工具 第七星尘的独立博客 | 高颜值的高效开发工具集,免费开源了! 第七星尘的独立博客 | MySQL数据库的自动复制脚本 第七星尘的独立博客 | 自建docker hub加速镜像 第七星尘的独立博客 | AI智能箱,一个利用AI来提升效率的在线工具箱 第七星尘的独立博客 | linux利用cron定时服务来实现开机启动某些应用 第七星尘的独立博客 | 前端框架ElementUI使用sass离线生成自定义主题 第七星尘的独立博客 | 高并发/高io下,设置linux下文件打开数限制
第七星尘的独立博客 | 如何在企业内网部署 DeepSeek:离线安...
2025-02-12 · via 第七星尘的独立博客

前言

本文将详细介绍如何将 DeepSeek 部署到企业内网,由于许多企业内网无法直接访问互联网,这里将说明离线部署的方式。这种方式的核心思路是先在可以互联网的电脑上安装好 DeepSeek,然后将其迁移到企业的内网环境。

什么是 DeepSeek?

DeepSeek 是一个强大的深度学习模型,能够处理各种数据分析和处理任务。其灵活架构和强大的性能,使其在许多行业中备受。不过,要在企业内网中使用 DeepSeek,我们需要一些特殊的设置。(防盗标识:本文发布于 blog.star7th.com )

第一步:在公网电脑上安装 Ollama

首先,你需要在可以访问互联网的电脑上安装 Ollama,这是 DeepSeek 运行所需的环境。你可以通过访问 Ollama 官方网站 下载适合你系统的安装包。

下载 Ollama

选择对应的平台版本进行下载安装。安装完成,你可以通过命令行使用 Ollama。

第二步: DeepSeek 模型

一旦你成功安装了 Ollama,就可以开始下载 DeepSeek 模型。以下载版本为 deepseek-r1 的 32b 模型为例,执行以下命令:

ollama pull deepseek-r1:32b

下载模型可能需要一些时间,请耐心等待。

第三步:定位模型文件

模型下载完成后,你需要找到 Ollama 的模型存放目录。不同平台的默认存放路径如下:


- mac: `~/.ollama/models`
- Linux: `/usr/share/ollama/.ollama/models`
- Windows: `C:\Users\<username>\.ollama\models`

进入相的模型目录,并导航到 blobs 子目录。查看当前目录文件大小,并识别与你下载的模型大小匹配的目标文件。例如, deepseek-r1 的 32b 模型文件大约为 19G。找到该文件,例如: sha-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 。将该文件复制并重命为 deepseek-r1-32b.gguf 。

第四步:将模型上传到企业内网

通过 SFTP 等方式将 seek-r1-32b.gguf 文件上传到企业内网的 Linux 服务器。

第五步:下载 Ollama 离线包

如果你的企业内网服务器是 64 位 Linux 系统,你需要下载 Ollama 的离线包访问 Ollama 下载页面 进行下载(请注意,该链接可能会随时间变更,如失效请到官网寻找)。

将下载的 ollama-linux-amd64.tgz 文件上传到你的企业内网服务器。

第六步:在企业内网服务器上安装 Ollama

在企业内网的 Linux服务器文件上传目录下,执行以下命令以解压并 Ollama:

sudo tar -C /usr -xzf ollama-linux-amd64.tgz

第七步配置 Ollama 服务

下一步是配置服务文件。使用以下命令并编辑服务文件:

vi /etc/systemd/system/ollama.service

将以下内容粘贴到文件中:

[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=root
=root
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST0.0.0.0"
Environment="OLLAMA_KEEP_ALIVE=-1"

[Install]
WantedBy=default.target

保存并退出编辑器。

第八步:启动 Ollama 服务

在终端中执行以下命令以使服务生效并启动:

sudo systemctl-reload
sudo systemctl enable ollama
sudo systemctl start ollama

此时,Ollama 应该已经成功安装并运行。

第九步:加载 DeepSeek 模型

接下来你需要加载刚才上传的 DeepSeek 模型。在模型所在的目录中创建一个名为 Modelfile 的新文件:

vi Modelfile

在文件中粘贴以下内容:

FROM ./deepseek-r1-32b.gguf

保存文件并退出。

第十步:创建Seek 模型

执行以下命令创建 DeepSeek 模型:

ollama create deepseek-r1:32 -f Modelfile

第十一步:运行模型

最后,你可以运行 DeepSeek 模型以下命令验证其是否正常工作:

ollama run deepseek-r1:32b

至此,你已成功将 DeepSeek 部署到企业内网环境中。