惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Visual Studio Blog
Y
Y Combinator Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Hugging Face - Blog
Hugging Face - Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
The Cloudflare Blog
L
LangChain Blog
美团技术团队
N
Netflix TechBlog - Medium
量子位
酷 壳 – CoolShell
酷 壳 – CoolShell
B
Blog
博客园 - 司徒正美
爱范儿
爱范儿
D
DataBreaches.Net
月光博客
月光博客
U
Unit 42
B
Blog RSS Feed
Engineering at Meta
Engineering at Meta
Apple Machine Learning Research
Apple Machine Learning Research
Jina AI
Jina AI
MongoDB | Blog
MongoDB | Blog
腾讯CDC

音视频开发进阶

音视频教程-第三节 音视频教程-第二节 真的,AI 可能就是新时代的信息差 充值 Cursor 之后,工作有了哪些变化?🤔 个人'蒸馏'大模型能做哪些有意思的事情 音视频教程-第一节 【WebRTC 专栏】-- Android 开发集成 WebRTC 库的几种方式 【WebRTC 专栏】-- 在 Mac M1 等系列芯片编译和开发 WebRTC-Android 库 Meta Llama3 大模型在 Mac 上的部署和运行 iOS VideoToolBox 解码 HEVC Open-GOP 视频的问题排查 Flutter 状态管理之 InheritedWidget 使用和分析 用 ChatGPT 回答技术问题怎么样 ? 音视频开发系统入门大致路线 UE 4.27 添加自定义 ShadingModel 用 UE4 虚幻引擎做个捏脸小功能~~ UE4 材质练习 之 凹凸贴图偏移的使用 UE4 材质练习系列基础 OpenGL上下文创建以及共享机制 007 | 播放器系列专栏-解析 MP4 文件读取信息 006 | 播放器系列专栏-在 Mac 上查看 MP4 格式信息 干货 | 快速抽取缩略图是怎么练成的? 关于直播、WebRTC、FFmpeg 的那些事 005 | 播放器系列专栏-在 Windows 上查看 MP4 格式信息 将音视频中的花屏、绿屏、黑屏问题一网打尽 关于音视频里面的解码帧率和渲染帧率 004 | 播放器系列专栏-认识MP4视频(下) 003 | 播放器系列专栏-认识MP4视频(上) 入门或者转行音视频,应该要怎么做? H264视频文件如何缩放分辨率 002 | 播放器系列专栏-FFmpeg依赖库的配置
DeepSeek 大模型在 Mac 上的部署和运行
音视频开发进阶 · 2025-02-06 · via 音视频开发进阶

一个专注音视频领域的小圈子

不会还有人没用过 DeepSeek 吧 ?这热度简直炸上天。 之前一直用 Cursor、豆包,现在 AI 雇员又要多一个 DeepSeek 了。

不过 DeepSeek 的服务状态经常无响应,有必要在本地部署一个,之前也尝试在本地部署过 Meta 的开源大模型 Llama3 ,这次部署也是轻车熟路了。

参考文章:Meta Llama3 大模型在 Mac 上的部署和运行

DeepSeek 目前有 1.5b、7b、8b、14b、32b、70b、671b 多种参数类型可供选择。

要是机器性能扛不住,就选个 1.5b 吧,像我 64G 的 Mac Studio ,选个 32b 的也还可以。

首先启动 Ollama ,然后在命令行运行如下命令:

<!-- 按需替换 32b 参数 -->
ollama run deepseek-r1:32b

整个模型下载下来大概要占 20G 左右空间,然后就可以在命令行中进行对话了。

可视化操作

除了命令行中对话,还有不少开源工具提供了可视化操作,举两个用过的例子:

  1. open-webui

  2. page-assist

我正在使用 page-assist ,可以作为 Chrome 浏览器的插件来直接启动,简单快捷。

运行效果也是非常不错的,选择好对应的模型,就可以直接在网页中对话了。

32b 内存压力测试

提示词是 “写一段代码输出 a+b 的和” ,运行前内存是 23G 左右,运行后直接飙到 42G 左右,内存增量差不多干了 20G ,这要是机器性能不够还真跑不起来大模型。

如果你的机子只有32G 或者更低,我建议是跑 14b 或者更低的吧,当然更好的选择 还是直接用在线服务,不用占用本地的机器资源了

原创文章,转载请注明来源:    DeepSeek 大模型在 Mac 上的部署和运行