惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

The Last Watchdog
The Last Watchdog
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
S
Secure Thoughts
MongoDB | Blog
MongoDB | Blog
博客园 - Franky
T
Tor Project blog
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Google DeepMind News
Google DeepMind News
L
LINUX DO - 最新话题
博客园_首页
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Vercel News
Vercel News
Last Week in AI
Last Week in AI
月光博客
月光博客
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
P
Proofpoint News Feed
博客园 - 叶小钗
NISL@THU
NISL@THU
C
Check Point Blog
K
Kaspersky official blog
N
News and Events Feed by Topic
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
A
Arctic Wolf
T
Threatpost
GbyAI
GbyAI
L
LINUX DO - 热门话题
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
P
Privacy & Cybersecurity Law Blog
N
News and Events Feed by Topic
Scott Helme
Scott Helme
P
Privacy International News Feed
The Register - Security
The Register - Security
G
GRAHAM CLULEY
Recorded Future
Recorded Future
Apple Machine Learning Research
Apple Machine Learning Research
C
Cybersecurity and Infrastructure Security Agency CISA
B
Blog
Project Zero
Project Zero
Cyberwarzone
Cyberwarzone
Webroot Blog
Webroot Blog
Microsoft Security Blog
Microsoft Security Blog
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
D
DataBreaches.Net
J
Java Code Geeks
AWS News Blog
AWS News Blog
Help Net Security
Help Net Security
Engineering at Meta
Engineering at Meta
M
MIT News - Artificial intelligence
T
Threat Research - Cisco Blogs
Google DeepMind News
Google DeepMind News

博客园 - 黄明基

解剖一个桌面级 AI Copilot 的架构:Stargazer AI Copilot(.NET 10 + Avalonia)是怎么“分层”的 StargazerLab Copilot使用说明 🚀 用 .NET + Avalonia 打造你的专属 AI Copilot 桌面端 分布式应用框架Microsoft Orleans - 7、基于 Microsoft Orleans 构建模块化微服务:用户、消息与存储三大核心模块解析 Semantic Kernel人工智能开发 - 第六章:Semantic Kernel的安全与过滤器机制——构建可信赖的AI应用防护体系 Semantic Kernel人工智能开发 - 第五章:提示词工程与模板优化——释放大语言模型真正潜力 Semantic Kernel人工智能开发 - 第四章:Semantic Kernel内存管理系统——为AI注入持久记忆与上下文感知能力 Semantic Kernel人工智能开发 - 第三章:Semantic Kernel插件系统详解——扩展AI能力的核心引擎 Semantic Kernel人工智能开发 - 第二章:环境搭建与第一个AI应用——从零开始构建智能对话系统 Semantic Kernel人工智能开发 - 第一章:Semantic Kernel框架概览——开启智能应用开发之门 结合.NET Aspire与Spring Boot:构建可观测的云原生Java应用 分布式应用框架Microsoft Orleans - 6、构建高可用Orleans应用:集群配置与容灾机制详解 分布式应用框架Microsoft Orleans - 5、掌握Orleans高级特性:计时器、提醒与流处理详解 分布式应用框架Microsoft Orleans - 4、掌握Microsoft Orleans状态管理:从持久化配置到事务处理 分布式应用框架Microsoft Orleans - 3、深入解析Orleans核心要素:Grain与Silo的工作原理 分布式应用框架Microsoft Orleans - 2、动手实践:构建你的第一个Microsoft Orleans应用程序 分布式应用框架Microsoft Orleans - 1、Microsoft Orleans简介 AI真的太好用啦!Aspire Dashboard集成GitHub Copilot。 设计模式学习:状态模式实现订单状态流转 设计模式学习:在支付系统中的实战应用 跨平台桌面应用开发:解锁 Electron 与 shadcn/ui 的潜力 构建你的.NET Aspire解决方案
智能助手客户端
黄明基 · 2025-04-24 · via 博客园 - 黄明基

智能助手是一个使用React和TypeScript开发的Electron应用程序,通过对接Ollama、LM Studio、DeepSeek和阿里云实现的人工智能。

一、安装

下载地址:https://pan.baidu.com/s/1_AX3UWTX6LOWj5QtXTRiKw?pwd=t973

二、配置

1、Ollama配置

Ollama是一个开源跨平台大模型工具。他可以让用户在本地部署私有的大语言模型。
下载地址:https://ollama.com/
github地址:https://github.com/ollama/ollama

1.1、 快速入门

选取需要的大模型执行命令即可

ollama run DeepSeek-R1

如只需拉取模型

ollama pull DeepSeek-R1

1.2 配置智能助手

安装并打开智能助手,点击左下角的设置功能

选择已拉取的模型,保存设置即可

2、DeepSeek配置

DeepSeek平台地址:https://platform.deepseek.com/usage
DeepSeek文档:https://api-docs.deepseek.com/zh-cn/
模型&价格:https://api-docs.deepseek.com/zh-cn/quick_start/pricing

2.1 申请API Key

申请地址:https://platform.deepseek.com/api_keys

2.2 配置智能助手

安装并打开智能助手,点击左下角的设置功能

选择提供商为DeepSeek,填写API Key,然后选择模型,保存设置

3、Aliyun配置

阿里云大模型平台地址:https://www.aliyun.com/product/tongyi
阿里云文档地址:https://help.aliyun.com/zh/model-studio/getting-started/what-is-model-studio?spm=a2c4g.11186623.help-menu-2400256.d_0_0.dfe76ff2ysoygi
模型列表及价格:https://help.aliyun.com/zh/model-studio/getting-started/models?spm=a2c4g.11186623.help-menu-2400256.d_0_2.72b6b0a8aSKtb2

3.1 申请API Key

申请地址:https://bailian.console.aliyun.com/?apiKey=1#/api-key

3.2 配置智能助手

安装并打开智能助手,点击左下角的设置功能

选择提供商为Aliyun,填写API Key,然后填写模型,保存设置

4、LM Studio配置

LM Studio 是一款桌面应用程序,用于在计算机上本地开发和试验 LLM。
下载地址:https://lmstudio.ai/

4.1 下载安装

下载安装LM Studio之后,搜索下载对应的模型

4.2 启动开发模式

4.3 配置智能助手

选择LM Studio,及相关模型保存即可

三、创建会话

3.1 在智能助手中创建一个会话,并设置好提示词,要求AI扮演角色,并满足你的要求

3.1 开始跟AI对话


四、文本检索生成(RAG)

配置

1、在向量数据库中选择数据库,目前仅实现了内存数据库,之后将加入Redis、Chroma、LanceDB等其他向量数据库

2、配置嵌入首选项

阿里云的相关配置参考:https://help.aliyun.com/zh/model-studio/developer-reference/text-embedding-synchronous-api?spm=a2c4g.11186623.help-menu-2400256.d_2_5_0.1a621c901K5A9m&scm=20140722.H_2712515._.OR_help-T_cn~zh-V_1#4c08e887c12ru

3、配置好之后即可使用RAG功能了,选择文件然后等待一段时间,尽量选择30M以下的文件,文件越大加载越慢,等文件加载到数据库后即可进行文件相关对话

五、ToDo

  • 连接Ollama,实现本地大模型部署
  • 连接DeepSeek
  • 连接阿里云
  • 连接LM Studio
  • 连接腾讯云
  • 聊天
  • 嵌入模型
  • 向量存储
  • 检索器
  • 检索增强生成(RAG)
  • 知识库
  • 向量数据库Memory
  • 向量数据库Redis
  • 向量数据库Chroma
  • 向量数据库LanceDB
  • 语音输入