惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

S
Schneier on Security
博客园_首页
量子位
博客园 - 司徒正美
S
SegmentFault 最新的问题
J
Java Code Geeks
小众软件
小众软件
博客园 - 【当耐特】
The Register - Security
The Register - Security
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Microsoft Azure Blog
Microsoft Azure Blog
G
Google Developers Blog
Blog — PlanetScale
Blog — PlanetScale
T
Tailwind CSS Blog
博客园 - Franky
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
G
GRAHAM CLULEY
Cyberwarzone
Cyberwarzone
腾讯CDC
Apple Machine Learning Research
Apple Machine Learning Research
V
Visual Studio Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
The Hacker News
The Hacker News
aimingoo的专栏
aimingoo的专栏
V
Vulnerabilities – Threatpost
P
Palo Alto Networks Blog
Scott Helme
Scott Helme
L
LINUX DO - 热门话题
F
Full Disclosure
D
DataBreaches.Net
Martin Fowler
Martin Fowler
Cisco Talos Blog
Cisco Talos Blog
L
LINUX DO - 最新话题
云风的 BLOG
云风的 BLOG
C
Check Point Blog
T
Threatpost
Google DeepMind News
Google DeepMind News
WordPress大学
WordPress大学
W
WeLiveSecurity
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
有赞技术团队
有赞技术团队
Hugging Face - Blog
Hugging Face - Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
L
Lohrmann on Cybersecurity
Last Week in AI
Last Week in AI
T
Tor Project blog
T
Troy Hunt's Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
S
Security Affairs
SecWiki News
SecWiki News

博客园 - 陈希章

在本地运行Kusto服务器 请大家支持博客园,购买VIP会员,https://cnblogs.vip PowerAutomate 流程中如何使用环境变量 在PowerShell进行输入预测,提高工作效率 Install Docker in WSL 2 (ubuntu) 设置必应搜索默认使用国际版 大数据分析新玩法之Kusto宝典 - 新书发布,免费发行 Kusto 2023 快速入门 开篇 —— 启发式和探索式的大数据分析工具 低代码和人工智能助力疫情期间抗原自测信息自动化收集和处理 批量执行失败的Power Automate 流程 一文讲透为Power Automate for Desktop (PAD) 实现自定义模块 - 附完整代码 是时候使用 YAML 来做配置或数据文件了 在博客文章中使用mermaid 定义流程图,序列图,甘特图 使用本地自签名证书为 React 项目启用 https 支持 博客园最新的在线编辑器,快捷键一览 为 ASP.NET Core (6.0)服务应用添加ApiKey验证支持 用浏览器快速开启Docker的体验之旅 云原生开启.NET 跨平台之路 Azure Service Fabric 踩坑日志
可能是最简单的本地GPT3 对话机器人,支持OpenAI 和 Azure OpenAI
陈希章 · 2023-02-11 · via 博客园 - 陈希章

毫无疑问,GPT是目前最火的人工智能方向,已经商用的有OpenAI公司原生的GPT3 和 ChatGPT ,以及微软公司的Azure OpenAI Service (暂时还没有包含ChatGPT)。关于他们的各种资料以及讨论(甚至争论),网上已经有很多了。我这里不准备重复。本文分享的一个是我自己为了方便使用GPT服务,编写的一个基于PowerShell的小工具。当前版本包含了对话机器人。

下面是一个简单的例子,可以看出虽然这个结果算不上完美,例如它其实以为是9月15日开学,而不是2月15日,但这种一本正经地胡说八道的蜜汁自信,还是让我很惊讶的。【这属于模型层面的不足,以及问法方面可以改进的部分,本文不过多展开】

使用这个工具,你不需要关注每次调用接口的繁琐细节。你只需要一次一次地输入提示,然后它会帮助你去查询并得到回复。

如果你已经有OpenAI 服务的访问权限,不妨试用一下这个工具。

首先,安装这个神奇的模块 (code365scripts.openai) ,如果你以前没有怎么使用过PowerShell,则可能遇到一些初始配置问题,你可以一次性执行下面三个语句即可。

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
Set-PsRepository -InstallationPolicy Trusted -Name PSGallery
Install-Module code365scripts.openai -Scope CurrentUser

然后,我建议你将有关的密钥等信息设置到环境变量。

如果你是用OpenAI原生的GPT3 服务,则只需要提供api_key即可。请继续在PowerShell 命令行中执行下面的代码。

SETX OPENAI_API_KEY "你的密钥"
# 下面这个是可选的,如果不设置,则默认使用 text-davinci-003
SETX OPENAI_ENGINE "你的默认模型"

如果你是用Azure OpenAI的GPT3服务,则需要提供多几个环境变量。

SETX OPENAI_API_KEY_AZURE "你的密钥"
SETX OPENAI_ENGINE_AZURE "你的模型"
SETX OPENAI_ENDPOINT_AZURE "你的服务地址"

下图是我机器上面的情况,因为我同时在用OpenAI 原生的服务,和Azure OpenAI 服务,所以变量比较多。

OpenAI 原生服务的key,是以 sk 开头的。

请注意,关闭一下PowerShell窗口,然后重新打开,以便读取这些环境变量。

接下来,就可以通过 gpt 这个快捷命令开始对话了。如果调用OpenAI原生服务,最简单的用法就是只要输入 gpt 即可。

如果调用Azure OpenAI 服务,则可以用 gpt -azure 的方式。

当然,你只要愿意,也可以指定更多的参数来定制化这个对话机器人。

这个工具还支持从文件直接读取内容并提交给GPT,也支持多行输入文本。请输入 m 或 f 进行尝试吧。