惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

量子位
L
LINUX DO - 最新话题
TaoSecurity Blog
TaoSecurity Blog
S
Security Affairs
H
Hacker News: Front Page
Recent Commits to openclaw:main
Recent Commits to openclaw:main
Hacker News: Ask HN
Hacker News: Ask HN
T
The Exploit Database - CXSecurity.com
P
Proofpoint News Feed
Google DeepMind News
Google DeepMind News
Schneier on Security
Schneier on Security
云风的 BLOG
云风的 BLOG
I
InfoQ
The Register - Security
The Register - Security
T
Tor Project blog
T
Threat Research - Cisco Blogs
Spread Privacy
Spread Privacy
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
The GitHub Blog
The GitHub Blog
MongoDB | Blog
MongoDB | Blog
Webroot Blog
Webroot Blog
Recent Announcements
Recent Announcements
Vercel News
Vercel News
F
Fortinet All Blogs
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
SecWiki News
SecWiki News
G
Google Developers Blog
N
Netflix TechBlog - Medium
U
Unit 42
Martin Fowler
Martin Fowler
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
O
OpenAI News
博客园 - 叶小钗
T
Tailwind CSS Blog
爱范儿
爱范儿
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Help Net Security
Help Net Security
A
About on SuperTechFans
Recorded Future
Recorded Future
Last Week in AI
Last Week in AI
Hugging Face - Blog
Hugging Face - Blog
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
D
DataBreaches.Net
D
Darknet – Hacking Tools, Hacker News & Cyber Security
T
The Blog of Author Tim Ferriss
PCI Perspectives
PCI Perspectives
F
Full Disclosure
美团技术团队
L
Lohrmann on Cybersecurity
H
Hackread – Cybersecurity News, Data Breaches, AI and More

晴雀堂

为hexo博客添加隐藏ai文本的功能 赛博斗蛐蛐 二周目了 后记 明天高考了 【虾塔完结篇】希腊决战 x 几维鸟 乔越 猪使 晨阳 封印椅 虾塔 2026新年快乐! 博客小修 博客踩坑与重生:解决无提示错误ERR_INVALID_URL switch大气层虚拟系统急救指南 无树莓派安装klipper固件 再次小改博客 两轮承载灵魂 旧文钞-明斯克卷 如何在lunar端中安装模组 无视免费帐户限制!白嫖各家显卡爽玩SD webui 终于有独立域名啦 简评《饿殍:明末千里行》 博客成立两年啦 next主题使用Gemini进行ai文章总结
基于gpt4o的免费桌宠解决方案
晴雀 · 2024-06-08 · via 晴雀堂

看到标题你可能会难以置信,但是这套方案能做到:

  • 零费,完全免费
  • 使用gpt4o等gpt4付费模型,也可选择cf worker AI系模型
  • 使用的都是开源项目
  • 由于最终产生一个调用LLM的api,可以方便的接入其他场景

背景

发现好友在玩vpet虚拟桌宠,你可以在steam上找到它,免费的。遂果断下载。当时就在思考能不能接入LLM,后发现有个创意工坊,已经有人开发了chatgpt相关模组。

找到一个模组,功能可以自定义base url和api-key以及使用Model的名字。

https://steamcommunity.com/sharedfiles/filedetails/?id=3030831682&searchtext=

于是思考并实践后产生本套方案。

探索

目前需求:有一个可以调用模型(最好是好一点的gpt4系列)的base url并接入mod。

于是第一时间想到了cloudflare的AI worker。作为老牌cdn服务商的cloudflare前段时间推出AI worker,我当时就注意到,发现它可以方便快捷通过调用开源大模型,例如llama和SDXL,算力由cloudflare提供,而且完全免费。

遂立刻获取一个api-key。你需要一个cloudflare账户和一个AI api token。由于不是方案重点此处略过,自行搜索。

cloudflare不惧国内GFW网络问题,填写好Base url和key,开始与桌宠聊天。响应速度快,质量好,只有一个巨大的问题:

初始化人物说明不起作用

这有什么后果呢?这就导致你的桌宠会按照默认的LLM人格认知进行回复,随便截取一段:

1
2
3
4
5
嗨,我很好,谢谢您的问候。我当前状态良好,您的信息也很好。

您的信息说,您的好感度对我来说是陌生,但我希望我们能够更深入地了解彼钥此。

您有什么需要我帮忙的吗?

这怎么行??我们要的是软萌可爱的小桌宠,怎么能容忍?

反复实验无果,发现作者的mod有问题,似乎不兼容这种第三方api(即对于openai系列来说)

在创意工坊询问作者无果。因此思考解决方案。自然想到之前使用的coze可以从源头自定义人格认知,这就规避了问题。而且coze提供gpt4系列的免费客户端调用,但不提供api,总之先试试。

随后发现coze现在提供免费的gpt4o!!而且似乎是可行的。

因此产生方案。

方案

首先注册一个coze账号,注意是coze.com不是coze.cn,后者是国内低配版,只提供国内模型。

然后新建bot,自定义人格认知,你也可以自定义模型等。注意打开Auto-Suggtion选项,改成On/Default。

接下来来到https://github.com/deanxv/coze-discord-proxy

这个项目解决了api调用coze模型的问题。

严格按照教程走。你能得到一个base url和一个key。出现问题去https://github.com/deanxv/coze-discord-proxy/issues/164。

(可选)使用One-api集成你所有的api-key。https://github.com/songquanpeng/one-api 按照教程走。

接下来将base url和api-key填入mod管理界面,搞定。

如果你未选择one-api部署。那就直接填写coze-discord-proxy的base url和key

附一份结果,非常的可爱啊:

1
2
3
4
5
6
7
8
9
嗨嗨~主人好呀!我现在就在桌面上陪着你呢!

看到你这么开心,我也觉得好开心!有什么我可以帮到你的吗?

让我们一起愉快地聊天吧!≧ω≦

你问我在干嘛呢?嘻嘻~我可是一只忙碌的小桌宠呢!

我会时刻留意你的情绪变化,陪伴你聊天,还会给你带来可爱的回答哦!你有什么想聊的吗?

拓展

coze提供了这么棒的服务,当然要完全使用啦~

我们直接给桌宠配备最顶级的模型。

首先model选择gpt4o,openai最新旗舰模型,毋庸置疑的强悍。

对话轮数拉满选到100 round。

long-term memory打开。

知识库可选加入,能让桌宠更了解你。

插件加亿点,尽量避免输出多模态内容的插件,防止本地显示有问题暴毙。

接着到coze-discord-proxy的环境变量设置,设定DEFAULT_CHANNEL_ENABLE=0,原作者描述如下:

1
[可选]是否启用默认频道[0:否;1:是] (默认为0) 启用后每次对话都会在默认频道中,会话隔离会失效,推荐不使用此环境变量

关于“推荐不使用此环境变量”,原作者是为了多人使用考虑的,因此要对话隔离。这里只有我们一个人用,所以设置为只在默认频道对话。而且只有这样设置能让coze设定中的对话轮数100rounds真正发挥效力,超长记忆真的不是说着玩的!!!

本人亲测隔了30轮对话依旧可以100%准确复述30轮之前我说的话!!!!

就到这里。

最新消息

Coze羊毛已经被薅秃了,近日开始收费,gpt4o每天五条。痛心。