惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

酷 壳 – CoolShell
酷 壳 – CoolShell
D
DataBreaches.Net
C
Check Point Blog
雷峰网
雷峰网
小众软件
小众软件
GbyAI
GbyAI
美团技术团队
P
Proofpoint News Feed
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
罗磊的独立博客
大猫的无限游戏
大猫的无限游戏
WordPress大学
WordPress大学
MyScale Blog
MyScale Blog
The Cloudflare Blog
阮一峰的网络日志
阮一峰的网络日志
Apple Machine Learning Research
Apple Machine Learning Research
Y
Y Combinator Blog
Jina AI
Jina AI
爱范儿
爱范儿
Last Week in AI
Last Week in AI
MongoDB | Blog
MongoDB | Blog
I
InfoQ
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
博客园 - 司徒正美

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派
本地部署GPT4ALL实现离线AI - 少数派
2023-05-16 · via 少数派

导语:

GPT4ALL是目前没有原生中文模型,不排除未来有的可能,GPT4ALL模型很多,有7G的模型,也有小一点的,当然,模型越大,代表回复的领域越多

介绍

GPT4all:一个开源聊天机器人生态系统,基于大量干净的助手数据进行训练,包括代码、故事和对话

主要项目地址:https://github.com/nomic-ai/gpt4all

下载

https://gpt4all.io/index.html

支持WIN、MAC、Ubuntu

模型安装支持

ModelBoolQPIQAHellaSwagWinoGrandeARC-eARC-cOBQAAvg
GPT4All-J 6B v1.073.474.863.464.754.93640.258.2
GPT4All-J v1.1-breezy7475.163.263.655.434.938.457.8
GPT4All-J v1.2-jazzy74.874.963.663.856.635.34158.6
GPT4All-J v1.3-groovy73.674.363.863.557.73538.858.1
GPT4All-J Lora 6B68.675.866.263.556.435.740.258.1
GPT4All LLaMa Lora 7B73.177.672.167.851.140.440.260.3
GPT4All 13B snoozy83.379.27571.360.944.243.465.3
Dolly 6B68.877.367.663.962.938.741.260.1
Dolly 12B56.775.47162.264.638.540.458.4
Alpaca 7B73.977.273.966.159.843.343.462.5
Alpaca Lora 7B74.379.37468.856.643.942.662.8
GPT-J 6.7B65.476.266.264.162.236.638.258.4
LLama 7B73.177.47366.952.541.442.461.0
LLama 13B68.579.176.270.16044.642.263.0
Pythia 6.7B63.576.36461.161.335.237.256.9
Pythia 12B67.776.667.363.863.934.83858.9
Fastchat T581.564.646.361.849.333.339.453.7
Fastchat Vicuña 7B76.677.270.767.353.541.240.861.0
Fastchat Vicuña 13B81.576.873.366.757.442.743.663.1
StableVicuña RLHF82.378.674.170.96143.544.465.0
StableLM Tuned62.571.253.654.852.431.133.451.3
StableLM Base60.167.441.250.144.9273246.1
Koala 13B76.577.972.668.854.34142.862.0
Open Assistant Pythia 12B67.97868.16564.240.443.261.0
Mosaic mpt-7b74.879.376.368.67042.242.664.8
Mosaic mpt-instruct74.380.477.267.872.244.64365.6
Mosaic mpt-chat77.178.274.567.569.443.344.264.9
Wizard 7B78.477.269.966.556.840.542.661.7
Wizard 7B Uncensored77.774.26865.253.538.741.659.8
Wizard 13B Uncensored78.475.572.169.557.540.44462.5
nous-gpt4-vicuna-13b81.37575.26558.743.943.663.2
text-davinci-00388.183.883.475.883.963.95175.7

你可以在软件中一键下载也可以在官方的模型资源管理器中下载对应模型

学习

首先查看官方页面其他人给出的Point示例【官方页拉到最下方中查看】如:
 

在这里,我们能找到如何让模型说中文的一些例子,如:

模型:gpt4all-l13b-snoozy

对话:Turn 0: 你好 Turn 1: Hello! How can I assist you? Turn 2: can you speak chinese? Turn 3: Yes, I can speak Chinese. How can I assist you in Chinese? Turn 4: 我叫大军哥 Turn 5: Hello, my name is Big Soldier. How can I assist you?

自我实践:

使用通用模型

如果你像我一样愿意使用翻译去查看对话,那么在训练模型时不必过多纠正AI输出的英文

值得注意的是,在GPT4all中,上下文起着非常非常重要的作用,在设置页面我们能调整它的输出限制及初始对话的指令,这意味着Point在设置中已有了,它不像我们在使用网页在线版GPT时可以随时对话中更改,设置中的Point意味着固定和束缚

想要强调的是如果模型本身不是中文语义模型,即便它包含中文回复也是代码转译及翻译的结果

我的模型训练

  • 用中文对话

使用模型:WizardLM-7B

在这段对话中我想让AI用中文说你好呀,但它在回复你好的同时附加了其它字符,这与模型本身有关,回到设置中查看设定,微调温度等设定值,重新对话。

这次我们加个限制为全部用中文回复

可以看到AI用中文回复,但其实可以看出回复的对话为翻译的结果。

其它例子不再列举,如果你对它感兴趣可以自己下载试一下。

结论

GPT4ALL是一个非常好的生态系统,已支持大量模型的接入,未来的发展会更快,我们在使用时只需注意设定值及对不同模型的自我调整会有非常棒的体验和效果。