原文地址：https://glumes.com/blog/ai/large-model-explore-interesting-things/article/
蒸馏技术，懂的都懂，老师讲过可以利用沸点差异来分离液体混合物。
在大模型里面也有“蒸馏技术”，它的作用是将大型语言模型的知识转移到较小的模型中，提高性能的同时可以降低模型的大小以及计算资源需求。
大模型蒸馏技术本意是挺好的，但也可能存在滥用的情况。比如为了训练自家的小模型，但缺少了相关数据，就用市面上的开源模型服务来提取数据，这种事情就有真实发生过。
不过对于个人来说，是可以借鉴这种思路去“蒸馏”大模型，从中提取我们想要的内容。
比如，最近在给娃买玩具，有些早教机类的玩具可以教小朋友识字并且给出每个字的解释含义，就像下面这样的：
另外还有一些识字类的 APP 和早教机差不多，都是朗读每个字并给出汉字解释。
尽管对外表现形式不同，但背后的核心内容就还是文字的素材库，要有小朋友不同阶段要认识的汉字以及对应解释。
这种情况下，就完全可以去从大模型中蒸馏出这些素材，用元宝来举个例子：
通过合理的提示词就可以拿到这些内容，并且以 Json 的格式返回，方便后期程序化来处理这些结果。
假如要开发一款识字类的相关产品，也可以是唐诗宋词、名人名言类的产品，但是却没有这些素材，那完全可以从大模型中“蒸馏”出来。
想要程序化处理这些操作，可以使用 DeepSeek 给的 API 接口，在夜间跑服务去“蒸馏“数据，价格便宜一半多。
之前在朋友圈问 DeepSeek 的夜间 token 便宜这么多，能干啥好呢？ 就像可以利用夜间网速快的特点，挂着下载服务自动下载。
有朋友说可以利用时差，把 DeepSeek 做成 APP 给老外用，这也是不错的点子，不过也可以夜间来程序化“蒸馏”数据啊，便宜实惠。
最后，不得不说，大模型一出，很多产品的开发逻辑都改变了，以前认为是壁垒的技术、素材，在某些场景都可以轻而易举的跨过了。
原创文章，转载请注明来源: 个人'蒸馏'大模型能做哪些有意思的事情