






















回车换行
一直好奇命令行下的进度条是怎么实现的,问了AI,验证了控制台输出的字符,都是等宽的。用\r转移光标后,覆盖的前面的字符、和后面未覆盖的字符,并不会产生间隙。
run and debug a python helloworld in vscode
pip install tqdm
example
大模型下载时的进度条,看着怪舒服的
pip install huggingface_hub
下载qwen 0.5b小模型测试
再次运行,不会重复下载,有缓存了
transformers
pip install transformers torch pip install --upgrade Pillow
编码为张量,然后又解码出来
对话成功了,但回答怪怪的,可能跟0.5b的模型太小有关系
它的推理能力是这样实现的
从日志看,就是把问题文本送给大模型,预测生成下一个单词,然后把下个单词追加到问题上,再送给大模型,再预测下个单词,不断循环,就生成完整的问答文本了。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。