






















这是一个创建于 36 天前的主题,其中的信息可能已经有所发展或是发生改变。
flash 就很好了,pro 除了慢,暂时没看出优点。
如题 trojan rust grpc ,又快又稳,之前一直用的大佬写的 go 版 ws 协议,5 年了,稍微慢点也很稳,想想不如自己手搓一个。
rust 0 基础,8 小时,花了 5 块不到,又快又稳。
配上年初抢的,很多人看不上 19.9 一年的的搬瓦工,晚点 8 点半,油管 2k60 帧,带宽跑到 120MB 。
1 zsj1029 5 月 10 日烧了 8000w token 吧 |
2 KingFong 5 月 10 日有对比一下自己实现的和 go 版本的性能差异不? |
6 strobber16 5 月 10 日工业级代码不是一次写成的,而是在生产上踩坑修修补补缝出来的。 |
7 zsj1029 5 月 10 日@strobber16 那肯定啊,8 小时就是在不断调试,debug 给 ds 修改,重复打包编译,一次性哪要这么久时间,开头一版 10 分钟就出来了,剩下大部分时间都是排查测试问题 |
8 ClericPy 5 月 10 日所以一直在纠结 claude code 设置的时候 |
9 beihu 5 月 10 日有 github 地址嘛 |
11 foryou2023 5 月 10 日确实很不错,个人现在的主力也是 cc + flash,又便宜又好使。 |
13 zsj1029 5 月 10 日@foryou2023 嗯嗯,本地有个 a100 ,qwen3.6 27b ,日常完全够用,感觉能有个 flash 7 成功力,就是太慢,时间等不起 |
14 mewking 5 月 10 日项目完成后有多少行代码? 8 小时烧了 8000w 。假设在连续生成,不考虑 debug 等中断的时间,2777.78 token/s 消费级硬件,哪怕能够 30 t/s ,连续生成 8000w 也要 30 天 😭 |
15 mangmaimu 5 月 10 日 via iPhone虽然但是,建议用 singbox |
16 zsj1029 5 月 10 日@mewking 不是这样算的,token 不只是输出的,真实输出只有 80wtoken ,用过你就知道了,高强度使用,一天随便 1E token ,deepseek 缓存命中率有 90%多,这部分费用非常便宜。 |
17 mewking 5 月 10 日啊啊啊,原来输出才 80w 我是在等 llama.cpp 支持 V4 flash ,想在在本地用 DDR5 和消费级卡玩一下,预计只有十几 t/s ,乐观估计,未来如果有 dflash ,nvfp4 等优化,或许能接近 30t/s 。用来 vibe 也只能是比较小的工具了 |
18 rb6221 5 月 10 日有没有可能安全和兼容性与成熟产品差太多 |
20 wy315700 5 月 10 日DeepSeek 长上下文在重构项目方面是个大优势 |
21 swananan 5 月 10 日最近一直看到机场不稳定的消息,我也在想实在不行就自己写一个(当然不会放出来,只自己用),有 AI 和成熟的库,我感觉搞一个会非常快,甚至还能针对性做点去除流量特征防嗅探之类的。 |
23 zsxzy 5 月 10 日能开源详细的 spec 提示词? 我们也倒腾一个 :) |
24 clauder 5 月 10 日19.9 的搬瓦工是怎么得来的?非常好奇。 |
25 benen005g 5 月 10 日19.9 的搬瓦工是怎么得来的?非常好奇。 |
28 Felldeadbird 5 月 10 日啊,不知道为什么。你告诉我 5 块钱我感觉很肉痛。 真付费上班了。 |
29 zsj1029 5 月 10 日@Felldeadbird 我今天“破处了”,之前一直用的本地 ai 和 trae ,昨天用本地 ai 写了个 7788 ,实在等不了,第一次充钱,一天 5 块,两个包子,给你一天好心情,心情投资,不香吗 |
30 admin926 5 月 10 日想请问下,flash 模型 后面加[1m]了吗?单个任务没处理完上下文不会超吗 |
32 humbass 5 月 10 日自从 Cloud 被封,就改用 DeepSeek v4 flash ,相当不错。 |
33 easylee 5 月 11 日用的原生 claude code 直接干,还是加了什么帮助的 skill/plugin 吗? |
34 ClericPy 5 月 11 日@zsj1029 此外 effort Level 用垃圾模型会开到 high 、max ,用 5.1 的时候默认或 auto 似乎就够了。 既然你也赞同三小一大,那我不用三大一小了,太慢。spec 写的好,需求说的清楚,根本用不着太聪明的模型 |
37 zsj1029 5 月 11 日 via iPhone@mewking qwen3.6 本地能干的,前面我让他参照 go 版用 dart 重构,最后跑通了,只是过程太久了上下文一上来会掉速度。最后发现涉及到数据包处理 cpu 密集,性能 dart 不适合,才换了 rust 和 deepseek |
38 Nzelites 5 月 11 日dsflash 真的很不错,超乎预期,极其有性价比 |
39 dododook 5 月 11 日 via iPhone小白求助,用的啥客户端呀我现在就会反重力,想试试大佬说的 deekseekv4 不知道怎么弄。。 |
40 jaoyina 5 月 11 日在比较关心还有啥性价比高的 vps 吗,现在机场实在太不稳定了,看视频 1080p 都不行了。还一直不停要换节点。 |
42 suyuyu 5 月 11 日a100 多少钱买的 |
43 miniliuke 5 月 11 日太好了是梁爷爷又发力了......真的太便宜了,啥时候能赶上 glm5 就更好了 |
44 K332 5 月 11 日纯文本模型现在价格很不错,就是不知道后面多模态功能添加后会不会涨价 |
47 HFX3389 5 月 11 日> 年初抢的,很多人看不上 19.9 一年的的搬瓦工 你这个年初是哪一年... |
48 FakerLeung 5 月 11 日@mewking #14 8000w 不是这么算的,上下文 20w 一轮,跑 10 轮就是 200w ,但是总输出可能就 2k |
51 jinsongzhaocn 5 月 11 日@zsj1029 本地 qwen3.6 27b 慢吗?玩过阅读代码出总结,速度比在线的 GLM 快多了. 你是用 ollama 跑还是 vllm? vllm+上 mpt 优化速度才能起来哦 |
52 esee 5 月 11 日没理解,你自己写的服务端 和 开源的服务端 在流量特征上有啥区别,被封和用啥服务端没关系吧,和你用的什么协议有关系吧 |
58 sentinelK 5 月 11 日@zsj1029 我在某硬件平台,租了个 5090 平台测试,Q4_K_M 版本,使用 llama.cpp 运行 262114 上下文,显存占用 26GB ,prefill 大概 3000t/s,decode 稳定在 70t/s 感觉是不是楼主的 A100 参数还有优化的空间。体感上 5090 跑 qwen3.6-27B,输出不比官网 v4-flash 慢 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。