3090 跑文本向量模型可以么？ 3090 是不是有点过剩？
catyun88
·
2026-03-21
·
via V2EX
这是一个创建于 75 天前的主题，其中的信息可能已经有所发展或是发生改变。
如题 3090 涡轮 24G 客户拿来跑文本向量模型,配的铂金 8259CL 的处理器 是不是有点过剩
文本向量模型 过剩
2 条回复 • 2026-03-23 17:52:45 +08:00
 |
|
2
coefu 3 月 23 日
embedding 的话，凑合 带宽窄了点，主要是 GPU core 算的快一点，Tensor core 多一点。 用 qwen3 embedding FP16 ，显存差不多可以用完。
|
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。
