3

我有这个显卡。
1. 30B 左右的 q4 量化 moe 模型，稠密模型的话 q4 量化 8B 左右吧
2. 调用 api 更合适
3. autogen 吧
4. 4B 模型太小了，调用工具都不一定调的明白
5. 除了视频生成其实都没问题，图片生成用 zimage 或者 qwen image 都能几秒出图，当然质量肯定不如 gpt 和大香蕉。视频勉强用 wan 也能跑起来，内存占用的也很多，十几分钟只生成两三秒的视频。