家用
16G 卡 · Q4
Gemma4-26B-A4B 问答 / Qwen3.8-27B 代码
商用
vLLM + FP8
27B 单机 2×A100；国产化走昇腾
移动
4B · 3GB
手机/轻薄本：意图、摘要、OCR
模型 × 硬件速度（tok/s，Q4）
| 模型 | 参数 | Q4 体积 | 16G | 24G | 32G | 128G 统一 | 说明 |
|---|
V4 Flash
DeepSeek | 284B / A13B | 159.0G | — | — | — | — | 通用/低成本批处理首选；Q4 约 160GB，家用需 6–8 张 24G 或大内存机 |
V4.1 Flash
DeepSeek | 552B / A49B | 309.1G | — | — | — | — | 原生视觉，能力近 Pro；比老 671B 还小 → 存量满血一体机不加卡可升级 |
V4 Pro
DeepSeek | 1600B / A49B | 896.0G | — | — | — | — | FP8 权重 1.6TB，16×H200 起，集群级 |
3.8-27B
Qwen | 27B | 15.1G | — | 33 | 59 | 7 | 家用代码 agent 主力；Q4 约 15GB，24G 卡全进显存 |
3.6-35B-A3B
Qwen | 35B / A3B | 19.6G | — | 270 | 480 | 58 | MoE 甜点，16G 卡也能跑出高速度 |
3.5-122B-A10B
Qwen | 122B / A10B | 68.3G | — | — | — | 17 | Q4 约 68GB，2×3090 或 128G 统一内存 |
3.8-Max
Qwen | 2400B / A95B | 1344.0G | — | — | — | — | 集群级，FP8 约 2.4TB |
4 E2B
Gemma | 2B | 1.1G | 400 | 450 | 800 | 96 | 手机/树莓派级，Q4 约 2GB |
4 E4B
Gemma | 4B | 2.2G | 200 | 225 | 400 | 48 | 轻薄本/手机主力，Q4 约 3GB |
4 26B-A4B
Gemma | 26B / A3.8B | 14.6G | 189 | 213 | 379 | 45 | 16G 卡最优解，Q4 约 14GB；多步工具调用在 llama.cpp 上不稳 |
4 31B
Gemma | 31B | 17.4G | — | 29 | 52 | 6 | 24G 卡 Q4 约 17GB，单轮问答/视觉很强 |
5.3
GLM | 753B / A40B | 421.7G | — | — | — | — | FP8 约 750GB，8×H200 起；编程与长流程强 |
5.3-Flash
GLM | 120B / A12B | 67.2G | — | — | — | 14 | 便宜档，官方 API 已在国内国产卡集群上大规模服务 |
K3
Kimi | 2800B / A104B | 1568.0G | — | — | — | — | FP16 5.6TB，官方建议 64 卡超节点 → 家用别提 |
M2.7
MiniMax | 230B / A10B | 128.8G | — | — | — | — | Q4 约 129GB，大内存机/多卡 |
M3.1-Flash
MiniMax | 60B / A6B | 33.6G | — | — | — | 29 | 轻量档，单机 24–48G 可跑 |
MiMo-V2.5
Xiaomi | 310B / A15B | 173.6G | — | — | — | — | Q4 约 174GB |
Muse Glimmer-30B
Meta | 30B | 16.8G | — | 30 | 53 | 6 | 面向本地 agent，含视觉编码器共约 29.6B |
Llama 4 Scout
Meta | 109B / A17B | 61.0G | — | — | — | 10 | Q4 约 61GB；欧盟多模态受限 |
GPT-OSS 120B
OpenAI | 120B / A5.1B | 67.2G | — | — | — | 34 | 原生 MXFP4 约 63GB → 128G 统一内存实测 31 tok/s |
按「带宽 ÷ 激活参数 × 0.56B × 0.5」估算；MoE 系数 0.45。「—」= 装不下，不是跑得慢。
问答 · 16G
Ollama
Gemma4-26B-A4B Q4 → Open WebUI
代码 · 24G
llama.cpp
Qwen3.8-27B Q4 → OpenCode（3090 ¥8,800）
高并发 · 商用
vLLM
Qwen3.8-27B FP8 → LiteLLM 网关
两个硬事实Gemma 4 在 llama.cpp 上多步工具调用会死循环（只做问答/视觉）；本地 agent 用 Qwen 系最稳。
本地能跑
Z-Image-Turbo
≈5 秒/张（8 步）
8–16GB · Apache 2.0
Qwen-Image 2.1
4090：1024 7.5s｜2048 30s｜3072 95s
Q8 15.6GB / bf16 27–30GB · 研究许可
| 强项 | 中文字、编辑、透明图、10 张参考 |
| 弱项 | 写实摄影、略噪 |
FLUX.2 klein 4B/9B
4 步出图（最快）
6–14GB · 开放权重
Krea 2 Turbo
8 步
12–20GB · 开放权重
FLUX.2-dev
4090 单张 2–12 分钟
远超 24GB（靠 offload） · 开放权重
按张计费 API
| 模型 | 单价 | 规格 |
|---|
| wan2.7-image | ≈0.21 元/张 | 2K，文生/图生/组图/编辑 |
| wan2.7-image-pro | ≈0.54 元/张 | 4K 文生图，长文字渲染 |
| wan2.6-image | 0.20 元/张 | 2K |
一句话跑量用 Z-Image-Turbo（5 秒/张），要中文和编辑用 Qwen-Image 2.1。两个大模型并发会把 ComfyUI 打崩，必须串行。
Wan（阿里）
24G 起
5B：8GB 能跑 · A14B Q4：24G 才好用 · Apache 2.0
| 单条 5s | 10–50 分钟 |
| 成本 | ≈0.2–0.5 元（电费） |
H3（MiniMax）
33B 全模态
本地只到 768P，2K 必须走 API；许可排除美/欧/英/韩
| 单条 5s | RX 7800XT 约 28 分钟 |
| 成本 | ≈0.3–0.8 元 |
本地模型
| 模型 | 显存 | 单条 5s | 分辨率 | 许可 |
|---|
Wan2.2-TI2V-5B
Wan（阿里） | 8–13GB | 3090 约 10–20 分钟/5s | 720P | Apache 2.0 |
Wan2.2-A14B
Wan（阿里） | 24–30GB | 3090 实测约 50 分钟/5s | 480P/720P | Apache 2.0 |
Wan 2.7
Wan（阿里） | 24GB 起 | 1080P 原生，需 A 卡级 | 1080P | Apache 2.0（开源状态待核） |
MiniMax H3-Base
H3（MiniMax） | BF16 约 62GB；Q8 流式 8GB 可跑 | RX 7800XT 1280×704×73 帧 ≈ 28 分钟 | 768P（2K 需 API） | 开放权重（排除美/欧/英/韩） |
LTX-Video
其他 | 8GB（720p 12GB） | ≈45 秒/720p | 720p / 2 分钟长片 | 开放权重 |
HunyuanVideo
其他 | 24GB（720p 40GB+） | 8 分钟级/720p | 720P | 社区协议（商用看条款） |
按秒计费 API
| 模型 | 720P | 1080P/2K | 计费细节 |
|---|
MiniMax H3
MiniMax 官方 | 0.5 元/秒 | 0.8 元/秒（2K） | 图 ≤5 张免费，音频输入免费 |
Wan 2.7 i2v/t2v
阿里百炼（北京） | 0.6 元/秒 | 1.0 元/秒 | 新加坡 $0.086 / $0.143；新用户 50 秒免费额度 |
Seedance 2.0
火山方舟 | ≈1 元/秒 | 按 token 计费 | 46 元/百万 token；15 秒约消耗 30.9 万 token；含视频输入 28 元/百万 |
Seedance 2.0 Mini
火山方舟 | ≈0.26 元/秒 | — | $0.0364/秒 折算；月度节省计划价 |
Seedance 2.5
火山方舟 | ≈0.66 元/秒 | $0.5271/秒 | 最长 30s；刊例价 |
Kling 3.0
快手 | ≈$0.17/秒 | 含音频 | 官方未直采，第三方口径 |
Gemini Omni Flash
Google | ≈$0.10/秒 | — | 闭源，无本地可能 |
本地 vs API：一条 5 秒 720P 多少钱
| 方式 | 成本（元） | 产能 |
|---|
| 本地 3090 + A14B Q4 | 0.2–0.5 | 1 条 / 50 分钟 |
| 本地 H3（2×5090） | 0.3–0.8 | 768P |
| H3 API | 2.5 | 0.5 元/秒（768P） |
| Wan 2.7 API | 3.0 | 0.6 元/秒（720P） |
| Seedance 2.0 | 5.0 | ≈1 元/秒 |
结论一个月 100 条以内走 API（250–500 元）；量大且有卡走本地。本地真正值钱的是能无限试错。
LLM 官方按量价（USD / 百万 token）
| 厂商 | 模型 | 输入 | 输出 |
|---|
| DeepSeek | DeepSeek V4 Flash Vision Exp | 0.15 | 0.6 |
| DeepSeek V4 Flash | 0.15 | 0.6 |
| DeepSeek V4 Pro | 0.66 | 1.98 |
| Alibaba (China) | DeepSeek V4 Flash | 0.14 | 0.28 |
| Qwen3.8 Omni Flash | 0.113 | 0.382 |
| Qwen3.8 Flash | 0.1187 | 0.4007 |
| Alibaba | Qwen3.8 Flash | 0.15 | 0.47 |
| Qwen3.8 Omni Flash | 0.15 | 0.47 |
| DeepSeek V4 Flash 0731 | 0.44 | 1.32 |
| Zhipu AI | GLM-5.3-Flash | 0.1195 | 0.4183 |
| GLM-5.3-FlashX | 0.2988 | 1.0458 |
| GLM-5.3 | 1.1952 | 4.1831 |
| Moonshot AI (China) | Kimi K3.1 Pro | 1.9437 | 10.1671 |
| Kimi K3 | 2.9879 | 14.9395 |
| Kimi K3.1 Pro Highspeed | 3.8874 | 20.3342 |
| Moonshot AI | Kimi K3.1 Pro | 2 | 10 |
| Kimi K3 | 3 | 15 |
| Kimi K3.1 Pro Highspeed | 4 | 20 |
| MiniMax (minimax.cn) | MiniMax-M3.1-Flash | 0.1494 | 0.5976 |
| MiniMax-M2.1 | 0.3137 | 1.2549 |
| MiniMax-M2.7 | 0.3137 | 1.2549 |
| MiniMax (minimax.io) | MiniMax-M3.1-Flash | 0.15 | 0.6 |
| MiniMax-M2.1 | 0.3 | 1.2 |
| MiniMax-M2.7 | 0.3 | 1.2 |
| SiliconFlow (China) | GLM-5.3-Flash | 0.1199 | 0.4198 |
| DeepSeek V4 Flash | 0.4483 | 1.345 |
| Qwen/Qwen3.6-35B-A3B | 0.269 | 1.614 |
| Volcengine Ark | GLM-5.3-Flash | 0.1187 | 0.4156 |
| DeepSeek V4 Flash 0731 | 0.4453 | 1.3359 |
| DeepSeek V4 Pro 0813 | 1.3359 | 4.0077 |
| OpenRouter | GLM-5.3-Flash | 0.0335 | 0.083 |
| GPT OSS 20B | 0.03 | 0.13 |
| DeepSeek V4 Flash | 0.091 | 0.182 |
| Deep Infra | Gemma 4 E4B IT | 0.02 | 0.1 |
| GPT OSS 20B | 0.03 | 0.14 |
| GPT OSS 120B | 0.037 | 0.17 |
| Fireworks AI | MiniMax-M3.1-Flash | 0.15 | 0.6 |
| DeepSeek V4.1 Flash Spot | 0.21 | 0.84 |
| DeepSeek V4.1 Flash 1017 Spot | 0.21 | 0.84 |
每家取最便宜的 3 个；订阅制（coding plan / token plan）价格是 0，已过滤。每周一自动刷新。
怎么比同一模型各家差价 2–3 倍；agent 场景输出占大头，看输出价而不是输入价。
显卡（2026-11-09 闲鱼成交）
| 型号 | 显存 | 带宽 GB/s | 成交价 | 说明 |
|---|
| RTX 4060Ti 16G | 16G | 288 | ¥3,800 | 能跑 4B–14B，图/视频勉强 |
| RTX 3090 24G | 24G | 936 | ¥8,800 | 24G 二手神卡，代码 agent 最低线 |
| RTX 4090 24G | 24G | 1008 | ¥23,000 | 比 3090 快约 10%，贵 2.6 倍 |
| RTX 5070Ti 16G | 16G | 896 | ¥8,200 | 16G 新卡首选 |
| RTX 5080 16G | 16G | 960 | ¥11,900 | 比 5070Ti 快不到 10% |
| RTX 5090 32G | 32G | 1792 | ¥30,100 | 现价含涨价，同价两张 3090 更实用 |
| RTX 5090D 32G | 32G | 1792 | ¥27,800 | 国行特供 |
统一内存机器
| 机器 | 内存 | 带宽 GB/s | 整机价 | 说明 |
|---|
| Strix Halo 128G | 128G | 215 | ≈¥27k | Ryzen AI Max+ 395，实测带宽 215（标称 256），装得下 100B+ MoE |
| Mac Studio M5 Max 128G | 128G | 614 | ≈¥33k | Apple 统一内存，prefill 强；比 Strix Halo 快约 2.8 倍带宽 |
| DGX Spark 128G | 128G | 273 | ≈¥50k | GB10，CUDA 生态完整，价格是 Strix Halo 两倍 |
商用一体机
| 配置 | 价格 | 说明 |
|---|
| 32B 推理 | 30–50 万 | 现在的成单主力 |
| 8×昇腾 910B | ≈130 万 | 信创常见 |
| 8×H20（141G） | ≈140 万 | 跑老 671B 满血 |
| 8×H200 | ≈200 万 | 更宽裕 |
| 国产满血（2 台） | 260–520 万 | 信创必须，性价比差 |
采购三问用自己 200 条 prompt 压 TTFT P95 / TPS / 并发 8 与 32；同模型 BF16 vs FP8 精度损失测过没有;备卡 RMA ≤5 工作日写进合同。
量化
| 格式 | 字节/参数 | 质量代价 | 什么时候选 |
|---|
| BF16 / FP16 | 2 字节/参数 | 基准 | 有卡有电，做 SFT/LoRA |
| FP8 静态（W8A8） | 1 字节/参数 | 可忽略 | H100/H200/昇腾；H100 实测 +26.7% TPS、TTFT −20% |
| FP8 动态 | 1 | 可忽略 | 不想预量化，+14.8% TPS |
| INT4 W4A16（AWQ/GPTQ） | 0.5 | 小到中 | 显存受限时最多 +46%；显存够反而掉速（反量化开销） |
| NVFP4 / MXFP4 | 0.5 | 小（需好 PTQ） | B200 上 Llama 3.3 70B：12,841 vs FP8 6,972 tok/s（厂商口径） |
| GGUF Q4_K_M | 0.56 | 小（接近 8bit 观感） | 家用甜点；模型库最大 |
| GGUF Q5_K_M / Q6_K | 0.7 / 0.82 | 更小 | 显存/内存有余 |
| MLX 4bit | 0.5 | 小 | Mac 优先于 GGUF |
| Q2 / IQ2 / IQ1 | ≤0.35 | 大 | 只适合“看得懂”，agent/代码别用 |
模型 × 插件组合
| 场景 | 模型 | 服务端 | 前端/工具 |
|---|
| 家用 · 问答 | Gemma4-26B-A4B Q4 | Ollama | Open WebUI / LM Studio |
| 家用 · 代码 agent | Qwen3.8-27B Q4 | llama.cpp server | OpenCode |
| 家用 · 生图跑量 | Z-Image-Turbo | ComfyUI（fp8） | ComfyUI 队列 |
| 家用 · 生视频 | Wan2.2-A14B Q4 + lightx2v LoRA | ComfyUI + WanVideo 节点 | ComfyUI 队列 |
| 商用 · 高并发 API | Qwen3.8-27B FP8 / DeepSeek V4.1 Flash | vLLM | LiteLLM 网关 + 业务 |
| 商用 · 国产化 | Qwen3.8-27B W8A8 | vLLM-Ascend / MindIE | 业务直连或网关注入 |
| 移动 · 离线助手 | Gemma4-E4B Q4（3GB） | llama.cpp / MNN | App 内嵌 or Termux |
工具全景
| 用途 | 首选 | 备选 |
|---|
| 本地推理服务（单机） | Ollama / LM Studio | llama.cpp server（最可控）；均提供 OpenAI 兼容端点 |
| 本地推理服务（多卡并发） | vLLM、SGLang | TensorRT-LLM（绑定 NVIDIA）；昇腾用 vLLM-Ascend / MindIE |
| 代码 Agent（终端） | OpenCode（MIT，75+ provider） | Aider、Qwen Code、Crush、Codex CLI |
| 代码 Agent（IDE） | Cline / Roo Code | Continue、Kilo Code、Zed |
| 通用 Agent 编排 | LangGraph / LlamaIndex | Dify、n8n；MCP 做工具接入（JSON-RPC） |
| 生图 | ComfyUI + Manager | ControlNet、IP-Adapter、kohya/ai-toolkit（LoRA）、nunchaku 加速 |
| 生视频 | ComfyUI-WanVideo（Kijai） | lightx2v 蒸馏 LoRA、SageAttention、RIFE 补帧、分块 VAE 解码 |
| 端侧 | llama.cpp（GGUF）、MNN | MLX（Apple）、ExecuTorch、QNN/AI Hub（高通）、Android AICore |
| 私有化护栏 | 模型网关（LiteLLM 等自建） | 鉴权、限流、审计、按团队配额；别让业务直连推理端口 |
更新日志
还没有记录，collect.py 每次刷新会写入。