不同显存跑 7B / 13B / 70B 模型速度全对比
8G/12G/16G/24G 显存在不同参数量 LLM 下的推理速度、显存占用、OOM 边界实测数据
硬件跑 AI 的真实性能数据。
每篇评测都基于实际测试,不做云评测。
8G/12G/16G/24G 显存在不同参数量 LLM 下的推理速度、显存占用、OOM 边界实测数据
连续 7 天记录 E5 2680 v4 主机的实际功耗与电费,对比全新 i5 平台,用真实数据算一笔账
两张主流 AI 入门卡的终极对比:Ollama 推理速度、SD 出图性能、显存占用、价格、性价比全维度实测数据
| 排名 | 显卡 | 显存 | Ollama Q4 (7B) | SDXL 出图 (1024×1024) | 二手价格 | 性价比评分 |
|---|---|---|---|---|---|---|
| 🥇 | RTX 4090 | 24G | 80 tok/s | 1.2s | ¥14,000 | ⭐⭐⭐ |
| 🥈 | RTX 3090 | 24G | 72 tok/s | 1.4s | ¥7,000 | ⭐⭐⭐⭐ |
| 🥉 | RTX 4070 Ti Super | 16G | 60 tok/s | 1.8s | ¥5,500 | ⭐⭐⭐⭐ |
| 4 | RTX 4070 Super | 12G | 55 tok/s | 2.0s | ¥4,500 | ⭐⭐⭐⭐ |
| 5 | RTX 4060 Ti 16G | 16G | 45 tok/s | 2.8s | ¥3,200 | ⭐⭐⭐⭐⭐ |
| 6 | RTX 3060 12G | 12G | 35 tok/s | 3.5s | ¥1,800 | ⭐⭐⭐⭐⭐ |
| 7 | RTX 4060 8G | 8G | 28 tok/s | 4.0s | ¥2,200 | ⭐⭐⭐ |