Mistral🧠 Dense

Codestral 25.01

22B
Параметры
14 ГБ
Мин. VRAM (Q4)
44 ГБ
Мин. VRAM (FP16)
256K
Контекст

💵 Цены API (OpenRouter)

Вход: $0.30/1M ток.Выход: $0.90/1M ток.

🖥 Совместимые GPU (30)

GPU с ≥14 ГБ VRAM для запуска Codestral 25.01 в квантизации Q4_K_M

GPUVRAMПропускнаяtok/sЦена (новая)$/tok/s
Gaudi 3 128GBIntel128 ГБ3700 ГБ/с176.7$15,000$85
MI300X 192GBAMD192 ГБ5300 ГБ/с170.0$15,000$88
H100 SXM 80GBNVIDIA80 ГБ3350 ГБ/с160.0$30,000$188
H200 141GBNVIDIA141 ГБ4800 ГБ/с154.0$30,000$195
MI250X 128GBAMD128 ГБ3200 ГБ/с152.8$12,000$79
H100 PCIe 80GBNVIDIA80 ГБ2039 ГБ/с136.0$25,000$184
A100 80GBNVIDIA80 ГБ2039 ГБ/с100.0$15,000$150
A100 40GBNVIDIA40 ГБ1555 ГБ/с85.0$10,000$118
RTX 5090 32GBNVIDIA32 ГБ1792 ГБ/с80.0$1,999$25
L40S 48GBNVIDIA48 ГБ864 ГБ/с70.0$8,000$114
L40 48GBNVIDIA48 ГБ864 ГБ/с70.0$6,500$93
RTX 4090 24GBNVIDIA24 ГБ1008 ГБ/с65.0$1,600$25
Mac M2 UltraApple192 ГБ800 ГБ/с59.8$7,000$117
Mac M3 Ultra 192GBApple192 ГБ800 ГБ/с59.8$6,999$117
RTX 4080 SUPER 16GBNVIDIA16 ГБ736 ГБ/с55.0$999$18
A40 48GBNVIDIA48 ГБ696 ГБ/с52.0$5,000$96
RTX 5070 Ti 16GBNVIDIA16 ГБ896 ГБ/с50.8$749$15
RX 7900 XT 20GBAMD20 ГБ800 ГБ/с50.8$799$16
RX 7900 XTX 24GBAMD24 ГБ960 ГБ/с46.2$900$19
RTX 3090 24GBNVIDIA24 ГБ936 ГБ/с45.0$900$20
A30 24GBNVIDIA24 ГБ933 ГБ/с44.9$4,500$100
A10 24GBNVIDIA24 ГБ600 ГБ/с38.5$3,500$91
RTX 4080 16GBNVIDIA16 ГБ717 ГБ/с37.5$1,000$27
RTX 4070 Ti SUPER 16GBNVIDIA16 ГБ672 ГБ/с35.2$799$23
Mac M4 MaxApple64 ГБ546 ГБ/с35.0$4,000$114
RTX 5080 16GBNVIDIA16 ГБ960 ГБ/с32.3$999$31
RX 7800 XT 16GBAMD16 ГБ624 ГБ/с28.0$499$18
Mac M4 ProApple24 ГБ273 ГБ/с28.0$2,500$89
RTX 4060 Ti 16GBNVIDIA16 ГБ288 ГБ/с20.7$499$24
Mac M4 16GBApple16 ГБ120 ГБ/с8.6$1,199$139

📊 Рассчитайте ваш профит

Оцените заработок на локальном инференсе Codestral 25.01

Открыть калькулятор →