Mistral🧠 Dense

Mistral Small 24B

24B
Параметры
14 ГБ
Мин. VRAM (Q4)
48 ГБ
Мин. VRAM (FP16)
32K
Контекст

💵 Цены API (OpenRouter)

Вход: $0.35/1M ток.Выход: $0.56/1M ток.

🖥 Совместимые GPU (30)

GPU с ≥14 ГБ VRAM для запуска Mistral Small 24B в квантизации Q4_K_M

GPUVRAMПропускнаяtok/sЦена (новая)$/tok/s
Gaudi 3 128GBIntel128 ГБ3700 ГБ/с165.7$15,000$91
MI300X 192GBAMD192 ГБ5300 ГБ/с160.0$15,000$94
H100 SXM 80GBNVIDIA80 ГБ3350 ГБ/с150.0$30,000$200
H200 141GBNVIDIA141 ГБ4800 ГБ/с144.9$30,000$207
MI250X 128GBAMD128 ГБ3200 ГБ/с143.3$12,000$84
H100 PCIe 80GBNVIDIA80 ГБ2039 ГБ/с128.0$25,000$195
A100 80GBNVIDIA80 ГБ2039 ГБ/с90.0$15,000$167
A100 40GBNVIDIA40 ГБ1555 ГБ/с80.0$10,000$125
RTX 5090 32GBNVIDIA32 ГБ1792 ГБ/с75.0$1,999$27
L40S 48GBNVIDIA48 ГБ864 ГБ/с65.0$8,000$123
L40 48GBNVIDIA48 ГБ864 ГБ/с65.0$6,500$100
Mac M2 UltraApple192 ГБ800 ГБ/с60.2$7,000$116
Mac M3 Ultra 192GBApple192 ГБ800 ГБ/с60.2$6,999$116
RTX 4090 24GBNVIDIA24 ГБ1008 ГБ/с60.0$1,600$27
RX 7900 XT 20GBAMD20 ГБ800 ГБ/с51.2$799$16
RTX 5070 Ti 16GBNVIDIA16 ГБ896 ГБ/с47.2$749$16
RX 7900 XTX 24GBAMD24 ГБ960 ГБ/с41.0$900$22
A40 48GBNVIDIA48 ГБ696 ГБ/с40.8$5,000$123
RTX 3090 24GBNVIDIA24 ГБ936 ГБ/с40.0$900$23
A30 24GBNVIDIA24 ГБ933 ГБ/с39.9$4,500$113
RTX 4080 SUPER 16GBNVIDIA16 ГБ736 ГБ/с38.8$999$26
RTX 4080 16GBNVIDIA16 ГБ717 ГБ/с37.8$1,000$26
A10 24GBNVIDIA24 ГБ600 ГБ/с35.2$3,500$99
Mac M4 MaxApple64 ГБ546 ГБ/с32.0$4,000$125
RTX 5080 16GBNVIDIA16 ГБ960 ГБ/с28.7$999$35
RTX 4070 Ti SUPER 16GBNVIDIA16 ГБ672 ГБ/с27.6$799$29
RX 7800 XT 16GBAMD16 ГБ624 ГБ/с25.6$499$19
Mac M4 ProApple24 ГБ273 ГБ/с25.0$2,500$100
RTX 4060 Ti 16GBNVIDIA16 ГБ288 ГБ/с18.5$499$27
Mac M4 16GBApple16 ГБ120 ГБ/с7.7$1,199$156

📊 Рассчитайте ваш профит

Оцените заработок на локальном инференсе Mistral Small 24B

Открыть калькулятор →