Mistral🧠 Dense
Mistral Small 24B
24B
Параметры
14 ГБ
Мин. VRAM (Q4)
48 ГБ
Мин. VRAM (FP16)
32K
Контекст
💵 Цены API (OpenRouter)
Вход: $0.35/1M ток.Выход: $0.56/1M ток.
🖥 Совместимые GPU (30)
GPU с ≥14 ГБ VRAM для запуска Mistral Small 24B в квантизации Q4_K_M
| GPU | VRAM | Пропускная | tok/s | Цена (новая) | $/tok/s |
|---|---|---|---|---|---|
| Gaudi 3 128GBIntel | 128 ГБ | 3700 ГБ/с | 165.7 | $15,000 | $91 |
| MI300X 192GBAMD | 192 ГБ | 5300 ГБ/с | 160.0 | $15,000 | $94 |
| H100 SXM 80GBNVIDIA | 80 ГБ | 3350 ГБ/с | 150.0 | $30,000 | $200 |
| H200 141GBNVIDIA | 141 ГБ | 4800 ГБ/с | 144.9 | $30,000 | $207 |
| MI250X 128GBAMD | 128 ГБ | 3200 ГБ/с | 143.3 | $12,000 | $84 |
| H100 PCIe 80GBNVIDIA | 80 ГБ | 2039 ГБ/с | 128.0 | $25,000 | $195 |
| A100 80GBNVIDIA | 80 ГБ | 2039 ГБ/с | 90.0 | $15,000 | $167 |
| A100 40GBNVIDIA | 40 ГБ | 1555 ГБ/с | 80.0 | $10,000 | $125 |
| RTX 5090 32GBNVIDIA | 32 ГБ | 1792 ГБ/с | 75.0 | $1,999 | $27 |
| L40S 48GBNVIDIA | 48 ГБ | 864 ГБ/с | 65.0 | $8,000 | $123 |
| L40 48GBNVIDIA | 48 ГБ | 864 ГБ/с | 65.0 | $6,500 | $100 |
| Mac M2 UltraApple | 192 ГБ | 800 ГБ/с | 60.2 | $7,000 | $116 |
| Mac M3 Ultra 192GBApple | 192 ГБ | 800 ГБ/с | 60.2 | $6,999 | $116 |
| RTX 4090 24GBNVIDIA | 24 ГБ | 1008 ГБ/с | 60.0 | $1,600 | $27 |
| RX 7900 XT 20GBAMD | 20 ГБ | 800 ГБ/с | 51.2 | $799 | $16 |
| RTX 5070 Ti 16GBNVIDIA | 16 ГБ | 896 ГБ/с | 47.2 | $749 | $16 |
| RX 7900 XTX 24GBAMD | 24 ГБ | 960 ГБ/с | 41.0 | $900 | $22 |
| A40 48GBNVIDIA | 48 ГБ | 696 ГБ/с | 40.8 | $5,000 | $123 |
| RTX 3090 24GBNVIDIA | 24 ГБ | 936 ГБ/с | 40.0 | $900 | $23 |
| A30 24GBNVIDIA | 24 ГБ | 933 ГБ/с | 39.9 | $4,500 | $113 |
| RTX 4080 SUPER 16GBNVIDIA | 16 ГБ | 736 ГБ/с | 38.8 | $999 | $26 |
| RTX 4080 16GBNVIDIA | 16 ГБ | 717 ГБ/с | 37.8 | $1,000 | $26 |
| A10 24GBNVIDIA | 24 ГБ | 600 ГБ/с | 35.2 | $3,500 | $99 |
| Mac M4 MaxApple | 64 ГБ | 546 ГБ/с | 32.0 | $4,000 | $125 |
| RTX 5080 16GBNVIDIA | 16 ГБ | 960 ГБ/с | 28.7 | $999 | $35 |
| RTX 4070 Ti SUPER 16GBNVIDIA | 16 ГБ | 672 ГБ/с | 27.6 | $799 | $29 |
| RX 7800 XT 16GBAMD | 16 ГБ | 624 ГБ/с | 25.6 | $499 | $19 |
| Mac M4 ProApple | 24 ГБ | 273 ГБ/с | 25.0 | $2,500 | $100 |
| RTX 4060 Ti 16GBNVIDIA | 16 ГБ | 288 ГБ/с | 18.5 | $499 | $27 |
| Mac M4 16GBApple | 16 ГБ | 120 ГБ/с | 7.7 | $1,199 | $156 |
📊 Рассчитайте ваш профит
Оцените заработок на локальном инференсе Mistral Small 24B
Открыть калькулятор →