Ко мне регулярно приходят с одним и тем же вопросом: «У меня в системнике RTX 4070, почему локальная модель отвечает в три раза медленнее, чем обещали в статье?» Или наоборот: «Знакомый говорит, что для нейросетей нужна карта за полмиллиона — это развод или правда?» Честный ответ: бывает и то, и другое. Разница между игровой и «ИИ-картой» реальна, но лежит она не там, где её ищут — не в слове «AI» на коробке, а в объёме памяти, её надёжности и условиях эксплуатации. Давайте разберёмся, за что именно вы платите и в каких случаях платить не нужно.
Главное отличие не в названии, а в балансе характеристик
Физически это те же GPU: те же тензорные ядра, та же архитектура, часто даже один и тот же кристалл. Производитель просто по-разному настраивает карту под разные задачи. У игровой приоритет — высокие частоты, блоки растеризации и цена, потому что вы сидите за ней три часа вечером. У профессиональной и серверной — объём и надёжность памяти, пропускная способность, плотность в стойке и работа круглосуточно.
Нейросети же не рисуют пиксели. Они перемножают огромные матрицы и, что важнее, постоянно читают из памяти миллиарды весов модели. Отсюда и все отличия.
1. Видеопамять: гигабайты важнее терафлопсов
Первое, во что упирается любой, кто запускает модель локально, — модель должна поместиться в видеопамять (VRAM). Если не помещается, система начинает выгружать часть весов в оперативную память и гонять их по шине PCIe. Скорость падает не в два раза, а в десятки раз — вы это сразу заметите по тому, как «печатается» ответ.
Прикидка простая. Модель на 7–8 млрд параметров в формате FP16 занимает примерно 14–16 ГБ только под веса, плюс кэш контекста. Модель на 70 млрд в FP16 — около 140 ГБ, в 4-битном кванте — 35–40 ГБ. Квантование (сжатие весов с потерей точности) экономит память, но качество немного проседает, и это отдельный компромисс.
Отсюда практическая линейка, по которой удобно ориентироваться:
- 16 ГБ (RTX 4060 Ti, 4070 Ti Super) — 7–8B в кванте, SDXL, баловство с картинками;
- 24 ГБ (RTX 3090, 4090) — рабочий минимум для 7–14B, 30B в 4-битном кванте;
- 32 ГБ (RTX 5090) — комфортнее по контексту и размеру батча;
- 48 ГБ (RTX 6000 Ada, L40S) — 70B в кванте без танцев с бубном;
- 80 ГБ HBM (A100, H100) — полноценные 70B в FP16 и серьёзное дообучение.
Именно поэтому люди до сих пор охотятся за б/у RTX 3090: 24 ГБ за вменяемые деньги, и для домашней лаборатории этого хватает.
2. Пропускная способность памяти
При генерации текста карта на каждый новый токен перечитывает веса. Значит, скорость часто ограничена не вычислениями, а тем, как быстро память отдаёт данные. Этот параметр называется пропускной способностью (bandwidth) и измеряется в гигабайтах в секунду.
Для ориентира, цифры на момент публикации:
- RTX 4090 — 24 ГБ GDDR6X, около 1008 ГБ/с;
- RTX 5090 — 32 ГБ GDDR7, порядка 1,8 ТБ/с;
- RTX 6000 Ada — 48 ГБ GDDR6 с ECC, около 960 ГБ/с;
- A100 80 ГБ — HBM2e, около 2 ТБ/с;
- H100 SXM — HBM3, около 3,3 ТБ/с.
Обратите внимание: игровой флагман по пропускной способности не проигрывает профессиональной карте того же поколения, а иногда и выигрывает. Проигрывает он по объёму. Так что «профессиональная = быстрее» — не всегда верно.
3. Тензорные ядра и точность вычислений
Игры работают с обычной 32-битной точностью (FP32). Нейросети — с пониженной: FP16, BF16, FP8, INT8, где ошибка не критична, зато скорость и экономия памяти в разы выше. За это отвечают тензорные ядра, и они есть в обеих категориях карт.
Разница в акцентах: у профессиональных и датацентровых решений выше доля таких блоков, шире набор поддерживаемых форматов (например, FP8 у Ada и Hopper), есть режимы вроде TF32. Зато у части потребительских карт урезана производительность в 64-битной точности (FP64) — это важно для научных расчётов и почти не важно для языковых моделей.
4. ECC-память: то, за что реально доплачивают
ECC (error-correcting code) — память с коррекцией ошибок. Если бит перевернулся, карта это исправит и не заметит, а не выдаст мусор. Игровой карте такая роскошь не нужна: один сбойный пиксель в кадре вы не увидите.
А теперь представьте обучение модели, которое идёт четыре дня. Ошибка в памяти на третьи сутки — и прогон насмарку. Поэтому профессиональные карты (RTX 6000 Ada, L40S, A-серия) идут с ECC и рассчитаны на режим 24/7, а не на пару часов гейминга в день. Вот здесь переплата оправдана — но только если вы правда гоняете длинные задачи.
5. Охлаждение, питание и габариты
Игровая карта — это три-четыре слота, 350–600 Вт тепла в комнату и вентиляторы, которые слышно через дверь. Серверная — либо турбина (blower), либо вообще пассивное охлаждение, потому что десяток таких карт стоит в корпусе высотой 4U с общим мощным потоком воздуха.
Типичная ошибка — купить датацентровую карту для домашнего ПК. Турбина воет как пылесос, пассивная версия без обдува уходит в троттлинг, а блок питания на 850 Вт её просто не запустит. В обратную сторону это работает лучше: потребительская карта в нормальном корпусе — самый разумный вариант для локальных экспериментов.
6. Драйверы, лицензии и поддержка
- Игровые: драйверы Game Ready и Studio, обычная лицензия, гарантия год-два, поддержки как таковой нет.
- Профессиональные: enterprise-драйверы с длинным циклом обновлений, возможность виртуализации (vGPU), гарантия на 3 года, приоритетный RMA. Часть функций завязана на платную подписку NVIDIA AI Enterprise — проверяйте, входит она в комплект или нет.
- Датацентровые: NVLink и NVSwitch для быстрого обмена между картами, MIG (возможность нарезать карту на изолированные куски под разные задачи), плюс экспортные ограничения.
NVLink — это отдельный интерконнект между картами, позволяющий им обмениваться данными мимо медленной PCIe. У RTX 4090 его нет, у RTX 3090 есть. Поэтому связка из двух 3090 для локального стенда популярнее, чем из двух 4090, хотя формально последние быстрее.
7. Сколько это стоит и в чём подвох
Профессиональная карта на 48 ГБ стоит в несколько раз дороже игровой на 24 ГБ. На момент публикации разница в рознице в РФ измеряется сотнями тысяч рублей, и это плата не за «магический ИИ», а за память, ECC, гарантию и форм-фактор. Цены меняются быстро, так что конкретные цифры лучше проверять перед покупкой — но порядок такой.
Что брать под конкретную задачу
- Поиграться с локальной LLM и Stable Diffusion — RTX 3090 (в том числе б/у), 4090 или 5090. Это самая частая и самая разумная покупка.
- Инференс небольшой модели в продакшене — L40S или RTX 6000 Ada, если критичны надёжность и ECC.
- Дообучение модели на 7–13B — 48–80 ГБ или несколько 24-гиговых карт, с оговорками про отсутствие NVLink.
- Обучение с нуля — H100/A100 в аренде. Покупать такую карту для разового проекта почти никогда не имеет смысла.
- Чат-бот на сайте или генерация текстов — облачный API. Карта тут вообще не нужна, и это самый недооценённый вариант.
Как не переплатить: восемь правил
- Считайте от задачи. Если вам нужен чат-бот на сайте, вопрос видеокарты вообще не стоит — считайте токены в API.
- Смотрите на цену за гигабайт VRAM и на пропускную способность, а не на «терафлопсы ИИ» из маркетинга.
- Посчитайте аренду. Двадцать часов в месяц на облачной карте почти всегда дешевле, чем покупка: железо простаивает и дешевеет.
- Не платите за функции, которые не используете: ECC, MIG, NVLink и enterprise-драйверы нужны не всем.
- Проверьте совместимость со своим софтом: версии CUDA, поддержка конкретной карты в PyTorch или Ollama, требования к драйверу.
- Заложите в бюджет обвязку: блок питания, корпус, охлаждение, шум. Часто «дешёвая» карта тянет за собой ещё двадцать тысяч расходов.
- С осторожностью относитесь к вторичке после майнинга: память могла работать на износ годами. Просите тест под нагрузкой и проверку памяти.
- Покупая через параллельный импорт, сразу уточняйте, кто и как будет делать гарантийный ремонт. Сэкономленные тридцать тысяч могут обернуться кирпичом.
Ловушки, на которых теряют деньги
Первая и самая частая: «возьму две карты по 24 ГБ и получу 48 ГБ». Память не суммируется. Модель должна целиком помещаться в одну карту, либо её придётся явно разрезать по слоям, и обмен пойдёт по PCIe — с потерей скорости. Без NVLink и поддержки в софте это работает так себе.
Вторая: карта с пассивным охлаждением в обычном корпусе. Третья: блок питания с запасом «на глазок». Четвёртая: покупка ускорителя AMD или китайского аналога под задачу, где весь туториал написан под CUDA, — память дешевле, но экосистема и количество готовых решений заметно скромнее. Иногда это оправдано, но проверять нужно до покупки, а не после.
И отдельно про лицензии: условия использования моделей и сервисов различаются. Перед коммерческим применением сгенерированного контента стоит прочитать лицензию конкретной модели и конкретного сервиса — там бывают ограничения на коммерческое использование.
Заключение
Видеокарта для ИИ отличается от игровой не «интеллектом», а памятью, её надёжностью и условиями работы. Для девяноста процентов задач, с которыми сталкивается веб-разработчик или небольшая студия, достаточно игровой карты на 24–32 ГБ или вообще облачного API. Профессиональные решения окупаются там, где модель крутится круглосуточно, ошибка в вычислениях стоит дорого, а простой — ещё дороже.
Так что перед покупкой ответьте себе на три вопроса: сколько гигабайт требует моя модель, сколько часов в сутки карта будет занята и что дешевле — железо или аренда. Если ответы не складываются в пользу покупки, вы только что сэкономили. И это тоже результат — вполне в духе принципа «разберёмся, как это работает, без магии и без паники».
