FLOPS для нейросетей: сколько вычислений нужно модели и как собрать нужную мощность

Сколько вычислительной мощности на самом деле нужно нейросети, почему маркетинговые «4 петафлопса» не равны реальным, как перевести задачу клиента в терафлопсы и какими способами — от максимально дешёвого до промышленного — эту мощность можно собрать. Пять разобранных примеров с расчётами.

1. Что такое FLOPS и почему цифры в спецификациях обманчивы

FLOPS (floating point operations per second) — количество операций с плавающей точкой в секунду. Для нейросетей используют приставки: 1 TFLOPS = 10¹² операций в секунду, 1 PFLOPS = 1000 TFLOPS. Одна и та же видеокарта выдаёт разное число FLOPS в зависимости от точности вычислений:

Производители публикуют максимальную цифру — в самой низкой точности и с разреженностью (sparsity 2:4), которая даёт удвоение только на специально подготовленных моделях и на практике почти не используется. Так получаются «AI TOPS» и «петафлопсы» на коробке.

Пример: NVIDIA RTX PRO 6000 Blackwell (600 Вт). Одна карта — четыре разные «мощности» в зависимости от того, как считать.

Шкала: реальные (плотные) FP8 TFLOPS популярных карт

Для GeForce — с FP32-накоплением, то есть то, что реально получают PyTorch, vLLM и llama.cpp. Для RTX 3090 и MI50 FP8 нет: их BF16/FP16 — 71 и 26,5 TFLOPS. Источники: спецификации NVIDIA и AMD.

GeForce RTX 5090~419 TFLOPS FP8 · 32 ГБ Radeon AI PRO R9700~383 TFLOPS FP8 · 32 ГБ RTX PRO 6000 Server Edition~1000 TFLOPS FP8 · 96 ГБ NVIDIA H200 NVL~1671 TFLOPS FP8 · 141 ГБ

2. Главные формулы: сколько FLOP тратит модель

Реальная загрузка GPU всегда ниже пиковой. Долю пиковой мощности, которую удаётся использовать, называют MFU (model FLOPS utilization):

3. Сколько FLOP нужно популярным моделям

Ниже — вычисления на обработку 1000 токенов (примерно 700 слов на русском) без учёта внимания. На очень длинных контекстах (64K+) механизм внимания добавляет ещё 10–50 %.

4. Когда FLOPS важны, а когда нет

5. Пять примеров: от задачи к терафлопсам и к железу

Во всех примерах учитываем реальную загрузку GPU (MFU 40 %), FLOPS берём плотные. Цены — ориентир по рынку РФ на ноябрь 2026 года, подробная таблица — в статье «Самые дешёвые TFLOPS в России».

Пример 1. Внутренний чат-ассистент на 300 сотрудников

Задача: модель Qwen3.8-27B, в пиковый час 1 запрос в секунду; запрос — 3000 токенов (системные инструкции, история, справка), из них 1500 повторяются и берутся из кеша; ответ — 500 токенов.

2 × Radeon AI PRO R9700максимально дёшево 2 × RTX 5090дёшево на NVIDIA 1 × RTX PRO 6000 Server Editionоптимально

Пример 2. Поиск по базе документов (RAG) на 1000 сотрудников

Задача: модель gpt-oss-120b, в пике 2 запроса в секунду, в каждый подставляется 12 тыс. токенов найденных документов, ответ — 800 токенов.

4 × Radeon AI PRO R9700128 ГБ · ~0,95 млн ₽ за карты 2 × RTX PRO 6000оптимум: 192 ГБ 1 × H200 NVLбыстрая генерация, 141 ГБ

Пример 3. ИИ-агенты для 40 программистов

Задача: DeepSeek V4 Flash, каждый разработчик — около 4 запросов агента в минуту. Контекст 60 тыс. токенов, но 90 % берётся из кеша, новых — 6000 токенов, ответ — 1000 токенов.

Сервер 4U на 8 GPUASUS ESC8000A-E13P: под 8 × R9700 или 4–8 × RTX PRO 6000 4 × RTX PRO 6000 Server Editionоптимально: 384 ГБ, ~4 PFLOPS

Пример 4. Обработка архива: 2 млн документов

Задача: суммаризировать 2 млн документов по 4000 токенов (ответ — 300 токенов). Пакетная задача: важна не скорость отдельного ответа, а срок обработки всего архива.

Пример 5. Дообучение и обучение

Дообучение LoRA модели Qwen3.8-27B на 200 млн токенов корпоративных данных (несколько проходов по базе знаний):

Обучение небольшой модели с нуля (1,5 млрд параметров на 30 млрд токенов — например, отраслевая модель для классификации): 6 × 1,5 млрд × 30 млрд = 2,7 × 10²⁰ FLOP. Это ~16 суток на 8 × RTX 3090, ~7 суток на 8 × R9700, ~4 суток на 4 × RTX PRO 6000 и около суток на 8 × H200 NVL. Обучение крупных моделей с нуля (десятки миллиардов параметров на триллионах токенов) требует 10²³–10²⁴ FLOP — это кластеры из сотен GPU, и бизнесу почти всегда выгоднее дообучать готовую открытую модель.

6. Самая дешёвая и оптимальная сборка под каждый случай

Сведём примеры в одну таблицу. «Максимально дёшево» — минимальная цена карт, которая закрывает расчётные TFLOPS и память, пусть даже с компромиссами по ПО, гарантии и шуму. «Оптимально» — то, что мы предлагаем для промышленной эксплуатации. Цены — только карты, по середине рыночного диапазона на ноябрь 2026 года.

7. Итоговая шпаргалка

Какие модели на каком железе работают — в обзоре «Какое железо нужно популярным нейросетям». Как подобрать карты и платформу под получившиеся цифры, мы разбираем в статье «Как собрать сервер для нейросети», а пример полного расчёта для коммерческого предложения — в разборе запроса клиента.