Разборы · Статья: · Видео: · 19 мин 38 сек

Квантизация AI-видео: где проходит грань между «легче» и «сломалось»

Alex Ziskind прогоняет две локальные видео-модели (WAN 2.2 и LTX 2.3) по лестнице квантизации от FP16 до 2 бит и показывает на метриках, что формат весов важнее их количества, а звук ломается раньше картинки.

ИИ Наука Продуктивность
Смотреть на YouTube

This Is What Happens When You CRUSH An AI Video Model

Alex Ziskind · 19 мин 38 сек
Главы видео — нажми, чтобы перейти к моменту 8
  1. 0:00 Локально вы запускаете модель квантованной ComfyUI и большинство воркфлоу по умолчанию берут Q4, но никто не объясняет, чем за это платишь.
  2. 0:22 Условия эксперимента и железо Две модели, восьмиступенчатая лестница от FP16 до 2 бит, фиксированные промпт/сид/настройки, RTX Pro 6000 Blackwell 96 ГБ.
  3. 0:28 Эталоны полной точности и метрики FP16 для WAN и BF16 для LTX как точки отсчёта; вводятся SSIM, LPIPS, prompt alignment, а для LTX ещё WER и звук.
  4. 4:37 FP8 против Q8: формат важнее бит При равных битах FP8 дрейфует вдвое сильнее Q8, машина едет задом наперёд, а в LTX FP8 добавляет несуществующий смех.
  5. 8:46 Спуск к Q4: рабочая точка Уровни Q6–Q5 почти не теряют, а Q4 — свит-спот: четверть размера, картинка держится.
  6. 10:34 Звук ломается раньше видео На Q5→Q4 Mel-спектрограмма LTX прыгает в ~5 раз при стабильных видео-метриках; плохой звук гонит зрителя сразу.
  7. 11:54 Дно лестницы: Q3 и Q2 На 2 битах лица плавятся, видео разрушается, звук роботизируется; жёсткие объекты держатся дольше людей.
  8. 17:55 Итоги: три находки и артефакты самой модели Нет универсального обрыва; часть багов (физика шарика, листья) — это модель, а не сжатие; вывод — Q4 по умолчанию, формат важнее бит.

Коротко

Автор сжимает две AI-видео-модели по восьми уровням квантизации с одним промптом и сидом — и видит, что Q8 бьёт «современный» FP8 при том же размере, а звук деградирует раньше видео. Главный вывод: формат весов решает больше, чем число бит, а рабочая точка Q4 не сдвигается при смене архитектуры модели.

Выжимка голосом

Самое ценное из разбора — за пару минут

0:00 1:48
Показать текст выжимки
Если вы запускаете генерацию ИИ-видео у себя на компьютере, эта выжимка для вас. Почти всегда такая модель ужата, чтобы влезть в видеокарту. Но мало кто понимает, чем именно за это платит. Автор взял две модели и сжимал их всё сильнее, от полной точности до двух бит, каждый раз генерируя одно и то же видео. И собрал три неочевидных вывода. Первый, и самый главный. Формат сжатия важнее количества бит. При одинаковом размере один способ, Q8, даёт почти оригинал. А другой, более новый и модный, FP8, заметно врёт. На нём машина в кадре даже поехала задом наперёд. Так что если выбираете между FP8 и Q8 — берите Q8. Второй вывод. Звук портится раньше картинки. Видео ещё выглядит нормально, а голос уже плывёт и роботизируется. При этом зритель прощает слабую картинку, но при плохом звуке закрывает ролик сразу. Поэтому, если в видео есть звук, обязательно его слушайте, а не только смотрите. Картинка обманет, голос — нет. Третий вывод. Единого порога обрыва нет, всё зависит от контента. Один твёрдый предмет в движении можно сжимать почти до предела. А вот люди, и особенно лица, ломаются первыми. И практический итог. По умолчанию ставьте уровень сжатия Q4. Это четверть размера, а картинка ещё держится. Ниже — только если есть веская причина. Что стоит унести с собой. Формат важнее количества бит.

Озвучено синтезом речи · голос alena

Объясни проще

Суть без жаргона

Простыми словами

Когда вы запускаете генерацию AI-видео у себя на компьютере, модель почти всегда «ужата» — её веса хранят с меньшей точностью, чтобы она влезла в видеокарту. Автор взял две такие модели и сжимал их всё сильнее и сильнее, каждый раз генерируя одно и то же видео, чтобы увидеть, в какой момент картинка начинает разваливаться. Оказалось, что важно не только насколько сильно сжимать, но и каким именно способом: при одинаковом «весе» один способ (Q8) даёт почти оригинал, а другой, более новый (FP8), заметно врёт — у него даже машина поехала задом наперёд. И ещё: звук в видео портится раньше картинки, а это зритель замечает мгновенно.

Как ребёнку

Представь, что у тебя есть очень тяжёлая книжка с картинками, и ты её перерисовываешь меньшими карандашами, чтобы она поместилась в рюкзак. Сначала картинки почти такие же, но если карандаши слишком толстые — лица людей превращаются в кашу, а машинка вообще едет не туда. Оказалось, что важно не только насколько мелко рисуешь, но и какими карандашами.

Аналогия — «это как…»

Это как пережать фотографию в JPEG: можно сильно уменьшить файл и почти ничего не заметить, но в какой-то момент появляются «квадратики». Только здесь пережимается не картинка, а сама нейросеть — и от выбранного способа сжатия зависит, поедет ли в видео машина вперёд или назад.

Зачем это мне

Локальную генерацию видео почти все запускают на квантованных моделях, не зная, чем платят за экономию памяти. Если вы крутите видео на домашней видеокарте, эти выводы напрямую экономят вам гигабайты и спасают от незаметных артефактов — особенно в звуке, на котором зритель уходит первым.

Для тех, кто в теме

При равном битрейте INT8-с-группировкой (Q8 GGUF) обходит аппаратно-ускоряемый FP8 по каждой метрике (SSIM, LPIPS, prompt alignment, WER, Mel-MSE) на обеих архитектурах — WAN 2.2 14B и LTX 2.3 22B. FP8 даёт единственный ненулевой WER между BF16 и Q3_K_M и уводит детерминированную сцену в качественную ошибку (реверс движения), то есть тратит мантиссу не туда. В LTX звуковая ветка отваливается на шаг раньше видео: Mel-MSE x5 на переходе Q5→Q4 при стабильных SSIM 0.88 / LPIPS 0.07. Sweet spot Q4 инвариантен к архитектуре; деградация контент-зависима — жёсткие объекты тянут до Q2, лица ломаются первыми. Важная оговорка: тест n=1 (один сид/промпт/железо), а провалы FP8 в видеодиффузии известны как проблема конкретных ядер/калибровки, а не свойство формата как такового.

Оценка видео

Чем выше — тем больше пользы на минуту

4.5

средняя из 5

Актуальность информации 5.0

Свежий тест (июнь 2026) на актуальных моделях WAN 2.2 и LTX 2.3 и железе RTX Pro 6000 Blackwell.

Содержательность 4.7

Плотный экспериментальный материал, три чётких вывода, минимум воды (кроме короткой рекламной вставки).

Инновационность идей 4.5

Сравнение FP8 vs Q8 «при равных битах» и раннее отваливание звука — неочевидные находки, редко проговариваемые вслух.

Применимость на практике 4.8

Готовая рекомендация «бери Q4 и слушай звук», применимая в любом ComfyUI-воркфлоу прямо сегодня.

Достоверность 3.5

Чистый дизайн (меняется только квантизация), но тест n=1 без повторов с разными сидами; автор сам просит «grain of salt».

Кому будет полезно

Чем выше оценка — тем больше пользы для профессии. Разверни — почему.

Для AI-художников и AI-видеомейкеров 5 /5

Прямое попадание: тест отвечает на их ежедневный вопрос — какую квантизацию модели брать в ComfyUI. Готовая рекомендация (Q4 по умолчанию, Q8 вместо FP8, лица и звук ломаются первыми) экономит часы перегенераций.

Для энтузиастов локального AI 5 /5

Те, кто гоняет WAN/LTX в GGUF на домашней GPU: показано, что Q4 (9 ГБ) реально влезает в 24-гиговую карту и держится, а FP8 при тех же битах хуже Q8 — снимает главный миф «больше бит = лучше».

Для моушн-дизайнеров 4 /5

Полезно при внедрении AI-видео в продакшен: вывод «твёрдые объекты тянут вниз дольше, лица ломаются первыми» помогает решить, где можно сжимать агрессивнее, а где нет.

Для ML-инженеров 4 /5

Наглядная демонстрация, что формат весов (INT8+группировка против FP8) важнее числа бит, и что деградация неравномерна по модальностям (аудио раньше видео). Методология на SSIM/LPIPS/WER/Mel — готовый шаблон для своих замеров.

Для видеоблогеров и контент-мейкеров 3 /5

Практичный акцент на звуке: зритель прощает плохую картинку, но уходит при плохом аудио, поэтому на Q4 надо слушать вывод. Ниже ядра — большинство не генерирует видео локально, а пользуется облаком.

Для инженеров по железу для AI 2 /5

Косвенно: тест идёт на RTX Pro 6000 Blackwell 96 ГБ и показывает реальные размеры моделей по уровням (от 27 до 5 ГБ), что помогает прикинуть требования к VRAM.

Инсайты

Нажми, чтобы раскрыть — то, что меняет взгляд на тему

01 Формат весов важнее количества бит 6:36

FP8 и Q8 — одинаковые 8 бит и почти одинаковый размер на диске, но FP8 уходит от полной точности примерно вдвое сильнее по каждой метрике. Решает не «сколько бит», а на что эти биты тратятся.

02 Аппаратно-ускоряемый FP8 может дать качественную ошибку 6:38

На простом промпте «красная машина» в FP8 машина поехала задом наперёд — ни в одной другой квантизации такого нет. Это не «чуть другой рендер», а просто неправильно.

03 Звук деградирует раньше картинки 6:45

На переходе Q5→Q4 Mel-спектрограмма у LTX подскочила почти в пять раз, тогда как видео-метрики (SSIM 0.88, LPIPS 0.07) почти не сдвинулись. Если смотреть только на картинку, провал звука пропустишь.

04 Зритель прощает плохое видео, но не плохой звук 5:11

Деградацию картинки замечают только на пересмотре, а плохой звук слышно сразу — и от него уходят мгновенно. Поэтому модели со звуком (как LTX) требуют отдельной осторожности.

05 Универсального «обрыва» нет — всё зависит от контента 7:37

Один твёрдый объект в движении можно гнать вниз почти до самого дна лестницы, а вот люди и особенно лица ломаются первыми, и их «пол» по качеству заметно выше.

Ключевые цитаты

Сильные фразы из видео — нажми тайм-код, чтобы услышать в оригинале

«Вот чего вам никто не говорит: если вы запускаете AI-видео-модель локально — вы запускаете её квантованной. Просто запускаете, и всё.»
Alex Ziskind Вступление — главная неозвучиваемая правда локальной генерации видео. 0:00
«Больше бит — это не то же самое, что лучше. Формат делает больше работы, чем количество бит.»
Alex Ziskind Вывод после сравнения FP8 и Q8 на красной машине. 6:34
«Вот FP16. На FP8 машина едет задом наперёд. Ни в одной другой квантизации такого не происходит. Только FP8.»
Alex Ziskind Демонстрация качественной ошибки FP8 в WAN. 6:38
«Находка номер два: здесь звук деградирует раньше видео.»
Alex Ziskind Переход Q5→Q4 в LTX — звук падает, картинка держится. 6:45
«Плохое видео вы способны стерпеть. Но если звук ужасный — люди тут же закрывают вкладку.»
Alex Ziskind Почему звук критичнее картинки. 5:19
«Если есть выбор между FP8 и Q8 для видео-модели прямо сейчас — берите Q8.»
Alex Ziskind Прямая рекомендация после двух моделей. 5:33
«Картинка тебя обманет, а голос — нет.»
Alex Ziskind Финальный совет слушать звук на Q4. 7:49
«Если вы запомните из всего видео одну вещь — пусть это будет вот что: формат важнее количества бит.»
Alex Ziskind Главный вывод видео. 7:51

Полезные советы

Что можно применить уже сегодня. Разверни совет — сколько займёт, что даст и что конкретно делать

1

Ставь Q4 по умолчанию

5 минут Влезешь в 24-гиговую потребительскую видеокарту без заметной потери картинки

Q4 — рабочая точка: четверть размера от FP16, но картинка ещё держится, и это уровень, на котором живёт всё сообщество. Опускайся ниже, только если есть конкретная причина.

Что делать

  1. 1 Открой свой воркфлоу в ComfyUI.
  2. 2 В загрузчике модели выбери GGUF-версию уровня Q4.
  3. 3 Сгенерируй тестовый клип и сравни с тем, что было.
2

Выбирай Q8, а не FP8

2 минуты Та же память — заметно более честная картинка и звук

При равном размере на диске Q8 (INT8 с группировкой) лучше FP8 по каждой метрике — и для видео, и для звука. «Будущее» в виде аппаратного FP8 здесь проигрывает старому подходу.

Что делать

  1. 1 Если в воркфлоу стоит FP8 — найди Q8-вариант той же модели.
  2. 2 Подставь его вместо FP8.
  3. 3 Прогони один и тот же сид и сравни.
3

Слушай звук на Q4, а не только смотри

1 минута Не выложишь ролик, с которого зритель сбежит из-за роботизированного голоса

Для моделей со звуком (LTX) картинка на Q4 ещё хорошая, а звук уже может поплыть. Глаза тебя обманут, уши — нет.

Что делать

  1. 1 После генерации не оценивай клип беззвучно.
  2. 2 Дослушай аудио до конца, особенно реплики и эмоции.
  3. 3 Если голос «робот» — поднимись на уровень до Q5/Q6.
4

Гони твёрдые объекты ниже, людей — нет

2 минуты Сэкономишь память там, где можно, и не испортишь там, где нельзя

Если в кадре один жёсткий объект в движении, можно опускаться почти до дна лестницы. Если люди и лица — держи квантизацию повыше, они ломаются первыми.

5

Фиксируй промпт, сид и настройки при сравнении

5 минут Поймёшь, что именно портит результат — формат или сама модель

Чтобы честно увидеть эффект квантизации, меняй только её, оставляя промпт, сид и настройки неизменными. Иначе спутаешь дрейф модели с дрейфом сжатия.

Что делать

  1. 1 Зафиксируй сид в воркфлоу.
  2. 2 Сгенерируй один клип на каждом уровне квантизации.
  3. 3 Сравни их попарно, меняя только загрузчик модели.
6

Не вини квантизацию во всех артефактах

2 минуты Перестанешь гоняться за качеством там, где его не починить битами

Кривая физика шарика на рампе и «неправильные» листья видны даже на полной точности — это сама модель, а не сжатие. «Неправильно» не всегда значит «хуже».

Сценарии применения

Как разные люди применяют это на практике

Я как ИИ-художник / motion-дизайнер

Проблема: Генерации съедают всю видеопамять, приходится ждать и докупать железо

Хочу: Понять, насколько можно ужать модель без видимой потери качества

Поможет: Даёт конкретную рабочую точку Q4 и правило «формат важнее бит» — экономия памяти без слепых проб

Я как YouTube-блогер с AI-видео

Проблема: Ролики с плохим звуком теряют зрителя на первых секундах

Хочу: Знать, где именно ломается аудио при сжатии

Поможет: Показывает, что звук падает раньше картинки, и советует слушать клип на Q4 перед публикацией

Я как Энтузиаст локального AI на потребительской видеокарте

Проблема: 24 ГБ VRAM не тянут модели в полной точности

Хочу: Влезть в свою карту без деградации результата

Поможет: Объясняет, что Q4 — это ~9 ГБ и «свит-спот», на котором живёт всё сообщество

Я как Инженер ML-инфраструктуры

Проблема: Команда по умолчанию берёт «современный» FP8 ради аппаратного ускорения

Хочу: Проверить, не платит ли он качеством за скорость

Поможет: Даёт измеренное сравнение FP8 vs Q8 на двух архитектурах с метриками SSIM/LPIPS/WER/Mel

Я как Преподаватель курса по генеративному AI

Проблема: Студентам трудно объяснить, что такое квантизация и чем грозит

Хочу: Наглядный пример «до/после» на понятных метриках

Поможет: Готовая лестница из 8 уровней с картинками, звуком и графиками для демонстрации

Я как Инди-разработчик игр и роликов

Проблема: Бюджета на облачную генерацию нет, всё крутится локально

Хочу: Выжать максимум качества из имеющегося железа

Поможет: Подсказывает, что для жёстких объектов можно опускаться ниже Q4, а для людей — нет

Я как Технический рецензент / тестировщик моделей

Проблема: Непонятно, какие метрики честно ловят деградацию видео и звука

Хочу: Набор стандартных, воспроизводимых тестов

Поможет: Перечисляет SSIM, LPIPS, prompt alignment, WER и Mel-MSE и показывает их в деле

Логика повествования

Как устроена аргументация видео — пройди по шагам

Предпосылка Аргумент Пример Вывод
  1. Предпосылка Локально вы почти всегда запускаете модель квантованной 0:00

    ComfyUI и большинство воркфлоу по умолчанию берут Q4-версию модели в формате GGUF, но никто не объясняет, чем за это платишь.

  2. Аргумент Чистый эксперимент — меняем только квантизацию 0:22

    Две модели (WAN 2.2 14B text-to-video и LTX 2.3 22B видео+звук) прогоняются по 8-ступенчатой лестнице от FP16/BF16 до 2 бит. Промпт, сид и настройки фиксированы; железо — RTX Pro 6000 Blackwell 96 ГБ.

  3. Пример FP8 при равных битах хуже Q8 6:17

    На том же размере на диске FP8 уходит от полной точности вдвое дальше Q8: стакан воды дрейфует сильнее, а красная машина в FP8 едет задом наперёд.

  4. Пример Тот же провал FP8 повторяется во второй модели 3:20

    В LTX FP8 даёт единственный ненулевой WER между BF16 и Q3_K_M — модель добавляет несуществующий смех. Q8 снова лучше по каждой метрике.

  5. Вывод Вывод о формате — он делает больше работы, чем биты 6:54

    Два разных коллектива, две архитектуры, два обучения — и одинаковая картина. Между FP8 и Q8 для видео-модели бери Q8.

  6. Аргумент Звук ломается раньше видео 4:54

    На Q4 видео-метрики LTX держатся (SSIM 0.88, LPIPS 0.07), а Mel-спектрограмма за один шаг с Q5 подскочила в ~5 раз. Зритель прощает картинку, но не звук.

  7. Аргумент Универсального обрыва нет — решает контент 7:37

    Жёсткий объект в движении тянет почти до дна лестницы, а лица ломаются первыми. Часть артефактов (физика шарика, листья) — это сама модель даже на полной точности.

  8. Вывод Итог: Q4 по умолчанию, формат важнее бит 7:44

    Запускай Q4, если нет причины не делать этого; свит-спот не двигается при смене архитектуры; при звуке — слушай его на Q4.

Подробный разбор

Полный разбор — разверни, если нужно глубже

Развернуть подробный разбор

О чём это

Это технический эксперимент Alex Ziskind — англоязычного блогера про локальный AI и железо. Он берёт две модели генерации видео — WAN 2.2 (14B, текст-в-видео) и LTX 2.3 (22B, генерирует видео и звук вместе) — и прогоняет каждую по «лестнице» квантизации из 8 уровней: от полной точности FP16/BF16 вниз до 2 бит. Промпт, сид и настройки фиксированы — меняется только степень сжатия модели. Всё крутится на кастомном Linux-боксе с RTX Pro 6000 Blackwell (96 ГБ).

Получились три неочевидные находки:

  1. Формат весов важнее количества бит. При одинаковых 8 битах «современный» FP8 уходит от оригинала вдвое сильнее, чем старый INT8 (Q8) — на FP8 машина в кадре даже поехала задом наперёд. Между FP8 и Q8 выбирай Q8.
  2. Звук деградирует раньше картинки. На Q4 видео ещё держится, а аудио уже плывёт — а зритель прощает плохую картинку, но при плохом звуке уходит мгновенно. «Картинка обманет, голос — нет».
  3. Универсального обрыва нет. Один твёрдый объект в движении можно гнать почти до дна; люди и лица ломаются первыми.

Вывод: запускай Q4 по умолчанию, и формат важнее количества бит.

⚠️ Это тест n=1 (один сид, один промпт-набор, одна видеокарта) — автор сам просит относиться к цифрам «с долей соли». Вывод «FP8 хуже Q8» во многом про конкретные ядра и калибровку FP8 в видеодиффузии, а не про формат вообще. Подробнее — в блоке критики ниже.

План внедрения

С чего начать — отмечай шаги, прогресс сохранится

Выполнено 0 из 6

Проверь себя

Ответь на вопросы, чтобы материал закрепился

Отвечено: 0 / 10 Верно: 0

  1. 1. Что, по выводам автора, влияет на качество сильнее при одинаковом числе бит?

  2. 2. Какую квантизацию автор советует выбрать между FP8 и Q8 для видео-модели?

  3. 3. Что необычного случилось с «красной машиной» именно на FP8?

  4. 4. Что в LTX деградирует раньше — видео или звук?

  5. 5. Почему плохой звук критичнее плохой картинки?

  6. 6. Какой уровень квантизации автор называет рабочей точкой по умолчанию?

  7. 7. Что происходит с разным контентом при сильном сжатии?

  8. 8. Кривая физика шарика на рампе и «неправильные» листья — это следствие чего?

  9. 9. Что измеряет метрика WER (word error rate) в этом тесте?

  10. 10. Сдвигается ли рабочая точка (sweet spot) при смене архитектуры модели?

Словарь терминов

Понять незнакомое простым языком

Показать 14 терминов
Квантизация
Сжатие весов нейросети до меньшего числа бит, чтобы модель занимала меньше памяти и влезала в видеокарту. Чем сильнее сжатие, тем выше риск артефактов.
FP16 / BF16
Полная (или почти полная) точность весов — 16 бит на вес. Эталон, с которым в тесте сравнивают все более сжатые версии.
FP8
Формат весов с плавающей точкой на 8 бит, аппаратно ускоряемый на новых GPU. В тесте при равных битах он дрейфует от оригинала сильнее, чем Q8.
Q8 (INT8)
8-битное целочисленное представление весов с группировкой. При том же размере, что у FP8, даёт более честный результат по всем метрикам.
Q4 / Q5 / Q6 / Q3_K_M / Q2
Уровни квантизации GGUF: чем меньше число, тем сильнее сжатие и меньше файл. Q4 — рабочий компромисс, Q2 — почти всегда непригодно.
GGUF
Формат файла квантованной модели, который грузят локальные инструменты вроде ComfyUI. В нём и лежат варианты Q4, Q8 и т.д.
ComfyUI
Популярный нодовый инструмент для локальной генерации изображений и видео; по умолчанию подтягивает квантованные GGUF-версии моделей.
SSIM
Метрика совпадения пикселей двух видео: 1 — кадры идентичны, ниже — больше отличий.
LPIPS
Перцептивная метрика отличий «как видят глаза»: 0 — идентично, выше — заметнее разница для человека.
Mel-спектрограмма (Mel-MSE)
Звуковой «отпечаток»: насколько сгенерированный звук отличается от эталона. 0 — идентично, рост означает деградацию аудио.
WER (word error rate)
Доля слов, разошедшихся с эталонной расшифровкой звука (получена через Whisper). 0 — текст распознан идентично.
WAN 2.2
Модель генерации видео из текста на 14 млрд параметров — одна из двух подопытных в тесте.
LTX 2.3
Модель на 22 млрд параметров, генерирующая видео и звук вместе, поэтому картинка и звук могут ломаться по отдельности.
RTX Pro 6000 Blackwell
Профессиональная видеокарта с 96 ГБ памяти, на которой автор гонял тесты; её хватает на модели в полной точности.

Критический взгляд

Объективно: с какими тезисами можно поспорить и что преувеличено

Спорно

Главный вывод «FP8 хуже INT8/Q8 по каждой метрике, формат важнее числа бит» подан как универсальный закон

Академический консенсус скорее обратный: при равных 8 битах FP8 обычно равен или чуть лучше INT8 (экспоненциальная сетка FP8 лучше переживает выбросы активаций). Вывод автора скорее про конкретные FP8-ядра видеомоделей, чем про формат как таковой.

Упрощение

Провал FP8 (машина задом наперёд, несуществующий смех в LTX) приписан самому формату FP8

Известная проблема — не формат, а реализация: нативный FP8 в FlashAttention3 даёт заметную деградацию именно на WAN-видео, тогда как FP8-GEMM с правильной по-тензорной/по-токенной калибровкой теряет минимум. То есть «поломка» — про конкретный инференс-движок и калибровку, а не про 8 бит с плавающей точкой в принципе.

Спорно

Числовые находки (FP8 вдвое дальше от baseline, Mel вырос ~5x на Q5→Q4, SSIM 0.74 на 2 битах) поданы как измеренные факты

Это n=1: один промпт-набор, один сид, одна видеокарта, без повторов. Автор честно говорит «with a grain of salt», но в выводах эта оговорка теряется. Без прогонов на разных сидах нельзя отделить эффект квантизации от обычного разброса генерации.

Спорно

SSIM/LPIPS/Mel-MSE используются как объективная линейка качества квантизации

Эти метрики созданы для задач реконструкции (сравнить кадр с эталоном), а здесь сравниваются два независимых стохастических генерата. При другом сиде картинка легитимно другая, и метрика штрафует за это, а не за деградацию. Сам автор ловит парадокс (SSIM 0.74 «нормально», а глазами — мусор).

Однобоко

Совпадение поведения двух архитектур («разные команды, а ломаются одинаково») подано как сильное подтверждение

Обе модели гонятся через общую GGUF/FP8-экосистему (Comfy-стек, одни и те же квантизаторы и ядра). Тогда совпадение может говорить не о фундаментальном свойстве квантизации, а об общих инструментах квантования — то есть это скорее про тулинг, чем про сами модели.

Упрощение

Рекомендация «Q4 по умолчанию» как универсальный sweet spot

Внутри самого теста Q4 уже даёт LPIPS 0.34 (дальше от эталона, чем FP8) и пятикратный скачок аудио-дрейфа на LTX, а лица «плывут» раньше всего. Для жёстких объектов Q4 — да, но для лиц и звука это уже за гранью; единый порог противоречит другому же выводу автора — «универсального обрыва нет».

Взгляни иначе

Новый угол, смежные области и потенциал на стыке — пища для размышлений

Другой угол

Не качество, а предсказуемость

Главная боль FP8 в тесте — не средняя деградация, а редкие катастрофы (машина задом, фантомный смех). Возможно, правильная ось сравнения не «насколько хуже в среднем», а «как часто формат срывается в абсурд». Для прода предсказуемая посредственность ценнее блестящего среднего с непредсказуемыми выбросами.

Другой угол

Аудио ломается первым — потому что его меньше учили

Вывод «звук деградирует раньше видео» можно перевернуть: дело не в природе аудио, а в том, что в гибридных моделях на звук приходится меньше параметров и данных. Тогда это не свойство квантизации, а индикатор, какая модальность недообучена — дешёвый способ найти слабое звено архитектуры.

Смежная область

Квантизация как краш-тест надёжности

Прогон до 2 бит ломает в первую очередь лица и физику движения — ровно то, что и так держится на волоске. Деградацию можно использовать не для выбора битности, а как диагностику: что отвалилось первым, то и было выучено хуже всего. Это инструмент аудита модели, а не только сжатия.

Смежная область

Тот же сюжет в LLM и аудиокодеках

История «формат важнее битов» давно знакома в LLM (где FP8-vs-INT8 спорят годами) и в аудиокодеках (где распределение бит важнее их числа). Перенос находок видео-теста в эти соседние области и обратно дал бы то, чего n=1 не может — проверку гипотезы на чужих данных.

На стыке областей

Метрика под генерацию, а не под реконструкцию

Парадоксы SSIM в тесте — повод не латать старые метрики, а строить новые: на стыке генеративных моделей и метрологии нужны меры, сравнивающие распределения выходов (как FVD/FID по множеству сидов), а не два конкретных клипа. Тот, кто сделает «метрику деградации от квантизации» правильно, закроет дыру всего жанра подобных тестов.

На стыке областей

Калибровка вместо выбора битности

Если провал FP8 — про калибровку и ядра, то реальный рычаг лежит не в «сколько бит», а на стыке квантизации и компиляторов/ядер: smart-калибровка под конкретный чип может вытащить FP8 выше Q8 на той же машине. Вопрос «Q4 или Q8» вторичен по сравнению с «как квантуем».

Похожие разборы

Разбор

Apple M5 Pro против RTX 5090 для локального ИИ: почему 64 ГБ памяти бьют сырую скорость

На моделях, которые влезают в 32 ГБ, RTX 5090 уверенно быстрее MacBook (123 против 42 токенов/с), но как только модель перестаёт помещаться в VRAM, она «проливается» в системную память и резко тормозит. На большой модели Qwen 3.5 (35 млрд параметров) MacBook с 64 ГБ объединённой памяти оказался почти вдвое быстрее десктопа с RTX 5090.

Читать → Разбор

Diffusion Gemma: зачем диффузионная LLM ускоряет локальный инференс и чем платит за скорость

Энтузиаст запускает локально открытую диффузионную LLM Google (Apache 2.0) и на живых замерах показывает: для одиночного пользователя она выдаёт ~94 ток/с против ~61 у обычной Gemma при сопоставимом качестве. Главный поворот — диффузия выгодна именно домашнему юзеру, а не дата-центру, и прирост скорости честен только там, где небольшая просадка качества допустима.

Читать → Разбор

GLM-5.2: открытая coding-модель сильна, когда ей дают исправляться

GLM-5.2 выглядит не как модель для одного идеального скриншота, а как сильный открытый агент, который умеет планировать, проверять код и чинить заметные поломки. Главный вывод ролика: для coding-моделей важнее цикл «сделал → запустил → исправил», чем первая красивая генерация.

Читать → Разбор

GLM 5.2 в вайбкодинге: где «убийца Fable» реально хорош, а где разочаровывает

Автор гоняет опенсорс-модель GLM 5.2 против Opus 4.8, GPT 5.5 и Cursor Composer 2.5 на фронтенде, фулстеке и мультиплеерных играх. Вывод: во фронтенде она правда на уровне топов и стоит копейки, но на сложных длинных задачах (онлайн-игры, девопс) до закрытых моделей пока не дотягивает.

Читать →
← Все разборы Смотреть видео-источник