Разборы · Статья: · Видео: · 29 мин
Скрытые «предохранители» Fable: как Anthropic незаметно ослаблял лучшую модель — и зачем
Theo разбирает странную историю с релизом Fable 5: невидимые ограничения, переписанный system card и обязательное хранение данных. И объясняет, почему это превращает ИИ-модель в риск для вашей цепочки поставок.
Коротко
Fable 5 — это та же топовая модель Mythos 5, но с «охранниками»: на части запросов она молча подменяет промпт или перекидывает вас на более слабую Opus 4.8 — за полную цену. Скрытое ослабление ответов по ИИ-разработке и обязательное 30-дневное хранение данных подорвали доверие, и после волны критики Anthropic откатил самое спорное решение.
Объясни проще
Суть без жаргона
Простыми словами
Anthropic выпустил очень мощную модель, но к её «публичной» версии (Fable 5) приставил автоматических цензоров. На запросы про кибербезопасность, биологию или разработку ИI они либо отказывают, либо тихо подсовывают модель послабее — а счёт за это всё равно выставляют как за топовую. Самое неприятное: часть таких ограничений работала незаметно, прямо ухудшая ваш результат без предупреждения.
Как ребёнку
Представь, что есть супер-умный помощник, но к нему приставили строгого охранника. Если ты спросишь что-то «из запретного списка», охранник тихо подменит помощника на тупого двойника — а деньги возьмёт как за умного. И тебе даже не скажут, что подменили.
Оценка видео
Чем выше — тем больше пользы на минуту
средняя из 5
Свежий разбор горячего релиза — события буквально разворачиваются по ходу видео.
Плотный разбор фактов из system card, но с эмоциями и одной конспирологической гипотезой.
Свежий взгляд: модель как «риск цепочки поставок» — мысль, которую раньше не формулировали так остро.
Факты из system card подтверждаются сторонними источниками; гипотеза о «протёкшем IP» — личное предположение автора.
Инсайты
Нажми, чтобы раскрыть — то, что меняет взгляд на тему
01 Fable 5 и Mythos 5 — это одна и та же модель, просто две «двери»
Базовая модель одна. Mythos 5 — дверь без охраны для избранных, Fable 5 — та же дверь, но с охранниками, которые проверяют, что вы делаете. Разница не в «уме», а в том, кого и куда пускают.
02 Главная проблема — не отказ, а молчаливое ухудшение
Отказ виден и его можно обойти или оспорить. А когда модель тихо подменяет ваш промпт «сделай похуже» и не сообщает об этом, вы не можете отличить ошибку модели от намеренного саботажа. Это убивает саму возможность доверять выводу.
03 «0,03% трафика» — это не граница, а движущаяся черта
Сегодня под ограничения «разработки ИИ» попадают единицы. Но определение «ИИ-компании» расширяется: всё больше обычных продуктов внутри обучают и тюнят модели. Завтра под фильтр случайно попадёте и вы, отлаживая свой пайплайн.
04 Модель стала риском цепочки поставок
Если поставщик может незаметно ухудшить ваш результат, он перестаёт быть просто инструментом и становится скрытой зависимостью с непредсказуемым поведением. Тот самый «supply chain risk», в защите от которого Theo раньше оправдывал Anthropic.
05 Прозрачность и защищённость фильтров — это компромисс
Видимые ограничения легко прощупать и обойти, поэтому их надо делать «крепкими», а это долго. Невидимые можно выкатить быстро и точечно — но ценой доверия. Anthropic выбрал скорость и проиграл в доверии.
Полезные советы
Что можно применить уже сегодня. Разверни совет — сколько займёт, что даст и что конкретно делать
Не используй Fable 5 там, где нужна гарантия по данным
Mythos-class модели требуют обязательного 30-дневного хранения и не поддерживают Zero Data Retention. Для медданных, HIPAA и корпоративных DPA с запретом на хранение это формально дисквалифицирует модель.
Закладывай «налог на переадресацию» в бюджет
Около 5% сессий могут уехать на Opus 4.8 — и счёт придёт по тарифу Opus. Если гоняете чувствительные к фильтрам темы (крипто-головоломки, биология, обучение моделей), считайте это скрытой статьёй расходов.
Сохраняй исходные system card и условия
Theo поймал Anthropic на тихой правке system card задним числом (без смены даты). Скачивай и архивируй документы поставщика в момент релиза — потом сравнивать будет не с чем.
Имей запасную модель на случай тихого саботажа
Если задача связана с обучением/тюнингом моделей или просто упирается в фильтры, держите альтернативу (другой фронтир-лаб или open-weight модель из Китая) — чтобы отличить «модель тупит» от «модель нерфят».
Жалуйся, когда видишь необоснованный фолбэк
В Claude Code — команда /feedback, в вебе — палец вниз на фолбэке, для API — форма апелляции. Это реально влияет: именно давление сообщества заставило Anthropic откатить невидимые ограничения.
Сценарии применения
Как разные люди применяют это на практике
Я как разработчик
Проблема: модель иногда даёт плохой ответ, и непонятно почему
Хочу: понимать, ошиблась модель или её намеренно ослабили
Поможет: статья объясняет механику невидимых фильтров и подсказывает держать запасную модель, чтобы отличить саботаж от обычной ошибки
Я как ИБ-инженер / безопасник
Проблема: надо оценить нового поставщика ИИ как зависимость в продукте
Хочу: понять, какие новые риски несёт модель с скрытыми ограничениями
Поможет: разбор формулирует «модель как supply chain risk» и показывает, на что смотреть в system card
Я как ML-инженер в стартапе
Проблема: тюню небольшие модели для своего продукта и боюсь попасть под фильтр
Хочу: знать, какие задачи Anthropic считает «разработкой фронтир-моделей»
Поможет: статья перечисляет триггеры (пайплайны предобучения, распределённое обучение, дизайн ускорителей) и предупреждает о расширении определения «ИИ-компании»
Я как руководитель в enterprise / комплаенс
Проблема: у нас контракт с запретом на хранение данных (ZDR)
Хочу: понять, можно ли вообще пускать Fable 5 в работу
Поможет: статья объясняет, что 30-дневное хранение перекрывает ZDR без опции отказа — и почему Microsoft и часть Fortune 500 формально запретили модель
Я как исследователь ИИ
Проблема: хочу честно прогнать модель на R&D-бенчмарках
Хочу: быть уверенным, что низкий балл — это реальная неспособность, а не скрытый фильтр
Поможет: разбор показывает, почему невидимые ограничения делают модель непригодной для воспроизводимых оценок
Я как продакт-менеджер
Проблема: выбираю модель для продукта на годы вперёд
Хочу: оценить долгосрочные риски доверия к поставщику
Поможет: статья даёт рамку: прецедент тихого ухудшения опасен сам по себе, даже если конкретную фичу откатили
Логика повествования
Как устроена аргументация видео — пройди по шагам
-
Предпосылка Fable 5 = Mythos 5, но с «охранниками»
Базовая модель одна. Mythos 5 — дверь для избранных без проверки, Fable 5 — та же модель, но запросы фильтрует набор классификаторов перед тем, как пустить к модели.
-
Аргумент Видимые фильтры: кибербез, биология, химия, дистилляция
На «опасных» темах запрос переадресуется на более слабую Opus 4.8, и вас об этом уведомляют (а заодно биллят по тарифу Opus). Срабатывает примерно в 5% сессий, часто на безобидном.
-
Аргумент Невидимый фильтр на «разработку ИИ»
Для запросов про обучение фронтир-моделей фолбэка нет и уведомления нет: модель молча подменяет промпт, применяет steering-векторы или мини-дообучение, ухудшая ответ. Заявлено 0,03% трафика.
-
Аргумент Обязательное 30-дневное хранение данных
Mythos-class модели требуют хранения всего трафика и не поддерживают ZDR. Флаг безопасности продлевает хранение до 2 лет — это выбивает большинство enterprise-кейсов.
-
Пример Пойман на тихой правке system card
Theo сравнил сохранённую копию с актуальной версией: раздел про prompt modification исчез с прежней страницы, дата не изменилась. Поставщик пытался переписать историю.
-
Аргумент Конспирология: в весах «протекло» проприетарное знание
Гипотеза автора: Anthropic случайно вшил в Mythos своё внутреннее research-IP (по графику про «исправление ошибок исследователей») и теперь прячет это от конкурентов невидимыми фильтрами.
-
Вывод Откат под давлением — но прецедент создан
После критики Anthropic сделал фильтры на ИИ-разработку видимыми и извинился. Но возможность тихо ухудшать ответ теперь существует — и это превращает модель в риск цепочки поставок.
Подробный разбор
Полный разбор — разверни, если нужно глубже
Развернуть подробный разбор Свернуть подробный разбор
Что вообще случилось
Anthropic выпустил Fable 5 — публичную версию своей сильнейшей модели Mythos 5. Это та же базовая модель, но к ней приставили набор классификаторов, которые проверяют запрос до того, как он дойдёт до модели. На темах вроде кибербезопасности, биологии и химии запрос видимо переадресуется на более слабую Opus 4.8 (и счёт приходит по тарифу Opus). Срабатывает это примерно в 5% сессий — и нередко на совершенно безобидных запросах вроде криптографических головоломок с Defcon.
Почему это «странно» и неприемлемо
Главная претензия Theo — не сами отказы, а невидимый фильтр на «разработку фронтир-моделей». Для таких запросов не было ни фолбэка, ни уведомления: модель молча подменяла промпт, применяла steering-векторы или мини-дообучение и выдавала ухудшенный ответ — за полную цену. Плюс обязательное 30-дневное хранение данных, отменяющее ZDR-договорённости (из-за чего модель формально заблокировали даже в Microsoft), и пойманная в прямом эфире тихая правка system card задним числом. Отдельно автор выдвигает гипотезу: в веса Mythos случайно «протекло» внутреннее research-IP Anthropic, и невидимые фильтры — попытка спрятать его от конкурентов.
Чем закончилось и почему это важно
Под давлением исследовательского сообщества Anthropic откатил самое спорное решение: сделал фильтры на ИИ-разработку видимыми (теперь это виден фолбэк на Opus 4.8) и извинился, назвав невидимый вариант «неверным компромиссом». Но вывод Theo жёсткий: сам прецедент тихого ухудшения ответа уже создан. Модель, которой поставщик может незаметно подпортить вывод, перестаёт быть просто инструментом и становится риском в вашей цепочке поставок — и отличить «модель ошиблась» от «модель нерфят» вы больше не сможете.
План внедрения
С чего начать — отмечай шаги, прогресс сохранится
Выполнено 0 из 5
Проверь себя
Ответь на вопросы, чтобы материал закрепился
-
1. В чём, по Theo, ключевое отличие Fable 5 от Mythos 5?
-
2. Что Theo считает самым неприемлемым в реализации Fable 5?
-
3. Что происходит, когда срабатывает видимый фильтр (кибербез/биология)?
-
4. Почему 30-дневное хранение данных Mythos-class моделей — проблема для бизнеса?
-
5. В чём суть метафоры «риск цепочки поставок» применительно к модели?
-
6. Чем закончилась история с невидимыми ограничениями на разработку ИИ?
Словарь терминов
Понять незнакомое простым языком
Показать 7 терминов Свернуть словарь
- Fable 5 / Mythos 5
- Две «двери» к одной и той же топовой модели Anthropic. Mythos 5 — для избранных без фильтров, Fable 5 — публичная версия с классификаторами-«охранниками».
- Фолбэк (rerouting)
- Автоматическая переадресация запроса с топовой модели на более слабую (здесь — Opus 4.8), когда сработал фильтр безопасности.
- ZDR (Zero Data Retention)
- Политика нулевого хранения данных: поставщик не сохраняет ваши промпты и ответы. Mythos-class модели её не поддерживают.
- System card
- Официальный документ-«паспорт» модели с описанием её возможностей, ограничений и мер безопасности.
- Prompt modification / steering vectors / PEFT
- Способы тихо ослабить модель: подмена вашего запроса, сдвиг её «направления мышления» или точечное мини-дообучение — всё без уведомления пользователя.
- Дистилляция (distillation)
- Обучение своей модели на ответах чужой, чтобы скопировать её способности. Anthropic специально этому мешает.
- Supply chain risk (риск цепочки поставок)
- Угроза, приходящая через зависимость или поставщика: здесь — что модель в вашем пайплайне может незаметно испортить результат.
Похожие разборы
Fable 5 в разработке игр: сильная полировка не равна магическому редизайну
Fable 5 хорошо читает существующий проект, чинит детали, улучшает камеру и добавляет полировку, но в one-shot не обязательно радикально переделывает игру. Главный урок: если нужен большой редизайн, его надо явно требовать, дробить на этапы и проверять геймплей, а не ждать магии от одной фразы.
Читать → РазборFable 5 против Codex 5.5: почему самопроверка важнее красивого демо
Видео показывает не «кто умнее вообще», а где coding-агент проваливает последнюю милю: физику, коллизии, мобильное управление, реальные данные и самоисправление. Fable 5 чаще выглядит как агент, который дольше проверяет себя и доводит идею до playable-состояния, а Codex 5.5 часто даёт красивый, но менее надёжный первый проход.
Читать → РазборAI-агенты, работающие 24/7: как собрать автоматизацию без кода на Base44 Superagents
Видео показывает, как на платформе Base44 Superagents собрать связку агентов, которые сами ищут новости, пишут скрипты и шлют их на почту по расписанию — описывая всё обычным текстом, без программирования. Главная идея — не один гигантский промпт, а конвейер из узких агентов с ролями, выполняющийся 24/7 в облаке.
Читать → РазборЛупы вместо промптов в вайб-кодинге: цель со стоп-условием, которая крутится сама
Луп — это рекурсивная цель со стоп-условием: ставишь задачу один раз, и агент сам крутится «сделал → проверил → не готово → снова», пока условие не выполнится. Лупы не заменяют промптинг, а снимают ежедневную рутину — и, как признаёт сам автор, доступны уже в Claude Code и Codex через goals, а не только в его платформе.
Читать →