Claude Haiku 5.5 за 10 центов: когда компактная модель может заменить старшую

Haiku 5.5 обещает стать недорогой моделью для типовых операций без постоянной ручной проверки каждого третьего ответа. Здесь собраны цены, результаты тестов Anthropic и расчёты для пяти распространённых сценариев, чтобы понять, когда экономия оправдана, а когда лучше выбрать Sonnet или Opus.

Я изучил анонс и документацию Anthropic для разработчиков, затем рассчитал цену пяти типовых задач для Haiku 5.5, Sonnet 5.5 и Opus 5.5. Собственных оценок качества здесь нет: все результаты тестов приводит Anthropic. Стоимость взята из официального прайса, а объём токенов для сценариев оценён мной, это не меняет порядок сумм.

Особенно выделяется стоимость кэша. Когда запросы содержат одинаковый объёмный фрагмент, например инструкцию, базу знаний или карточки товаров, его можно сохранить в кэше. Тогда за миллион повторно использованных токенов придётся заплатить один цент.

Одновременно с Haiku компания вдвое уменьшила цену чтения кэша для Sonnet 5.5: было $0,20, стало $0,10.

Для каждого варианта ниже рассчитана тысяча одинаковых запросов на всех моделях. Токены рассуждений в суммы не включены, о них речь пойдёт дальше. У трёх моделей линейки 5.5 близкий токенизатор, поэтому сопоставление между ними корректно.

1. Категоризация писем. Письмо вместе с инструкцией занимает около 800 токенов, ответ из одного слова с пояснением, примерно 30. Для тысячи писем Haiku 5.5 потребует около $0,10, Sonnet 5.5, $1,90, Opus 5.5, $3,80. Это чистая классификация, задача, под которую Haiku и создавали.

2. Извлечение реквизитов из счёта. На вход подаются 2 000 токенов, на выходе получается JSON на 200. Тысяча документов стоит $0,30 на Haiku, $6 на Sonnet и $12 на Opus. Здесь критична заранее заданная схема полей: при жёстком формате ответа компактная модель работает лучше.

3. Пересказ статьи. Для статьи объёмом 6 000 токенов и пересказа на 400 расчёт такой: Haiku, $0,80 за тысячу материалов, Sonnet, $16, Opus, $32. Anthropic относит пересказы к ключевым сценариям этой модели.

4. Ответы поддержки по базе знаний. База объёмом 20 000 токенов находится в кэше, вопрос содержит 300 токенов, ответ, 250. Тысяча ответов обойдётся примерно в $0,36 на Haiku, $5,10 на Sonnet и $10,20 на Opus. Без кэширования стоимость Haiku достигла бы $2,16, поэтому здесь кэш важнее выбора конкретной модели.

5. Полный разбор длинного договора. Документ занимает 150 000 токенов, результат, 2 000, расчёт сделан для сотни договоров. Из-за превышения 100 тысяч токенов включается дорогой тариф: Haiku стоит $8, Sonnet, $32, Opus, $64. Если разделить договор на части меньше 100 тысяч токенов, вход Haiku вновь оценивается в $0,10, а сотня договоров потребует около $2. Но результаты отдельных частей придётся сводить самостоятельно.

В анонсе Anthropic сопоставляет Haiku 5.5 с Haiku 4.5 и Sonnet 5.5. Относительно предыдущей версии прогресс заметный, однако в каждом тесте Haiku всё ещё проигрывает Sonnet:

Наиболее заметно модель отстаёт в продолжительных задачах, связанных с командной строкой и кодом. Это соответствует рекомендации Anthropic: агентное программирование стоит поручать Sonnet 5.5 либо Opus 5.5, а Haiku использовать как помощника для простых подзадач, которые распределяет старшая модель.

Я бы не поручал Haiku финальные публикационные тексты и выводы, в которых фактическая ошибка обходится дорого. Зато подготовительную работу перед такими этапами ей можно передать.

Рассуждение работает по умолчанию. Haiku 5.5 размышляет до ответа, даже когда пользователь не просил об этом, а стандартный уровень усилия установлен на среднем значении. Токены рассуждения оплачиваются по выходному тарифу. Для сортировки писем это лишняя статья расходов, поэтому укажите output_config: { effort: "low" }. Haiku стала первой моделью своей линейки, где этот уровень можно менять.

Лимит в 100 тысяч токенов. Учитывается весь запрос: инструкция и история диалога тоже входят в объём. В продолжительном чате история постепенно увеличивается, после чего очередной запрос начинает стоить в пять раз дороже. При работе с Haiku следите за историей или сокращайте её.

Изменился токенизатор. Один и тот же текст превращается в большее количество токенов, чем у Haiku 4.5. Anthropic пишет о «немного большем» объёме, а документация по миграции называет значение около 30 %. 90 % экономии на коротких запросах компания рассчитывает уже с учётом этого изменения. Но при сравнении счетов по количеству токенов, а не по деньгам, цифры двух версий будут различаться.

Старый код способен завершиться ошибкой. Haiku 5.5 не поддерживает нестандартные значения temperature, top_p и top_k, а также установленный бюджет рассуждений budget_tokens. Программа для Haiku 4.5 с temperature: 0 вернёт ошибку 400. Теперь формат результата задаёт схема, а не температура.

Нет резервной модели при отказе. В Haiku 5.5 фильтры кибербезопасности жёстче, чем в Haiku 4.5. Если модель откажется отвечать, сервер не переключит запрос на другую модель автоматически. Такой отказ нужно обработать в собственном коде.

Haiku 5.5 справляется с большей частью черновых процессов: разметкой, извлечением данных, пересказами, поддержкой и первым изучением документов. В этих сценариях она стоит в 20–40 раз меньше старших моделей, а их запас возможностей обычно не требуется. Сложный код, длинные цепочки рассуждений и тексты для читателя по-прежнему лучше поручать Sonnet или Opus.

Практичная схема выглядит так: Haiku сортирует данные и готовит материал, а старшая модель выполняет последний шаг. Тысяча писем за десять центов оставляет бюджет на то, чтобы наиболее важные из них проверила Opus.

Для пользователей платной подписки есть ещё одно изменение. Вместе с Haiku 5.5 Anthropic добавила ежемесячный кредит на API для Max и Team: $100 у Max 5x, $200 у Max 20x и до $500 для команды. Этого достаточно, чтобы проверить все пять задач на собственных данных.

Текст подготовлен с использованием искусственного интеллекта.