📢 Больше — в Telegram
На канале «ИИ для жизни и работы» — короткие заметки и анонсы новых материалов. Подписывайтесь!
#новости
Не всякую задачу стоит отдавать самой мощной ИИ-модели. Распределение задач между разными моделями экономит деньги, ускоряет работу и помогает не зависеть от одного сервиса.
Как это устроено
Выбор модели — отдельный шаг, а не настройка по умолчанию. Подходов два:
🔹 Ручной — разработчик заранее решает, какая модель для чего.
⚡️ Автоматический — система смотрит на запрос и выбирает модель до того, как он уйдёт в работу.
Живые примеры
🔹 Простой запрос логично отдать лёгкой модели — например, Mistral Small.
🔹 Сложный, где нужно рассуждать, — более сильной, например Claude Sonnet.
Лёгкая отвечает быстрее и дешевле, сильная точнее там, где важны рассуждения.
Разработка с ИИ-агентами
Здесь модели делят по этапам работы:
🔹 Анализ и подготовку спецификации — более сложной модели (в примере GPT-6 Astra).
🔹 Реализацию стандартных шагов — более экономичной (GPT-5.6 Terra).
Главный принцип: выбор зависит от того, сколько неопределённости осталось в шаге. Чем меньше ясности — тем нужнее сильная модель; чем шаблоннее шаг — тем выгоднее простая.
Как правильно считать выгоду
Сравнивать цену отдельных запросов — путь в никуда. В исследовании SWE-Router предлагают другой принцип: считать экономию по стоимости готового проверенного изменения. По-простому — смотреть не на ценник одной попытки, а на итог: сколько раз модель ошибалась и сколько попыток понадобилось. Если дешёвая модель часто переделывает работу, с учётом повторов экономия может растаять.
Зачем это компаниям
🔹 Затраты — часть задач уходит на дешёвые модели.
🔹 Устойчивость — если сервис одного поставщика недоступен, запрос можно направить другому.
🔹 Данные — требования к обработке данных, внутренней инфраструктуре, информационной безопасности и нормам регулирования становятся одним из факторов выбора: часть запросов обрабатывают внутри компании, не отправляя наружу.
И ещё один нюанс: разные модели могут давать расходящиеся ответы. Это стоит учитывать, когда в системе несколько помощников.
А как вы выбираете модель под задачу?
❤️ — Подбираю под каждую задачу
👍 — Работаю с одной и той же
🤔 — Только начинаю разбираться
@ii_work_ru