2 мин чтения
Расходы на языковые модели растут не так, как подсказывает интуиция
Функция, которая в демо стоит копейки, в проде обходится в тысячи долларов в месяц — и почти никогда из-за цены за токен. Куда уходят деньги на самом деле.
Прикладной ИИ, а не новости об ИИ. Агенты, интеграции языковых моделей, контроль расходов и дистанция между эффектным демо и системой, которая держит прод.
ИИ-разработкаФункция, которая в демо стоит копейки, в проде обходится в тысячи долларов в месяц — и почти никогда из-за цены за токен. Куда уходят деньги на самом деле.