Skip to main content

Возможности

Что умеет Veai CLI: модели и автоподбор модели, свои провайдеры и локальные модели, управление из Telegram, самонастройка агента, субагенты, фоновые задачи и прогрев кэша.

📄️Работа с кэшем моделей

Многие провайдеры на несколько минут кэшируют начало запроса: системный промпт, инструменты и предыдущую переписку. Следующий запрос с тем же началом читает эту часть из кэша по сниженной цене. Когда кэш истекает, следующий запрос снова оплачивается полностью.