Skip to main content

Модели

Какие модели доступны в Veai CLI, как выбирать их вручную и автоматически, как подключить свои ключи, шлюз или локальную модель и как экономить на кэше.

📄️Работа с кэшем моделей

Многие провайдеры на несколько минут кэшируют начало запроса: системный промпт, инструменты и предыдущую переписку. Следующий запрос с тем же началом читает эту часть из кэша по сниженной цене. Когда кэш истекает, следующий запрос снова оплачивается полностью.