Установка Veai Enterprise
Чтобы Veai Enterprise полноценно функционировал в корпоративной инфраструктуре, недостаточно ограничиться установкой плагина Veai на рабочие устройства. Необходимо также развернуть два ключевых компонента:
- Veai Server — отвечает за управление лицензиями и централизованный мониторинг системы.
- LLM Server — обеспечивает безопасное взаимодействие с языковыми моделями внутри корпоративного контура.
Прежде чем начать развертывание
Для установки Veai Server мы предоставим вам:
- корпоративный лицензионный ключ,
- Ansible playbook для автоматизированного развертывания.
Чтобы получить лицензионный ключ, отправьте запрос на sales@veai.ru.
При формировании лицензионного ключа потребуется предоставить:
- IP-адрес или доменное имя, которое будет использоваться для размещения сервера;
- количество пользователей плагина, входящих в корпоративную подписку;
- желаемый срок действия ключа.
Как развернуть Veai server?
После того как вы получите лицензионный ключ и кастомизированный Ansible playbook, выполните Развертывание Veai server
⚠️ Обратите внимание: система мониторинга не является обязательной, однако мы рекомендуем включить её. Телеметрия собирается в контуре вашей компании и не отправляется во внешние источники. При желании вы можете предоставить её нам – например, чтобы помочь воспроизвести и устранить возникшие проблемы.
Минимальные требования к вычислительным ресурсам: 2 CPU, 8 Gb RAM, 30 Gb Storage.
Как развернуть LLM Server?
Для интеграции языковой модели мы предлагаем два варианта развертывания:
- VPC: на серверах облачного провайдера Immers;
- On-premise: в контуре вашей компании.
Если вы планируете развернуть LLM Server внутри корпоративного контура, убедитесь, что инфраструктура соответствует минимальным характеристикам:
| GPU | 2 × Nvidia H100 80 GB |
| CPU | 16 cores |
| RAM | 256 GB |
| Storage | 512 GB |
Если ваша инфраструктура не соответствует этим требованиям, напишите на sales@veai.ru — мы поможем подобрать оптимальное решение.
Вы также можете подключить собственную языковую модель. Однако стоит учитывать, что такие модели могут обладать более низким качеством, а также они не проходят файнтюнинг под задачи плагина Veai. В результате это может негативно сказаться на точности и стабильности работы инструмента.
Как установить плагин Veai в IDE?
Порядок установки зависит от выбранного варианта развертывания:
- VPC: выполните шаги по установке плагина из инструкции
- On-premise: запросите дистрибутив плагина и инструкцию по адресу sales@veai.ru.
Необходимо использовать сборку, согласованную с версией Veai Server, развернутого в вашем контуре.
После установки плагина откроется его стартовое окно.
- Выберите тарифный план
Enterprise - Введите предоставленный лицензионный ключ
Veai Enterprise готов к работе!