Документация / Руководство администратора / Интеграции
LLM
LLM-интеграция подключает к Core языковую модель с HTTP API: модель отвечает в "LLM чат" на вопросы по уязвимостям и делает краткие выжимки. Функция требует платной лицензии.
Раздел: "Глобальные настройки" → "LLM". Право роли "LLM": "Просмотр" открывает чат, "Изменение" - настройки интеграций.
Как устроено
Core не обращается к модели напрямую. Запросы идут через отдельный сервис AI-прокси:
- При сохранении интеграции Core передаёт её настройки в AI-прокси, включая токен провайдера.
- Браузер пользователя получает у Core JWT для AI-прокси:
GET /api/v1/proxy/jwt/. - Чат обращается к AI-прокси, AI-прокси - к модели.
| Параметр установки | Назначение | По умолчанию |
|---|---|---|
AI_PROXY_URL |
адрес AI-прокси для Core | http://aiproxy:8080/ |
AI_PROXY_VERIFY |
путь к файлу CA для проверки TLS AI-прокси | системные CA |
AI-прокси
AI-прокси разворачивает по запросу команда SecurityFlow. Состояние прокси видно в форме интеграции: "Статус LLM прокси:".
Поля интеграции
Форма разделена на вкладки "Выберите вашего LLM провайдера", "Аутентификация", "Настройки пейлоада", "Настройки ответа", "Настройки". Для провайдера из списка поля запроса и ответа заполняются сами; для своей модели выберите "Свой".
| Поле | Что задаёт | По умолчанию |
|---|---|---|
| "Название" | имя интеграции в чате | - |
| URL хоста | адрес API модели | - |
| "Ключ заголовка аутентификации" | имя заголовка для токена | пусто |
| "Токен аутентификации" | токен провайдера; хранится зашифрованным | пусто |
| "Ключ дополнительного заголовка", "Значение" | дополнительный заголовок запроса | пусто |
| "Пейлоад реквеста (JSON)" | шаблон тела запроса к модели | шаблон провайдера |
| "Путь к промпту в пейлоаде реквеста" | куда в теле подставить вопрос | шаблон провайдера |
| "Путь к ответу" | где в ответе модели текст ответа | шаблон провайдера |
| "Таймаут запроса (секунды)" | предел ожидания ответа; 0 - без таймаута | 0 |
| "Проверять SSL" | проверка TLS при обращении к модели | включено |
| "Разрешить контекст" | пользователи могут прикладывать к вопросу данные Core | выключено |
| инструменты: "Без инструментов" или "Инструменты чтения" | модель может сама запрашивать данные Core на чтение | "Без инструментов" |
| "Использовать как LLM по умолчанию в чате" | модель чата по умолчанию; только у одной интеграции | выключено |
| "Использовать LLM для саммаризации по умолчанию" | модель для выжимок; только у одной интеграции | выключено |
Подсказка формы: стандартные настройки тела запроса и ответа менять не нужно, если у вас не особая сборка модели. "Запустить тестовый запрос" проверяет интеграцию до сохранения.
Настройка
- Убедитесь, что AI-прокси развёрнут: "Статус LLM прокси:" в форме.
- Откройте "Глобальные настройки" → "LLM" и создайте интеграцию.
- Выберите провайдера или "Свой", укажите URL хоста и токен.
- Для своей модели задайте шаблон тела запроса, путь к промпту и путь к ответу.
- Решите, разрешать ли контекст и инструменты чтения. См. предупреждение ниже.
- Нажмите "Запустить тестовый запрос", затем сохраните.
- Отметьте интеграцию как модель по умолчанию в чате.
- Выдайте право "LLM": "Просмотр" ролям, которым нужен чат.
Чат
"LLM чат" открывается пользователям с правом "LLM": "Просмотр". В настройках чата пользователь выбирает "LLM по умолчанию", "LLM для саммари", "Инструменты" и "Режим контекста":
| Режим контекста | Что уходит модели вместе с вопросом |
|---|---|
| "Без контекста" | только вопрос |
| "Последние сообщения" | последние сообщения чата |
| "Сводка" | краткая сводка чата |
| "Весь чат" | вся переписка |
Вызовы инструментов чат показывает блоком "Вызовы инструментов" с параметрами и результатом каждого шага.
Внешний провайдер
Форма предупреждает: "Включайте с осторожностью! Внешние LLM провайдеры могут раскрыть ваши секреты". Внешний провайдер получает всё, что ушло в чат: вопрос, историю, приложенный контекст и результаты инструментов чтения. В уязвимостях бывают секреты, найденные сканерами, пути и фрагменты кода.
- В закрытом контуре подключайте модель, развёрнутую у себя.
- Для внешнего провайдера не включайте "Разрешить контекст" и "Инструменты чтения".
- Выдавайте право "LLM" только тем ролям, которым чат нужен.
Отключение
Чтобы закрыть чат:
- поставьте право "LLM": "Нет" во всех ролях, или
- удалите LLM-интеграции.
Ограничения
- Без платной лицензии раздел и чат недоступны: 403 "Paid feature only.".
- Ответы модели Core не проверяет: чат предупреждает, что вывод ИИ может быть неточным.