B2BB2B LLM

Развёртывание LibreChat

Настройте общий сервер чата без распространения его серверного ключа.

Поместите адрес компании в конфигурацию пользовательских эндпоинтов LibreChat и загружайте Bearer из серверного окружения. Не помещайте многоразовый токен в клиентскую сборку или сохранённую в репозитории конфигурацию.

Пример секции librechat.yaml:

version: 1.2.1
endpoints:
  custom:
    - name: "Company assistant"
      apiKey: "${B2B_API_KEY}"
      baseURL: "https://api.b2b-llm.com/v1"
      models:
        default: ["gpt-5.4"]
        fetch: true
      titleConvo: true
      titleModel: "gpt-5.4"
      modelDisplayLabel: "B2B LLM"

Замените модели доступными вам значениями и выберите подходящую вспомогательную модель для заголовков. Если установленная версия поддерживает fetch: true, этот параметр читает каталог моделей с авторизацией, а не использует только список по умолчанию.

После изменения защищённого окружения или конфигурации перезапустите сервис LibreChat. Проверьте один пользовательский диалог и историю запросов шлюза. Доступ пользователей LibreChat — отдельный уровень относительно единственного ключа его сервера; не предполагайте, что шлюз автоматически получает личность каждого участника чата.

Для раздельного учёта проектов или изоляции выдавайте отдельные ключи и эндпоинты приложений по схеме вашей установки. Перед использованием настроек другой версии изучите схему конфигурации установленного LibreChat.