DaoXE в AnythingLLM

LLM Provider → OpenAI (Generic) в AnythingLLM принимает base URL, ключ и модель — ровно форма DaoXE. Одна настройка, и чат с документами, агенты и эмбеддинг-процессы берут модели с одного аккаунта (гайд по дешёвым API).

Зачем направлять AnythingLLM через DaoXE#

• Документы становятся базой знаний. RAG-чат по PDF и заметкам с выбранной моделью.
• Один ключ, много вендоров. Меняйте бэкенд без перезагрузки и переиндексации.
• Явные лимиты токенов. Поля context window и max tokens — настройки первого класса, а не скрытые дефолты.

Настройка в AnythingLLM#

1. Откройте настройки LLM. Settings → AI Providers → LLM → выберите OpenAI (Generic) из облачных провайдеров.
2. Base URL. https://daoxe.com/v1 — SDK под капотом дописывает пути сам, поэтому URL должен заканчиваться на /v1.
3. Ключ и модель. Вставьте ключ DaoXE; поле Chat Model подтягивает ID из /v1/models аккаунта — выберите точный.
4. Два числовых поля. Model context window — реальное окно выбранной модели; Max Tokens — лимит на запрос. Ошибки здесь дают молчаливую усечку, а не исключение.

Убедитесь, что отдают настоящую модель#

Сначала проверьте эндпоинт, а не клиент — если это не работает, настройки не помогут:

export DAOXE_API_KEY="your_api_key"

# List the exact model IDs your account can call
curl --fail-with-body --show-error --silent \
  https://daoxe.com/v1/models \
  -H "Authorization: Bearer ${DAOXE_API_KEY}"

Проверьте эндпоинт вне клиента, затем сравните сложный промпт с официальным API при temperature 0:

curl --fail-with-body --show-error --silent \
  https://daoxe.com/v1/chat/completions \
  -H "Authorization: Bearer ${DAOXE_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_EXACT_MODEL_ID",
    "max_tokens": 64,
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Частые вопросы#