Heli + RAGFlow: модели для RAG через OpenAI-API-Compatible

RAGFlow — open-source движок RAG с глубоким разбором документов: базы знаний из PDF, таблиц и сканов, чат-ассистенты и агенты поверх них. Для ответов RAGFlow нужна chat-модель, для индексации — модель эмбеддингов. Обе можно взять из Heli через провайдер OpenAI-API-Compatible: один ключ sk-heli-… и оплата в рублях.

Настройка провайдера

Модель эмбеддингов выбирайте до загрузки документов: в уже заполненной базе знаний её смена потребует повторного парсинга. Chat-модель ассистента можно менять в любой момент: она влияет только на ответы, а не на индекс. Разным ассистентам можно назначить разные chat-модели.

  • Зарегистрируйтесь на getheli.ru (подтверждение почты или вход через Google / Яндекс ID) и создайте ключ на вкладке «Ключи».
  • В RAGFlow откройте настройки пользователя → Model providers.
  • Выберите провайдер OpenAI-API-Compatible. В новых версиях сначала создайте instance (например, heli).
  • API Key: sk-heli-…, Base URL: https://getheli.ru/v1.
  • Добавьте модель (custom model): имя — точный слаг Heli, тип chat, Max tokens — по карточке модели.
  • Добавьте вторую модель с типом embedding, например openai/text-embedding-3-small.
  • В System Model Settings назначьте их моделями по умолчанию для чата и эмбеддингов.
code
Provider:   OpenAI-API-Compatible
Base URL:   https://getheli.ru/v1
API Key:    sk-heli-ВАШ_КЛЮЧ
Chat:       google/gemini-3.5-flash        (type: chat)
Embedding:  openai/text-embedding-3-small  (type: embedding)

# Проверка эмбеддингов вне RAGFlow
curl https://getheli.ru/v1/embeddings \
  -H "Authorization: Bearer sk-heli-ВАШ_КЛЮЧ" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/text-embedding-3-small", "input": "проверка"}'

Какие модели выбрать

В RAG основная работа — найти нужные фрагменты и коротко пересказать их, поэтому для большинства баз знаний хватает быстрой модели с длинным контекстом. Сильная модель нужна, когда вопросы требуют сопоставления многих документов или точных формулировок.

Gemini 3.5 Flash — ответы ассистента по базе знаний.

Claude Sonnet 5 — сложные вопросы и агенты.

text-embedding-3-small — эмбеддинги для индекса.

Частые ошибки

  • Долгая проверка или ошибка при сохранении — RAGFlow делает тестовый запрос; проверьте Base URL с /v1 и доступ к getheli.ru из Docker-контейнера (curl изнутри контейнера).
  • 401 — неверный или отозванный ключ: создайте новый в кабинете.
  • 402 insufficient_balance — закончился баланс; парсинг и ответы возобновятся после пополнения.
  • Unsupported model / модель не найдена — имя модели должно совпадать со слагом из GET /v1/models, включая префикс вендора.
  • Таймауты при парсинге больших файлов — загружайте документы партиями и выберите более быструю модель для этапов, где RAGFlow вызывает LLM.

Документация API — chat completions и embeddings.

Оплата — пополнение баланса.

Какую модель выбрать для RAG

Попробуйте Heli

Ключ sk-heli- появляется после подтверждения почты. Через Google и Яндекс — сразу в кабинете.

Документация API · Модели и цены

Читайте также