💬

Открытый веб-сайт

Интерфейсы для разговоров IA

Удобное для пользователя WebUI для LMM (бывший Ollama WebUI).

Развертывание информации

Развертывание: 2-5 мин.
категория: Интерфейсы для разговоров IA
Min RAM: 2048MB
Поддерживать: Билеты и электронная почта

Поделитесь этим руководством

Общий обзор

Open WebUI представляет собой расширяемый, богатый функциями и удобный веб-интерфейс для самостоятельного развертывания, предназначенный для работы полностью офлайн. Изначально созданный как Ollama Web UI, проект превратился в комплексную платформу, которая поддерживает несколько бэкендов LLM, включая Ollama, OpenAI API и любые совместимые с OpenAI конечные точки, обеспечивая гибкость и независимость от поставщика.

Платформа выделяется интуитивным интерфейсом в стиле ChatGPT в сочетании с мощными функциями, которые редко встречаются в других решениях для самостоятельного развертывания. Open WebUI обеспечивает полноценный опыт работы с диалоговым ИИ: поддержку нескольких пользователей, историю диалогов, загрузку документов с RAG (генерацией с дополнением выборкой), интеграцию с веб-поиском, генерацию изображений, голосовой ввод и вывод, а также широкие возможности настройки.

Построенный на принципах конфиденциальности и владения данными, Open WebUI хранит все диалоги, документы и данные пользователей локально на вашем VPS без внешних зависимостей. Архитектура обеспечивает отсутствие телеметрии, полную офлайн-работу и полный контроль над взаимодействием с ИИ. Это делает решение идеальным для организаций с жесткими требованиями к управлению данными и для частных лиц, которые ставят конфиденциальность в своих ИИ-процессах на первое место.

Платформа поддерживает сложные рабочие процессы, выходящие за рамки простого чата. Пользователи могут создавать собственные промпты, формировать пресеты моделей с заданными параметрами, организовывать диалоги с помощью тегов и папок, совместно работать через общие рабочие пространства и расширять функциональность с помощью системы плагинов. Панель администратора предоставляет полное управление пользователями, аналитику использования и системные настройки для развертываний с несколькими пользователями.

Open WebUI бесшовно работает с Ollama для запуска локальных моделей, а также подключается к OpenAI, Azure OpenAI или любой совместимой конечной точке API, что позволяет создавать гибридные развертывания, использующие как локальные, так и облачные ресурсы. Такая гибкость дает организациям возможность использовать более дешевый локальный инференс для рутинных задач и оставлять облачные API для специализированных требований.

Установка и развертывание упрощаются благодаря контейнерам Docker, для начала работы требуется минимум настроек. Платформа автоматически находит установки Ollama в той же системе, что упрощает настройку для пользователей, которые запускают обе службы на своем VPS. Для производственных развертываний Open WebUI поддерживает аутентификацию через OpenID Connect, интеграцию с LDAP и гранулярное управление правами доступа.

Основные характеристики

Гибкость с несколькими бэкендами

Подключайтесь к Ollama, OpenAI, Azure OpenAI или любому API, совместимому с OpenAI. Переключайтесь между моделями разных провайдеров в одном интерфейсе.

Обработка документов для RAG

Загружайте документы (PDF, DOCX, TXT) для диалогов с учетом контекста. Локальные эмбеддинги и векторный поиск обеспечивают приватные ответы на вопросы по документам без облачных сервисов.

Полное управление пользователями

Поддержка нескольких пользователей с аутентификацией, ролевым контролем доступа, изоляцией рабочих пространств и панелью администратора. Интеграция OIDC и LDAP для корпоративной аутентификации.

Расширенные возможности чата

Ветвление диалогов, регенерация, редактирование, поиск по всей истории, теги и папки для организации. Экспорт диалогов в Markdown или JSON.

Поддержка изображений и голоса

Генерация изображений с интеграцией DALL-E или Stable Diffusion. Голосовой ввод через Web Speech API и голосовой вывод с помощью синтеза речи из текста.

Расширяемая система плагинов

Расширяйте функциональность с помощью пользовательских функций, инструментов и интеграций. Плагины сообщества для веб-поиска, выполнения кода, API-коннекторов и специализированных рабочих процессов.

Примеры использования

- Платформа для командной работы: общее рабочее пространство, в котором команды взаимодействуют с моделями ИИ, делятся диалогами и формируют общую базу знаний
- Помощник для исследования документов: загрузка научных статей, контрактов или документации для ответов на вопросы и анализа с помощью ИИ без передачи данных в облако
- Инструмент разработки: помощник по программированию с поддержкой нескольких моделей, историей диалогов и организацией фрагментов кода
- Интерфейс службы поддержки клиентов: внутренний инструмент, с помощью которого сотрудники поддержки используют ИИ для более быстрого составления ответов и поиска информации
- Образовательная платформа: среда для нескольких пользователей, где студенты и преподаватели могут безопасно экспериментировать с различными моделями ИИ
- Персональное управление знаниями: частная альтернатива ChatGPT для систематизации мыслей, заметок и диалогов с полным владением данными

Руководство по установке

Установите Open WebUI на VPS с Ubuntu с помощью Docker, это самый простой способ развертывания. Загрузите официальный образ и запустите его с пробросом порта 3000. Для интеграции с Ollama на том же хосте используйте сетевой режим host или подключитесь к API Ollama по сети.

Базовая установка требует одной команды docker run с монтированием тома для постоянного хранения данных. Задайте переменные окружения для метода аутентификации, модели по умолчанию и внешних ключей API, если используете облачные бэкенды.

Для производственных развертываний используйте Docker Compose с отдельными контейнерами для Open WebUI, Ollama и дополнительных служб, например Redis или PostgreSQL для хранения сессий. Настройте обратный прокси Nginx для терминации SSL и сопоставления пользовательского домена.

Настройте аутентификацию, задав переменные окружения для провайдеров OpenID Connect (Google, Microsoft, GitHub), или включите встроенное управление пользователями с email и паролем. Задайте учетные данные администратора при первом запуске через переменные окружения.

Смонтируйте тома для сохранения данных, включая /app/backend/data для диалогов и данных пользователей. Для функций RAG обеспечьте достаточно места для загруженных документов и векторных эмбеддингов. Настройте стратегии резервного копирования для базы данных и загруженных документов.

Выбор конфигурации

Конфигурация Open WebUI задается через переменные окружения и веб-интерфейс администратора. Укажите OLLAMA_BASE_URL для подключения к бэкенду Ollama, OPENAI_API_KEY для доступа к OpenAI и DEFAULT_MODELS для списка доступных моделей.

Включите RAG, настроив модели эмбеддингов и параметры векторной базы данных. Задайте WEBUI_SECRET_KEY для безопасных сеансов. Настройте ограничения на загрузку файлов с помощью RAG_FILE_MAX_SIZE и пути хранения с помощью DATA_DIR.

Для развертываний с несколькими пользователями настройте ENABLE_SIGNUP для управления регистрацией, ENABLE_LOGIN_FORM для метода аутентификации и WEBHOOK_URL для внешних интеграций. Задайте уровни журналирования через LOG_LEVEL и включите метрики с помощью ENABLE_METRICS.

К лучшим практикам относятся: работа за обратным прокси с SSL, регулярное резервное копирование тома данных, настройка ограничений ресурсов Docker для предотвращения проблем с памятью, использование Redis для управления сессиями в многоконтейнерных развертываниях и мониторинг объема хранилища для загруженных документов и истории диалогов.

Технические требования

Требования к системе

  • Память: 2048MB RAM

Зависимость

  • ✓ Docker
  • ✓ Ollama or OpenAI API key (for backend)
  • ✓ Optional: Redis for session management

Оцените эту статью

★★★★★
-
Загрузка...

Готовы развернуть своё приложение? Открытый веб-сайт?

Начните с минуты на минуту с нашего простого процесса развертывания VPS

Развертывание через 2 минуты • Полноприемлемый доступ к корневому • Поддержка по билетам и электронной почте