Khám phá
Dify là nền tảng phát triển ứng dụng LLM mã nguồn mở, giúp các nhóm xây dựng ứng dụng AI sẵn sàng cho production thông qua thiết kế quy trình làm việc trực quan thay vì phải viết nhiều code. Được định vị là giải pháp thay thế LangChain cho môi trường production, Dify cung cấp hạ tầng, công cụ và các lớp trừu tượng giúp đẩy nhanh hành trình từ nguyên mẫu đến ứng dụng AI có khả năng mở rộng.
Nền tảng này thu hẹp khoảng cách giữa không cần code và phát triển đầy đủ bằng cách cung cấp giao diện trực quan cho việc thiết kế prompt, xây dựng pipeline RAG và thiết kế quy trình làm việc của agent, đồng thời vẫn cho phép tích hợp mã tùy chỉnh và API bên ngoài. Cách tiếp cận lai này giúp các bên liên quan không có chuyên môn kỹ thuật có thể thử nghiệm, trong khi lập trình viên có đủ khả năng mở rộng cho những yêu cầu production phức tạp.
Kiến trúc của Dify tách biệt các mối quan tâm thành những tầng riêng biệt: API backend đảm nhiệm điều phối và suy luận, frontend cung cấp giao diện thiết kế quy trình làm việc, còn cơ sở dữ liệu quản lý prompt, hội thoại và cơ sở tri thức. Thiết kế module này cho phép các nhóm dùng Dify như một nền tảng hoàn chỉnh hoặc tích hợp những thành phần cụ thể vào hạ tầng sẵn có.
Với triển khai doanh nghiệp, Dify làm rất tốt việc quản lý cơ sở tri thức với khả năng RAG tinh vi. Nền tảng hỗ trợ nhiều nguồn dữ liệu, gồm tệp, thu thập dữ liệu web và các connector API, với chiến lược chia đoạn (chunking) nâng cao, tìm kiếm lai kết hợp phương pháp vector và từ khóa, cùng khả năng theo dõi trích dẫn để tăng tính minh bạch cho câu trả lời của AI. Các nhóm có thể xây dựng trợ lý AI chuyên biệt theo lĩnh vực, tham chiếu tài liệu nội bộ, dữ liệu khách hàng hoặc kiến thức ngành mà không cần gửi thông tin đến dịch vụ của bên thứ ba.
Engine quy trình làm việc biến các ứng dụng AI từ mẫu hỏi-đáp đơn giản thành các tiến trình nhiều bước phức tạp. Quy trình hỗ trợ logic điều kiện, truyền biến giữa các bước, lặp qua tập dữ liệu và tích hợp với dịch vụ bên ngoài thông qua HTTP request. Nhờ đó có thể triển khai các trường hợp như cộng tác đa agent, pipeline xử lý dữ liệu, quy trình kiểm duyệt nội dung và hệ thống ra quyết định tự động.
Dify cung cấp khả năng quản lý mô hình toàn diện, hỗ trợ OpenAI, Anthropic, Google, Azure và nhiều nhà cung cấp mô hình mã nguồn mở. Nền tảng trừu tượng hóa các chi tiết riêng của từng nhà cung cấp, cho phép các nhóm đổi mô hình mà không cần viết lại ứng dụng. Theo dõi chi phí và phân tích mức sử dụng giúp tối ưu việc lựa chọn mô hình cho các khối lượng công việc và nhóm người dùng khác nhau.
Tính năng chính
Trình xây dựng quy trình trực quan
Thiết kế quy trình AI phức tạp bằng giao diện kéo và thả. Logic điều kiện, vòng lặp, truyền biến, connector HTTP và các node thực thi code giúp tự động hóa tinh vi.
Hệ thống RAG doanh nghiệp
Cơ sở tri thức nâng cao với tìm kiếm lai, nhiều chiến lược embedding, theo dõi trích dẫn và truy cập tài liệu theo phân quyền. Hỗ trợ hơn 100 định dạng tệp và thu thập dữ liệu web.
Điều phối nhiều mô hình
Giao diện trừu tượng hỗ trợ hơn 50 nhà cung cấp LLM. Định tuyến yêu cầu theo chi phí, hiệu năng hoặc khả năng. Thử nghiệm A/B các prompt trên nhiều mô hình với phân tích tích hợp sẵn.
Studio kỹ thuật prompt
Trình chỉnh sửa prompt trực quan với biến, kiểm soát phiên bản, thử nghiệm A/B và theo dõi hiệu năng. Thư viện mẫu cho các trường hợp sử dụng phổ biến kèm thực hành tốt nhất.
Kiến trúc ưu tiên API
API RESTful cho mọi chức năng. Nhúng agent Dify vào website, ứng dụng hoặc dịch vụ. Hỗ trợ webhook cho các tích hợp theo sự kiện.
Công cụ cộng tác nhóm
Kiểm soát truy cập theo vai trò, cách ly workspace, quy trình phê duyệt cho prompt, ghi nhật ký kiểm toán và hạn mức sử dụng cho từng nhóm hoặc người dùng.
Ví dụ sử dụng
- Tự động hóa hỗ trợ khách hàng: Xây dựng các agent AI có quyền truy cập vào tài liệu trợ giúp, lịch sử ticket và kiến thức sản phẩm để trả lời hỗ trợ ngay lập tức
- Quy trình tạo nội dung: Quy trình nhiều bước để tạo, rà soát, biên tập và xuất bản nội dung marketing ở quy mô lớn
- Xử lý tài liệu: Trích xuất thông tin từ hợp đồng, hóa đơn hoặc biểu mẫu kèm các quy trình kiểm tra, phân loại và định tuyến dữ liệu
- Trợ lý tri thức nội bộ: Tìm kiếm doanh nghiệp trên tài liệu công ty, wiki, Slack và cơ sở dữ liệu để nhân viên tự phục vụ
- Hệ thống tuân thủ và rà soát: Rà soát tài liệu tự động kèm phê duyệt có con người tham gia cho các kiểm tra pháp lý, tài chính hoặc quy định
- Trải nghiệm người dùng cá nhân hóa: Tạo nội dung động dựa trên hồ sơ, hành vi và sở thích người dùng, kèm các kiểm soát quyền riêng tư
Chỉ dẫn cài đặt
Cài đặt Dify trên VPS Ubuntu bằng Docker Compose để triển khai toàn bộ stack. Clone kho chính thức và cấu hình các biến môi trường cho cơ sở dữ liệu, Redis, backend lưu trữ và thông tin đăng nhập quản trị ban đầu.
Cấu hình chuỗi kết nối PostgreSQL, URL Redis cho caching và hàng đợi, cùng lưu trữ tương thích S3 cho các tệp tải lên và tài liệu cơ sở tri thức. Đặt API key cho các nhà cung cấp LLM trong biến môi trường hoặc qua giao diện quản trị sau khi triển khai.
Quá trình thiết lập ban đầu tạo schema cơ sở dữ liệu và người dùng quản trị mặc định. Truy cập giao diện web tại cổng đã cấu hình (mặc định là 80) và hoàn thành trình hướng dẫn thiết lập. Cấu hình các thiết lập hệ thống, gồm các nhà cung cấp LLM được phép, hạn mức lưu trữ và chính sách bảo mật.
Với triển khai production, hãy dùng PostgreSQL và Redis bên ngoài để đạt tính sẵn sàng cao. Cấu hình Nginx reverse proxy với SSL để truy cập HTTPS an toàn. Thiết lập mở rộng theo chiều ngang bằng cách triển khai nhiều container API worker phía sau bộ cân bằng tải.
Bật khả năng quan sát bằng cách cấu hình Sentry để theo dõi lỗi, Prometheus cho số liệu và ghi nhật ký có cấu trúc cho nhật ký kiểm toán. Triển khai chiến lược sao lưu cho cơ sở dữ liệu, tệp cơ sở tri thức và cấu hình. Dùng manifest Kubernetes cho các triển khai được điều phối trong môi trường đám mây.
Gợi ý cấu hình
Cấu hình Dify được quản lý qua biến môi trường và giao diện quản trị web. Đặt các biến DB_* (như DB_HOST) cho PostgreSQL, REDIS_HOST cho cache, thông tin xác thực S3 cho lưu trữ tệp, và SECRET_KEY cho bảo mật phiên làm việc.
Cấu hình các nhà cung cấp mô hình trong bảng quản trị với API key, URL endpoint và giới hạn tốc độ. Đặt mô hình mặc định cho từng workspace và bật theo dõi chi phí. Xác định các mô hình embedding cho tìm kiếm vector trong cơ sở tri thức, kèm thiết lập số chiều.
Tùy chỉnh giới hạn thực thi quy trình, bao gồm thời gian chờ, số lần lặp tối đa và số lần thực thi đồng thời. Cấu hình URL webhook cho các tích hợp bên ngoài và thiết lập SSO qua OIDC để xác thực doanh nghiệp.
Các thực hành tốt nhất gồm dùng dịch vụ cơ sở dữ liệu được quản lý để đảm bảo độ tin cậy, triển khai giới hạn tốc độ theo từng cấp người dùng, bật ghi nhật ký kiểm toán để tuân thủ, phân tách workspace theo yêu cầu bảo mật, theo dõi chi phí API qua các nhà cung cấp và sao lưu định kỳ cơ sở tri thức cùng định nghĩa quy trình. Dùng cấu hình riêng theo môi trường cho phát triển và production.
Yêu cầu kỹ thuật
Các phụ thuộc
- ✓ Docker & Docker Compose
- ✓ PostgreSQL
- ✓ Redis
- ✓ LLM provider API key or self-hosted model
- ✓ Object storage (S3 or compatible)