Tổng quan
Dify là một nền tảng phát triển ứng dụng LLM mã nguồn mở. Nó cung cấp khả năng điều phối prompt trực quan, pipeline RAG, agent framework và các tính năng LLMOps. LemonData có thể được cấu hình như một nhà cung cấp mô hình tùy chỉnh trong Dify.Lợi ích
- Truy cập hơn 300 mô hình AI thông qua một giao diện duy nhất
- Chuyển đổi giữa các mô hình mà không cần thay đổi logic ứng dụng
- Tối ưu hóa chi phí bằng cách chọn mô hình tốt nhất cho từng tác vụ
- Thanh toán và theo dõi mức độ sử dụng tập trung
Điều kiện tiên quyết
- Tài khoản LemonData có quyền truy cập API
- Cài đặt Dify (bản cloud hoặc tự lưu trữ)
Các bước cấu hình
Bước 1: Lấy API Key của bạn
- Đăng nhập vào LemonData Dashboard
- Đi tới API Keys
- Tạo và sao chép API key của bạn (định dạng:
sk-...)
Bước 2: Thêm nhà cung cấp mô hình tùy chỉnh
Cấu hình nhà cung cấp
Nhập các cài đặt sau:
| Trường | Giá trị |
|---|---|
| Provider Name | LemonData |
| API Key | sk-your-lemondata-key |
| API Base URL | https://api.lemondata.cc/v1 |
Bước 3: Kiểm tra kết nối
- Chọn một mô hình (ví dụ:
gpt-4o-mini) - Gửi một tin nhắn thử nghiệm
- Xác nhận bạn nhận được phản hồi
Sử dụng trong ứng dụng
Chatbot
- Tạo một ứng dụng Chatbot mới
- Chọn LemonData làm nhà cung cấp mô hình
- Chọn mô hình ưu tiên của bạn
- Cấu hình system prompt và các tham số
Agent
- Tạo một ứng dụng Agent
- Chọn một mô hình có năng lực (GPT-4o, Claude)
- Thêm các công cụ và cơ sở tri thức
- Cấu hình hành vi của agent
Workflow
- Tạo một Workflow
- Thêm các node LLM
- Chọn các mô hình LemonData cho từng node
- Kết nối các node và cấu hình luồng dữ liệu
Các mô hình hiện có
| Danh mục | Mô hình |
|---|---|
| Chat | GPT-4o, GPT-4o-mini, Claude Sonnet/Opus, Gemini, DeepSeek |
| Embeddings | text-embedding-3-small, text-embedding-3-large |
| Vision | GPT-4o (với hình ảnh), Claude Sonnet (với hình ảnh) |
Cấu hình RAG
Đối với các ứng dụng RAG, hãy cấu hình embeddings:- Đi tới Settings → Model Provider
- Thêm mô hình embedding:
text-embedding-3-small - Đặt làm mô hình embedding mặc định trong cài đặt cơ sở tri thức
Thực hành tốt nhất
Bắt đầu với các mô hình tiết kiệm
Bắt đầu với các mô hình tiết kiệm
Sử dụng GPT-4o-mini để thử nghiệm và phát triển, chuyển sang các mô hình mạnh mẽ hơn cho môi trường production.
Sử dụng điều hướng mô hình
Sử dụng điều hướng mô hình
Cấu hình các mô hình khác nhau cho các tác vụ khác nhau - mô hình nhanh cho các truy vấn đơn giản, mô hình mạnh mẽ cho suy luận phức tạp.
Theo dõi mức độ sử dụng
Theo dõi mức độ sử dụng
Sử dụng các tính năng LLMOps của Dify cùng với dashboard của LemonData để theo dõi chi phí và hiệu suất.
Xử lý sự cố
Lỗi kết nối
Lỗi kết nối
- Xác minh API Base URL chính xác là
https://api.lemondata.cc/v1 - Kiểm tra các dấu gạch chéo ở cuối
- Kiểm tra kết nối mạng
401 Unauthorized
401 Unauthorized
Không tìm thấy mô hình
Không tìm thấy mô hình
- Xác minh tên mô hình khớp chính xác
- Kiểm tra tính khả dụng của mô hình tại lemondata.cc/en/models