Ana içeriğe atla

Genel Bakış

LiteLLM ve LemonData genelde iki şekilde birlikte kullanılır.
  • LemonData’yı LiteLLM arkasında OpenAI uyumlu upstream olarak kullanmak
  • sanal anahtarlar, ek yönlendirme veya merkezi gözlemlenebilirlik için LiteLLM’yi LemonData’nın önüne koymak
LemonData için en temiz varsayılan yol, LiteLLM’nin custom OpenAI / OpenAI-compatible modunu kullanıp api_base = https://api.lemondata.cc/v1 ayarlamaktır.
Açıkça Claude-native veya Gemini-native request shape ihtiyacınız varsa, bu akışları LiteLLM’nin OpenAI-compatible soyutlamasına zorlamak yerine LemonData’nın native entegrasyonlarını tercih edin.
Tür: Framework veya platformBirincil yol: OpenAI uyumlu upstreamDestek seviyesi: Desteklenen yol

Kurulum

pip install 'litellm[proxy]'

Proxy yapılandırması

model_list:
  - model_name: lemondata-gpt-5.4
    litellm_params:
      model: custom_openai/gpt-5.4
      api_base: https://api.lemondata.cc/v1
      api_key: os.environ/OPENAI_API_KEY
Başlatma:
export OPENAI_API_KEY="sk-your-lemondata-key"
litellm --config litellm-config.yaml --port 4000

En iyi uygulamalar

  • LemonData’yı önce custom_openai upstream olarak ele alın
  • LiteLLM’yi yalnızca gerçekten ek bir gateway katmanına ihtiyaç duyuyorsanız öne koyun
  • OpenAI-compatible yol üzerinde her sağlayıcıya özgü ayrıntının otomatik olarak çalışacağını varsaymayın