Genel Bakış
LiteLLM ve LemonData genelde iki şekilde birlikte kullanılır.- LemonData’yı LiteLLM arkasında OpenAI uyumlu upstream olarak kullanmak
- sanal anahtarlar, ek yönlendirme veya merkezi gözlemlenebilirlik için LiteLLM’yi LemonData’nın önüne koymak
api_base = https://api.lemondata.cc/v1 ayarlamaktır.
Açıkça Claude-native veya Gemini-native request shape ihtiyacınız varsa, bu akışları LiteLLM’nin OpenAI-compatible soyutlamasına zorlamak yerine LemonData’nın native entegrasyonlarını tercih edin.
Tür: Framework veya platformBirincil yol: OpenAI uyumlu upstreamDestek seviyesi: Desteklenen yol
Kurulum
Proxy yapılandırması
En iyi uygulamalar
- LemonData’yı önce
custom_openaiupstream olarak ele alın - LiteLLM’yi yalnızca gerçekten ek bir gateway katmanına ihtiyaç duyuyorsanız öne koyun
- OpenAI-compatible yol üzerinde her sağlayıcıya özgü ayrıntının otomatik olarak çalışacağını varsaymayın