Visão geral
LiteLLM e LemonData normalmente se combinam de duas formas.- usar LemonData como fornecedor amontante compatível com OpenAI atrás do LiteLLM
- colocar o LiteLLM na frente do LemonData para lidar com chaves virtuais, roteamento extra ou observabilidade centralizada
api_base = https://api.lemondata.cc/v1.
Se você precisa explicitamente de formatos de requisição nativos do Claude ou do Gemini, prefira as integrações nativas do LemonData em vez de forçar esses fluxos pela abstração compatível com OpenAI do LiteLLM.
Tipo: Framework ou plataformaCaminho principal: amontante compatível com OpenAINível de suporte: Caminho compatível
Instalação
Configuração do proxy
Boas práticas
- Trate o LemonData primeiro como amontante
custom_openai - Coloque o LiteLLM na frente apenas quando realmente precisar de uma camada extra de passagem
- Não presuma automaticamente todos os detalhes nativos do fornecedor em uma rota compatível com OpenAI