Passer au contenu principal

​
Aperçu

Ce point de terminaison fait partie de l’API Batch compatible avec OpenAI de LemonData. Les travaux de lot utilisent des fichiers JSONL téléchargés, s’exécutent de manière asynchrone et peuvent retourner des fichiers de sortie/d’erreur plus tard.

​
Remarques

  • Les fichiers d’entrée de lot doivent utiliser purpose=batch.
  • completion_window est actuellement 24h.
  • L’ordre de sortie n’est pas garanti ; il faut toujours faire correspondre par custom_id.
  • Le streaming n’est pas pris en charge à l’intérieur des éléments de lot.

​
Demande / Réponse

Utilisez le panneau OpenAPI interactif ci-dessus pour le schéma exact.

​
Conseils opérationnels

  • Utilisez custom_id pour la réconciliation idempotente en aval.
  • Attendez-vous à ce que output_file_id et error_file_id ne soient disponibles qu’après que le travailleur finalise le lot.
  • La tarification des lots peut différer de la tarification synchrone car les règles de remise isBatchRequest=true s’appliquent.