Aller au contenu principal
Zubnet AI › Apprendre › Wiki › API compatible OpenAI
Infrastructure

API compatible OpenAI

Aussi appelé : OpenAI-Compatible API, Endpoint compatible OpenAI, API Chat Completions
Une API qui reprend le format de requête et de réponse de l'endpoint Chat Completions d'OpenAI, de sorte que le code client OpenAI existant fonctionne avec d'autres modèles en changeant seulement l'URL de base.

Pourquoi c'est important

La compatibilité supprime l'essentiel du coût d'un changement. Une application, un framework d'agents ou un plugin d'éditeur écrit pour OpenAI peut être dirigé vers un modèle local, un fournisseur moins cher ou un serveur auto-hébergé sans réécrire de code. Il devient ainsi facile de comparer des modèles, d'éviter le verrouillage et de déplacer les charges de travail là où le prix et la qualité sont les meilleurs.

C'est aussi pour cela que les outils locaux fonctionnent d'emblée avec autant de logiciels. Toute application dotée d'un réglage « endpoint OpenAI personnalisé » peut dialoguer avec Ollama, LM Studio ou vLLM.

En profondeur

Quand OpenAI a publié son API Chat Completions en 2023, son format est vite devenu celui pour lequel la plupart des développeurs et des outils étaient écrits : un POST vers /v1/chat/completions avec un nom de modèle et une liste de messages, chacun avec un role (system, user ou assistant) et un content. Les autres fournisseurs et les serveurs open source ont constaté que le moyen le plus simple de se faire adopter était d'accepter le même format.

Le résultat est un standard de fait. Un serveur « compatible OpenAI » parle ce protocole même si le modèle derrière n'a rien à voir avec OpenAI. Pour changer, vous modifiez deux réglages dans votre client : l'URL de base et la clé d'API.

À quoi ça ressemble

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",  # Ollama, or any compatible server
    api_key="not-needed-locally",
)

response = client.chat.completions.create(
    model="llama3.2",
    messages=[{"role": "user", "content": "Explain KV caching in one sentence."}],
)
print(response.choices[0].message.content)

Le même code fonctionne avec un autre serveur en changeant base_url et model.

Qui le prend en charge

  • Serveurs locaux et auto-hébergés : vLLM, Ollama (localhost:11434/v1), LM Studio (localhost:1234/v1), le serveur de llama.cpp et SGLang.
  • Fournisseurs d'inférence : Together AI, Fireworks AI, Groq, Cerebras, DeepSeek, Mistral, xAI et beaucoup d'autres.
  • Agrégateurs et passerelles : OpenRouter et LiteLLM exposent des centaines de modèles via un seul endpoint compatible.
  • Autres grands laboratoires : Google propose un endpoint compatible OpenAI pour Gemini, et Anthropic fournit une couche de compatibilité destinée surtout aux tests.

Là où la compatibilité casse

« Compatible » veut en général dire que les bases fonctionnent : des messages en entrée, du texte en sortie, le streaming. Au-delà, attendez-vous à des différences.

  • Appel d'outils : le format est en grande partie commun, mais la fiabilité, les appels parallèles et le streaming des arguments d'outils varient selon le serveur et le modèle.
  • Sortie structurée : response_format avec un schéma JSON est pris en charge par certains serveurs, partiellement par d'autres et ignoré par quelques-uns.
  • Raisonnement : il n'existe pas de champ convenu pour les tokens de réflexion. Les fournisseurs les renvoient à des endroits différents, ou pas du tout.
  • Fonctions propres au fournisseur : les contrôles de prompt caching, les citations et la recherche web intégrée ne se transposent souvent pas dans le format OpenAI, si bien que l'endpoint compatible expose moins de choses que l'API native du fournisseur.
  • Paramètres et erreurs : les paramètres non pris en charge peuvent être ignorés en silence, l'usage de tokens peut être rapporté différemment et les codes d'erreur ne sont pas homogènes.

La règle pratique : pour du chat simple, faites confiance à la compatibilité. Pour tout ce qui est avancé, testez la fonctionnalité exacte sur le serveur exact, et utilisez l'API native quand vous avez besoin de toutes les capacités d'un fournisseur.

Un standard qui bouge

OpenAI lui-même est passé à autre chose. En 2025, il a présenté la Responses API comme son interface recommandée, avec des outils intégrés et un état de conversation côté serveur, tout en continuant à prendre en charge Chat Completions. La majeure partie de l'écosystème vise encore Chat Completions, même si certains serveurs ont commencé à ajouter la prise en charge de Responses. Pendant ce temps, l'API Messages d'Anthropic est devenue un deuxième format courant, et plusieurs fournisseurs proposent désormais aussi des endpoints compatibles Anthropic, en grande partie pour que les agents de codage puissent tourner sur leurs modèles.

« Compatible OpenAI » se lit donc au mieux comme « parle Chat Completions », un plus petit dénominateur commun qui n'est pas près de disparaître.

← Tous les termes
ESC