API compatible OpenAI
Pourquoi c'est important
La compatibilité supprime l'essentiel du coût d'un changement. Une application, un framework d'agents ou un plugin d'éditeur écrit pour OpenAI peut être dirigé vers un modèle local, un fournisseur moins cher ou un serveur auto-hébergé sans réécrire de code. Il devient ainsi facile de comparer des modèles, d'éviter le verrouillage et de déplacer les charges de travail là où le prix et la qualité sont les meilleurs.
C'est aussi pour cela que les outils locaux fonctionnent d'emblée avec autant de logiciels. Toute application dotée d'un réglage « endpoint OpenAI personnalisé » peut dialoguer avec Ollama, LM Studio ou vLLM.
En profondeur
Quand OpenAI a publié son API Chat Completions en 2023, son format est vite devenu celui pour lequel la plupart des développeurs et des outils étaient écrits : un POST vers /v1/chat/completions avec un nom de modèle et une liste de messages, chacun avec un role (system, user ou assistant) et un content. Les autres fournisseurs et les serveurs open source ont constaté que le moyen le plus simple de se faire adopter était d'accepter le même format.
Le résultat est un standard de fait. Un serveur « compatible OpenAI » parle ce protocole même si le modèle derrière n'a rien à voir avec OpenAI. Pour changer, vous modifiez deux réglages dans votre client : l'URL de base et la clé d'API.
À quoi ça ressemble
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1", # Ollama, or any compatible server
api_key="not-needed-locally",
)
response = client.chat.completions.create(
model="llama3.2",
messages=[{"role": "user", "content": "Explain KV caching in one sentence."}],
)
print(response.choices[0].message.content)
Le même code fonctionne avec un autre serveur en changeant base_url et model.
Qui le prend en charge
- Serveurs locaux et auto-hébergés : vLLM, Ollama (
localhost:11434/v1), LM Studio (localhost:1234/v1), le serveur de llama.cpp et SGLang. - Fournisseurs d'inférence : Together AI, Fireworks AI, Groq, Cerebras, DeepSeek, Mistral, xAI et beaucoup d'autres.
- Agrégateurs et passerelles : OpenRouter et LiteLLM exposent des centaines de modèles via un seul endpoint compatible.
- Autres grands laboratoires : Google propose un endpoint compatible OpenAI pour Gemini, et Anthropic fournit une couche de compatibilité destinée surtout aux tests.
Là où la compatibilité casse
« Compatible » veut en général dire que les bases fonctionnent : des messages en entrée, du texte en sortie, le streaming. Au-delà, attendez-vous à des différences.
- Appel d'outils : le format est en grande partie commun, mais la fiabilité, les appels parallèles et le streaming des arguments d'outils varient selon le serveur et le modèle.
- Sortie structurée :
response_formatavec un schéma JSON est pris en charge par certains serveurs, partiellement par d'autres et ignoré par quelques-uns. - Raisonnement : il n'existe pas de champ convenu pour les tokens de réflexion. Les fournisseurs les renvoient à des endroits différents, ou pas du tout.
- Fonctions propres au fournisseur : les contrôles de prompt caching, les citations et la recherche web intégrée ne se transposent souvent pas dans le format OpenAI, si bien que l'endpoint compatible expose moins de choses que l'API native du fournisseur.
- Paramètres et erreurs : les paramètres non pris en charge peuvent être ignorés en silence, l'usage de tokens peut être rapporté différemment et les codes d'erreur ne sont pas homogènes.
La règle pratique : pour du chat simple, faites confiance à la compatibilité. Pour tout ce qui est avancé, testez la fonctionnalité exacte sur le serveur exact, et utilisez l'API native quand vous avez besoin de toutes les capacités d'un fournisseur.
Un standard qui bouge
OpenAI lui-même est passé à autre chose. En 2025, il a présenté la Responses API comme son interface recommandée, avec des outils intégrés et un état de conversation côté serveur, tout en continuant à prendre en charge Chat Completions. La majeure partie de l'écosystème vise encore Chat Completions, même si certains serveurs ont commencé à ajouter la prise en charge de Responses. Pendant ce temps, l'API Messages d'Anthropic est devenue un deuxième format courant, et plusieurs fournisseurs proposent désormais aussi des endpoints compatibles Anthropic, en grande partie pour que les agents de codage puissent tourner sur leurs modèles.
« Compatible OpenAI » se lit donc au mieux comme « parle Chat Completions », un plus petit dénominateur commun qui n'est pas près de disparaître.