API compatível com OpenAI
Por que isso importa
A compatibilidade elimina a maior parte do custo de trocar. Um aplicativo, um framework de agentes ou um plugin de editor escrito para a OpenAI pode ser apontado para um modelo local, um provedor mais barato ou um servidor auto-hospedado sem reescrever código. Isso facilita comparar modelos, evitar lock-in e mover cargas de trabalho para onde preço e qualidade forem melhores.
É também por isso que as ferramentas locais funcionam com tanto software sem configuração extra. Qualquer aplicativo com uma opção de "endpoint OpenAI personalizado" consegue conversar com Ollama, LM Studio ou vLLM.
Em profundidade
Quando a OpenAI lançou sua API Chat Completions em 2023, o formato dela rapidamente se tornou o padrão para o qual a maioria dos desenvolvedores e das ferramentas programava: um POST para /v1/chat/completions com um nome de modelo e uma lista de messages, cada uma com um role (system, user ou assistant) e um content. Outros provedores e servidores de código aberto perceberam que o jeito mais fácil de ganhar adoção era aceitar o mesmo formato.
O resultado é um padrão de fato. Um servidor "compatível com OpenAI" fala esse protocolo mesmo que o modelo por trás não tenha nada a ver com a OpenAI. Para trocar, você muda duas configurações no seu cliente: a URL base e a chave de API.
Como é na prática
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1", # Ollama, or any compatible server
api_key="not-needed-locally",
)
response = client.chat.completions.create(
model="llama3.2",
messages=[{"role": "user", "content": "Explain KV caching in one sentence."}],
)
print(response.choices[0].message.content)
O mesmo código funciona com outro servidor mudando base_url e model.
Quem oferece suporte
- Servidores locais e auto-hospedados: vLLM, Ollama (
localhost:11434/v1), LM Studio (localhost:1234/v1), o servidor do llama.cpp e SGLang. - Provedores de inferência: Together AI, Fireworks AI, Groq, Cerebras, DeepSeek, Mistral, xAI e muitos outros.
- Agregadores e gateways: OpenRouter e LiteLLM expõem centenas de modelos por meio de um único endpoint compatível.
- Outros grandes laboratórios: o Google oferece um endpoint compatível com OpenAI para o Gemini, e a Anthropic oferece uma camada de compatibilidade pensada principalmente para testes.
Onde a compatibilidade quebra
"Compatível" geralmente significa que o básico funciona: mensagens entram, texto sai, streaming. Além disso, espere diferenças.
- Chamada de ferramentas: o formato é em grande parte compartilhado, mas a confiabilidade, as chamadas paralelas e o streaming dos argumentos das ferramentas variam conforme o servidor e o modelo.
- Saída estruturada:
response_formatcom um JSON schema é suportado por alguns servidores, parcialmente por outros e ignorado por alguns poucos. - Raciocínio: não existe um campo combinado para os tokens de pensamento. Os provedores os devolvem em lugares diferentes, ou nem devolvem.
- Recursos específicos do provedor: controles de cache de prompt, citações e busca na web embutida muitas vezes não se encaixam no formato da OpenAI, então o endpoint compatível expõe menos do que a API nativa do provedor.
- Parâmetros e erros: parâmetros não suportados podem ser descartados em silêncio, o uso de tokens pode ser informado de outro jeito e os códigos de erro não são consistentes.
A regra prática: para chat simples, confie na compatibilidade. Para qualquer coisa avançada, teste o recurso exato no servidor exato, e use a API nativa quando precisar de todas as capacidades de um provedor.
Um padrão em movimento
A própria OpenAI já seguiu em frente. Em 2025 ela apresentou a Responses API como sua interface recomendada, com ferramentas embutidas e estado da conversa no lado do servidor, sem deixar de dar suporte ao Chat Completions. A maior parte do ecossistema ainda mira o Chat Completions, embora alguns servidores tenham começado a adicionar suporte à Responses. Enquanto isso, a API Messages da Anthropic se tornou um segundo formato comum, e vários provedores agora também oferecem endpoints compatíveis com Anthropic, em grande parte para que agentes de codificação possam rodar nos modelos deles.
Então "compatível com OpenAI" é mais bem lido como "fala Chat Completions", um mínimo denominador comum que não vai embora tão cedo.