Zubnet AI学习Wiki › Together AI
公司

Together AI

一个运行和训练开源AI模型的云平台。Together AI以具有竞争力的价格为流行的开源模型(Llama、Mistral、Qwen等)提供推理API,加上微调和自定义训练基础设施。由AI研究人员创建,他们也为开源研究做出贡献,并发布了自己的模型。

为什么重要

Together AI是想使用开源模型的团队自托管之外的首选替代方案。无需管理自己的GPU服务器和模型服务基础设施,你只需调用他们的API就能以远低于OpenAI/Anthropic的价格使用Llama-70B或Mistral。他们代表了AI堆栈中“开源模型云”层,使开源权重模型在生产中变得可行。

深度解析

Together的推理栈为开源模型进行了优化,通过在自有GPU集群上高效运行模型来提供有竞争力的定价。他们支持广泛的模型(通常在新版本发布后数天内添加),配备与OpenAI兼容的API,使从专有模型切换到开源模型变得容易。他们的微调服务让你可以在自己的数据上自定义开源模型,而无需管理训练基础设施。

开源模型生态系统

Together将自己定位为开源模型生态系统的基础设施。他们与模型创建者(Meta、Mistral等)合作,为研究做出贡献(FlashAttention由Together的研究人员共同开发),并提供使不想管理GPU的开发者能够使用开源模型的服务层。随着开源模型在许多任务上接近专有模型的质量,这种“模型云”层变得越来越重要。

相关概念

← 所有术语
← Throughput Token →