Moonshot AI迫使整个行业认真对待上下文长度。在Kimi出现之前，长上下文支持只是锦上添花；而Kimi在中国爆红后，每家主要实验室都争相扩展其上下文窗口。杨志林押注用户在拥有足够上下文时会彻底改变与AI的交互方式，这一押注已被Kimi的爆炸性增长所验证，而Moonshot开发的高效长序列推理技术正在影响下一代模型处理文档、代码库和复杂多步骤推理的方式。
2023年，Moonshot AI由研究员杨志林创立。杨志林的学术工作早已塑造了行业对长上下文建模的认知。杨志林在卡内基梅隆大学获得博士学位，师从Ruslan Salakhutdinov和William Cohen，之后曾在Google Brain工作，与他人共同撰写了Transformer-XL和XLNet两篇论文，这两篇论文直接解决了标准Transformer在处理长序列时的局限性。杨志林没有继续在西方实验室从事研究，而是返回中国并创立了Moonshot，其赌注非常明确：上下文长度将成为下一代AI助手的决定性差异。他在第一年就筹集了超过10亿美元的资金，获得红杉中国、阿里巴巴和鸿山资本（原红杉资本中国）的支持，到2024年初估值已达到约25亿美元。
Moonshot的旗舰产品Kimi于2023年10月推出，其上下文窗口达到200,000 token——当时大多数竞品聊天机器人的上下文窗口上限仅为8,000到32,000 token。到2024年初，Kimi的上下文窗口已扩展至200万token，使其能够在单次对话中处理整个代码库、整本小说或数百页的法律文件。这不仅仅是一个技术演示；Kimi迅速成为中国最受欢迎的AI助手之一，尤其是在需要处理大量文本的学生和知识工作者中。产品发展速度如此之快，以至于在中文社交媒体病毒式传播期间，Kimi多次因负载过高而崩溃，这一问题反而进一步提升了其知名度。
在Moonshot的技术架构中，他们基于杨志林之前在高效注意力机制方面的研究。他们扩展上下文窗口的方法结合了稀疏注意力模式、内存高效的KV缓存管理以及针对长序列推理优化的定制基础设施。公司对模型的具体架构相对保密，但基准测试结果和用户报告表明，他们确实能够处理长上下文，而不是默默地截断输入——这一区别非常重要，因为一些竞争对手曾因宣传大容量上下文窗口却实际上忽略大部分输入而被曝光。Moonshot还大力投资了增强检索的方法，与原始上下文窗口相辅相成，使Kimi能够搜索网络并整合实时信息，同时结合用户上传的文档。
Moonshot在中国竞争激烈的AI初创企业中占据独特位置。虽然百度、阿里巴巴和字节跳动拥有巨大的分发优势，而Zhipu AI和MiniMax等初创公司则在通用能力上展开竞争，但Moonshot围绕长上下文使用场景明确了自身定位。这种专注使他们在大型玩家争相匹配上下文长度时仍能守住一个可防御的细分市场。公司还有效应对了中国的监管环境，获得了运营面向公众的AI助手所需的必要批准。到2025年年中，Kimi已扩展到包括图像理解和生成在内的多模态能力，Moonshot正在探索企业应用——但核心身份始终如一：一家认真对待上下文的公司。
Moonshot面临的最大挑战是可持续性。在200万token上下文上运行推理成本极高，公司消耗资金的速度甚至让硅谷风投也感到担忧。还有疑问是，随着竞争对手改进自己的上下文处理能力，以及基于检索的方法减少对大容量窗口的需求，长上下文优势是否还能保持。杨志林公开表示，更长的上下文不仅是功能，更是与AI交互的根本不同方式——它使模型能够进行仅凭片段无法实现的推理模式。这一论点是否在商业上成立，将决定Moonshot是否会成为时代定义性的公司，还是一个技术上令人印象深刻但过于激进的警示故事。