Kimi开源底层推理框架,1小时GitHub揽星1.2k

内容摘要什么?Kimi底层推理架构刚刚宣布:开!源!了!你没听错,就是那个承载了Kimi线上80%以上流量的架构。大约几小时前,月之暗面Kimi联合清华大学等机构,开源了大模型推理架构Mooncake。根据官方介绍,本次开源将采用分阶段的方式:逐步

什么?Kimi底层推理架构刚刚宣布:开!源!了!你没听错,就是那个承载了Kimi线上80%以上流量的架构。大约几小时前,月之暗面Kimi联合清华大学等机构,开源了大模型推理架构Mooncake。根据官方介绍,本次开源将采用分阶段的方式:逐步开源高性能KVCache多级缓存Mooncake Store的实现,同

......

本文由站长之家合作伙伴自媒体作者“量子位公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

即将跳转到外部网站 安全性未知,是否继续 继续前往
 
举报 收藏 打赏 评论 0
24小时热闻
今日推荐
浙ICP备19001410号-1