今天【月之暗面发布“上下文缓存”技术 称最高可降本 90%】登上了全网热搜,那么【月之暗面发布“上下文缓存”技术 称最高可降本 90%】具体的是什么情况呢,下面大家可以一起来看看具体都是怎么回事吧!
1、【月之暗面发布“上下文缓存”技术 称最高可降本 90%】以“价格战”为代表的大模型降本仍在继续,但相比直接降价,北京月之暗面科技有限公司(简称“月之暗面”)提出了增效方案。
2、7月2日,该公司对外宣布,其大模型Kimi正式开放平台正式公测新技术——上下文缓存技术(Context Caching)。
3、月之暗面方称,这项技术将降低开发者使用长文本旗舰大模型的成本,最高可降本达90%。
以上就是关于【月之暗面发布“上下文缓存”技术 称最高可降本 90%】的相关内容了,希望对大家有所帮助!