上下文緩存
-
月之暗面Kimi開放平臺推出上下文緩存公測,大幅降低長文本模型成本
今日,月之暗面正式對外宣布,其Kimi開放平臺上線了全新的上下文緩存(Context Caching)功能,并即日起開啟公測。這一創(chuàng)新技術(shù)旨在不增加API價格負擔(dān)的前提下,為開發(fā)者…
今日,月之暗面正式對外宣布,其Kimi開放平臺上線了全新的上下文緩存(Context Caching)功能,并即日起開啟公測。這一創(chuàng)新技術(shù)旨在不增加API價格負擔(dān)的前提下,為開發(fā)者…