Kimi掀起大模型長(zhǎng)文本之戰(zhàn)（關(guān)于Kimi的簡(jiǎn)介）

近日月之暗面從一眾AI大模型公司當(dāng)中脫穎而出，打破人們對(duì)這一行業(yè)產(chǎn)品大同小異的刻板印象，Kimi掀起了大模型之間對(duì)于長(zhǎng)文本生成以及處理的技術(shù)競(jìng)爭(zhēng)浪潮。在去年10月份，Kimi Chat就將上下文的窗口長(zhǎng)度擴(kuò)展到20萬(wàn)字，而當(dāng)時(shí)Claude2-100k和OpenAI的GPT4-32K支持的最長(zhǎng)文本分別為100K（約8萬(wàn)漢字）和32K（約2.5萬(wàn)漢字），存在較大的差距。

1.Kimi相比于其他大模型更加精準(zhǔn)地命中了用戶端的需求，大模型技術(shù)的規(guī)?；瘧?yīng)用被刻畫(huà)出了一條清晰的路徑，堪稱夸張的文本處理能力引來(lái)了大量的用戶，Kimi日活用戶從10萬(wàn)直接增長(zhǎng)到百萬(wàn)量級(jí)。

2.由上下文窗口長(zhǎng)度決定的長(zhǎng)文本能力是指語(yǔ)言模型進(jìn)行預(yù)測(cè)或者生成文本時(shí)，考慮到的前一個(gè)詞元或者文本片段的大小范圍，上下文窗口和模型智能水平、算力成本之間始終具有矛盾。

3.更廣闊的上下文窗口空間意味著更高的模型只能水平，但是會(huì)導(dǎo)致計(jì)算需要的算力資源大幅度增加；縮小上下文窗口空間可以降低算力成本，但是模型的智能水平會(huì)受到影響，模型的理解能力下降，對(duì)用戶來(lái)說(shuō)，意味著體驗(yàn)有所下降。

4.月之暗面在這一競(jìng)爭(zhēng)中的特殊之處在于更強(qiáng)大的上下文空間并沒(méi)有影響模型的智能水平，這是在“無(wú)損”前提下進(jìn)行的，不會(huì)以犧牲用戶體驗(yàn)為代價(jià)。

5.從上下文窗口來(lái)看，Kimi在眾多大模型廠商當(dāng)中取得了突出的成績(jī)，但這能否構(gòu)成他們的核心壁壘，構(gòu)筑起商業(yè)護(hù)城河，仍然有待商榷。在使用AI模型時(shí)足夠的上下文窗口必不可少，但是廠商如何取得成本、性能以及用戶體驗(yàn)之間的平衡，也是一個(gè)值得思考的課題。