（文/連政 編輯/呂棟）
近日，前Google DeepMind研究員舒邁洛夫（Ilia Shumailov）等8人發表的論文，將月之暗面Kimi K3所謂“蒸餾Claude”的說法，再次拉回人們的視線論文。
目前市面上的許多閉源模型為了維持技術壁壘，均對外隱藏了推理軌跡，因此論文研究人員本意只是尋求如何從Anthropic、OpenAI和Google等公司的大模型API中恢復這些被隱藏的推理軌跡論文。
然而，在成功恢復後，研究人員隨手將解碼得到Anthropic大模型Claude Opus 4.8推理軌跡的開頭部分，預埋入其他幾家大模型的推理區域，並讓模型自行完成剩餘推理和最終答案論文。
結果卻顯示，K3最後呈現給使用者的答案，在措辭和結構上，明顯靠近了Opus的答案論文。
在其中一個測試中，研究人員埋入的推理字首只有兩個Token，“We consider”論文。但在生成的可見答案前得100個Token中對比發現，K3樣本與Opus答案的總重合度，從未預埋時的0.21明顯升至預埋後的0.37。
展開全文
三段推理軌跡分別來自Opus 4.8、預埋了Opus開頭的K3論文，以及未預埋的K3，第二段出現了Opus式的響應
另一個測試中，研究人員將2個Token升到9個Token後，肉眼觀察的K3推理開頭也開始出現了與Opus相似的“classic problem/constant force”等路徑，最終答案總重合度從0.17升至0.41論文。
隨後研究人員又擴大了測試，也出現了相同的趨勢論文。
研究人員使用了15道STEM、15道非STEM的HLE題目，正式實驗統一預填每道題Opus推理軌跡的前1%，再讓K3自由生成論文。結果顯示，在加入Opus推理字首後，K3在29道題上的答案都出現了Opus的風格漂移。
其中，STEM題平均指標從0.160升至0.305，非STEM則由0.203升至0.289論文。而作為對照的美國開源模型Inkling，則沒有出現同等顯著變化。將K3改為預埋Inkling的推理開頭，也沒有出現相同程度的效果。
K3埋入Opus式開頭後（1、2行）提升了相似度，而當埋入Inkling的開頭時（5、6行），則基本沒有出現變化論文。
通常情況下，對於一個模型進行干預，是可以欺騙模型並得到自己想要的答案論文。但這些測試中僅提供了一個Opus風格的開頭，也沒有指明模型的型號，更不包括整套答案，因此研究人員把這一結果列為“令人驚訝”的發現之一。
不過，研究人員在附錄開頭專門作出免責宣告，強調這些測試規模較小、題目集中於特定基準，被恢復的推理軌跡本身也來自模糊解碼，未必與閉源模型真實內部推理逐字一致，不同模型的服務配置也並不完全可控論文。實驗只能說明K3在這些特定干預下，對Opus表現出了“不尋常的行為相容性”，且無法據此建立“復刻”或“蒸餾”的因果關係。
就像論文的另一項實驗顯示，在只給出原始問題、不提供Opus式推理開頭時，研究人員估算，若想讓K3逐字復現一段16個Token的Opus推理文字，在30道HLE問題上的查詢量中位數仍約為10的10次方，也就是需要查詢上百億次論文。
但這組異常現象仍不可避免地讓人聯想到今年2月時，Anthropic對月之暗面的公開指控論文。
2月23日，Anthropic公開指控包括月之暗面在內的三家中國公司，聲稱透過約2.4萬個欺詐賬號與Claude進行了超過1600萬次互動，其中月之暗面超過340萬次論文。
Anthropic當時稱，月之暗面針對智慧體推理、工具使用、程式設計、資料分析等能力獲取Claude資料，到了後期“還試圖提取和重構Claude的推理軌跡”論文。而按照Anthropic的說法，這是“大規模蒸餾行為”。
到了7月17日，月之暗面正式釋出新一代大模型Kimi K3，憑藉超強效能，引發外界關注論文。隨後，月之暗面副總裁黃震昕在接受媒體採訪時就明確表示，K3效能躍升的核心來自底層原創架構創新，“並非對現有模型進行蒸餾復刻”。
K3釋出時的Arena前端程式碼榜單論文。K3以1679分躍升17位至第一，領先當時的Claude Fable 5和GPT-5.6 Sol。
事實上，此次論文發現的“Claude痕跡”，從技術上也無法證明“K3是依靠蒸餾Claude變強的”，但是可以提供一種可能性，即K3在訓練或後訓練階段接觸過Claude的一些資料，所以學到了部分Claude的語言習慣、身份標籤乃至推理模式論文。
然而需要要注意，即便如此，這些資料究竟是像Anthropic所說的那樣靠主動蒸餾來的，還是因為與Claude使用了相同的第三方合成資料集，甚至是訓練資料中廣泛存在的Claude文字汙染，單憑模型行為是無法區分論文。
另一方面，K3還是一個擁有2.8萬億總引數、1040億啟用引數的MoE架構模型，整合了Kimi Delta Attention、Attention Residuals、Stable LatentMoE等自研技術，並經歷了大規模預訓練和強化學習後訓練的全流程論文。單硬指標來看，也不僅僅是透過對Claude發出幾百萬個問題就能得到的。
這也是為什麼，曾任艾倫人工智慧研究所大模型後訓練負責人的美國知名AI研究員蘭伯特（Nathan Lambert）認為，隨著前沿模型越來越依賴大規模強化學習，單純依靠其他模型輸出進行蒸餾，對最終模型能力的作用正在減弱論文。
7月22日，蘭伯特參加一次關於K3話題的播客節目
蘭伯特指出，從Claude、GPT等模型獲得的推理軌跡和工具呼叫資料，確實可以成為很好的監督微調或中期訓練資料，幫助模型建立某些能力，但這更多相當於為模型“播種”論文。此後要把模型推向前沿水平，仍需要進行大規模強化學習以及大量資料、環境和訓練工程工作。
目前，月之暗面並未就該論文結果，進行回應論文。
