《經濟通通訊社１日專訊》美團（０３６９０）開源大模型「龍貓」（ＬｏｎｇＣａｔ－Ｆｌａｓｈ），這是一個擁有５６００億參數的混合專家（ＭｏＥ）模型，據介紹，在各項基準測試中它與業界的ＤｅｅｐＳｅｅｋ　Ｖ３﹒１、Ｑｗｅｎ３旗鼓相當，甚至在某些特定能力上實現了超越。　　　該模型創新性地採用「零計算」專家機制（Ｚｅｒｏ－ｃｏｍｐｕｔａｔｉｏｎ　Ｅｘｐｅｒｔｓ）　，能夠極大地節省算力，在處理每個詞元（ｔｏｋｅｎ）時，僅需動態激活１８６億至３１３億的參數（平均約２７０億）。此外，模型的推理速度超過１００詞元╱秒（ＴＰＳ），每處理一百萬輸出詞元的成本僅為０﹒７美元，並且支持１２８ｋ的長文本上下文。　　　目前，ＬｏｎｇＣａｔ－Ｆｌａｓｈ模型已經發布在Ｈｕｇｇｉｎｇ　Ｆａｃｅ和Ｇｉｔｈｉｕｂ社區，並遵循ＭＩＴ許可協議。（ｗｎ）

送禮活動浪接浪！想緊貼著數活動消息？即Like etnet Facebook專頁！► 立即讚好