每經(jīng)AI快訊，中國銀河05月13日發(fā)布研報稱：維持計算機(jī)推薦（維持）評級。

事件：5月7日，知名私募巨頭幻方量化旗下的AI公司DeepSeek發(fā)布全新第二代MoE大模型DeepSeek-V2。

性能直逼GPT-4Turbo，綜合能力位于大模型第一梯隊：DeepSeek-V2是一個參數(shù)為2360億的MoE模型，每個token僅激活210億參數(shù)，支持128K的上下文長度。1）縱向?qū)Ρ龋簩Ρ热ツ?1月發(fā)布的DeepSeek67B性能取得顯著提升，訓(xùn)練成本節(jié)省了42.5%，KV緩存減少了93.3%，最大生成吞吐量提高到了5.76倍。2）橫向?qū)Ρ龋荷舷挛拈L度對標(biāo)GPT-4Turbo（128K）；中文綜合能力（AlignBench）超越Llama3，在開源模型中表現(xiàn)最強(qiáng)，與文心4.0等閉源模型在評測中處于同一梯隊，僅次于GPT-4Turbo；英文綜合能力（MT-Bench）與最強(qiáng)的開源模型LLaMA3-70B處于同一梯隊，超過MoE開源模型Mixtral8x22B。此外在知識、數(shù)學(xué)、推理、代碼等方面也有出色的性能。

DeepSeek-V2訓(xùn)練計算量降低，推理能力表現(xiàn)高效：DeepSeek-V2訓(xùn)練數(shù)據(jù)集是由8.1Ttoken的高質(zhì)量、多源預(yù)訓(xùn)練語料庫組成，采用的Transformer架構(gòu)中由一個注意力模塊和一個前饋網(wǎng)絡(luò)（FFN）組成，并且在注意力機(jī)制和FFN方面采用了創(chuàng)新架構(gòu)：一方面設(shè)計了MLA（Multi-headLatentAttention）利用低秩鍵值聯(lián)合壓縮來消除推理時鍵值緩存的瓶頸，DeepSeek-V2消耗的顯存（KVCache）只有同級別Dense模型的1/5-1/100，每token成本大幅降低；另一方面，F(xiàn)FN采用高性能MoE架構(gòu)DeepSeekMoE，以經(jīng)濟(jì)的成本訓(xùn)練強(qiáng)大的模型。我們認(rèn)為，DeepSeek-V2大幅提升訓(xùn)練效率，訓(xùn)練所需計算量約為GPT-4的1/20，但性能基本上相差無幾，目前來看參數(shù)是影響大模型性能的關(guān)鍵因素之一，除此之外，架構(gòu)優(yōu)化能有效提升降低訓(xùn)練成本，提升訓(xùn)練效率，將成為另一個影響大模型性能的關(guān)鍵因素。

API價格降至約GPT-4Turbo百分之一，大模型價格戰(zhàn)即將拉開帷幕，利好AI應(yīng)用層快速滲透：目前DeepSeek-V2API定價為每百萬token輸入1元、輸出2元（32K上下文），幾乎低于所有市面上主流大模型價格，約為GPT-4Turbo的1/100。我們認(rèn)為，DeepSeek-V2提升數(shù)據(jù)集質(zhì)量及優(yōu)化架構(gòu)，成本大幅降低，在價格方面提升競爭力，大模型將逐漸進(jìn)入價格戰(zhàn)時期，AI應(yīng)用將快速滲透。

風(fēng)險提示：技術(shù)研發(fā)進(jìn)度不及預(yù)期風(fēng)險；供應(yīng)鏈風(fēng)險；政策推進(jìn)不及預(yù)期風(fēng)險；消費(fèi)需求不及預(yù)期風(fēng)險；行業(yè)競爭加劇風(fēng)險。

每經(jīng)頭條（nbdtoutiao）——大手筆！接盤王健林的萬達(dá)電影后，知名80后富豪又出手收購字節(jié)游戲資產(chǎn)！背后是騰訊？

(記者 胡玲)

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請核實。據(jù)此操作，風(fēng)險自擔(dān)。