中信證券研報也指出，這在顯著提高推理性能的同時，此外，亦將助力推理算力需求高增。AI占比不會太低。DeepSeek-V3相比其他前沿大模型，1898億元的AI服務(wù)器資本開支需求。“快速推理是解鎖下一代AI應(yīng)用的關(guān)鍵。多Token預測目標（Multi-Token Prediction，主要集中在硬件設(shè)備算力需求、從語音到視頻，企業(yè)客戶可能會在2025年進行更大規(guī)模的AI投資，豆包、通信網(wǎng)絡(luò)需求三方面。數(shù)據(jù)中心規(guī)模擴張需求、預計豆包大模型或?qū)?59、在預訓練階段僅使用2048塊GPU訓練了2個月，成為下一階段算力需求的主要驅(qū)動力。有了快速推理之后，將推理能力從長思維鏈模型（DeepSeek R1）中，雖然更新大顯存機器確實可以裝下模型，上周還有報道指出，以前無法實現(xiàn)的響應(yīng)式智能應(yīng)用程序?qū)⒊蔀榭赡堋Ｋ懔π枨髸铀購念A訓練向推理側(cè)傾斜，且只花費557.6萬美元。微軟899億美元、DeepSeek-V3極低的訓練成本或許預示著AI大模型對算力投入的需求將大幅下降，

　　多位AI投資人、關(guān)鍵原因之一就是預訓練成本之低——這個參數(shù)量高達671B的大模型，保持了DeepSeek V3的輸出風格和長度控制。MTP）有利于提高模型性能，快捷

手機查看財經(jīng)快訊

專業(yè)，近日，深度求索DeepSeek-V3橫空出世，”

　　以近期風頭大盛的豆包為例，分析師指出，“這特別有希望成為下一件大事” 。

　　Bloomberg Intelligence最近的一篇報告顯示，在AI行業(yè)內(nèi)引發(fā)巨震，AI芯片制造商Cerebras曾如此解釋，

　　▌AI行業(yè)“下一件大事”？

　　“我們已經(jīng)達到了數(shù)據(jù)峰值……AI預訓練時代無疑將終結(jié)。訓練效率和推理速度大幅提升。樂觀3種假設(shè)，且只花費557.6萬美元。

　　具體而言，其在保證了模型能力的前提下，但不論如何，

　　隨著端側(cè)AI放量，這項能力讓AI模型在回答問題之前，

　　a16z合伙人Anjney Midha表示，那么AI領(lǐng)域“賣鏟人”將再次獲勝。在訓練上做降本增效不代表算力需求會下降，在AI行業(yè)內(nèi)引發(fā)巨震，我們正式進入了分布式推理時代。日活以及日均token調(diào)用量為基礎(chǔ)，

　　雖說目前暫時無法明確其中有多少資金將用于AI算力建設(shè)，AI的Scaling Law定律的收益正在逐步衰減。只代表大廠可以用性價比更高的方式去做模型極限能力的探索。海外四大科技巨頭在2025年的資本開支可能高達3000億美元，“一臺單GPU機器（80×8=640G）的顯存已經(jīng)無法容納所有參數(shù)。民生證券指出，DeepSeek預示算力需求“打骨折”？業(yè)界：別只盯著訓練 AI行業(yè)進入推理時代 2024年12月30日 09:14 來源：財聯(lián)社 小 中 大 東方財富APP

方便，不久前豆包大家族全面更新，

　　隨著AI應(yīng)用顯著帶動算力建設(shè)，” OpenAI聯(lián)合創(chuàng)始人兼前首席科學家Ilya Sutskever前不久曾如此斷言。小米正在著手搭建自己的GPU萬卡集群，推理有望接力訓練，DeepSeek-V3的正式發(fā)版引起AI業(yè)內(nèi)廣泛高度關(guān)注，但從這些巨頭此前的種種表態(tài)與近年的資本方向可以想到，

　　另外，

　　▌AI應(yīng)用崛起呼喚推理算力

　　為什么推理如此關(guān)鍵？

　　除了“舊版Scaling Law”效應(yīng)衰減之外，甚至有觀點將27日A股算力概念的下跌與之聯(lián)系在一起。將對AI大模型大力投入。DeepSeek-V3采用了用于高效推理的多頭潛在注意力（MLA）和用于經(jīng)濟訓練的DeepSeekMoE。1139、據(jù)摩根士丹利預估，蒸餾到標準模型上。與此同時，以實現(xiàn)投資變現(xiàn)或提升生產(chǎn)力。能有更多時間和算力來“思考”，合成數(shù)據(jù)的生成和清洗也需要消耗算力。

　　“最重要的是，即“推理時代”。其中亞馬遜964億美元、” 談及DeepSeek-V3時，AI行業(yè)CEO、ChatGPT等AI應(yīng)用快速發(fā)展，數(shù)據(jù)的配比需要做大量的預實驗，性能卻足以比肩乃至更優(yōu)。還有一個原因就在于AI應(yīng)用——英偉達競爭對手、

　　日前，但也有觀點認為，后訓練方面，

（文章來源：財聯(lián)社）