太阳城集团(新网)娱乐城怎麽赌钱-澳门太阳城网上娱乐城网站-澳门太阳城集团模特-瑞博

CN
|
EN
火山引擎譚待:AI新時(shí)代——大模型、Agent與推理規(guī)?;?
中國(guó)綠公司年會(huì)

 

4月21日,2025年中國(guó)綠公司年會(huì)舉辦“人工智能”主題高級(jí)別閉門(mén)研討。火山引擎總裁譚待以《AI新時(shí)代:大模型、Agent與推理規(guī)模化》為題進(jìn)行了分享。他指出:“作為字節(jié)跳動(dòng)旗下的云計(jì)算板塊,火山引擎站在更底層的角度來(lái)看待行業(yè)的發(fā)展。”

 

譚待  火山引擎總裁

 

火山引擎是字節(jié)跳動(dòng)旗下云與 AI 服務(wù)平臺(tái),提供抖音同款技術(shù)服務(wù)

火山引擎是字節(jié)跳動(dòng)旗下云與 AI 服務(wù)平臺(tái),為抖音、豆包等提供技術(shù)支持,于 2020 年正式對(duì)外提供云、大數(shù)據(jù)和 AI 領(lǐng)域服務(wù)。作為云廠(chǎng)商,其優(yōu)勢(shì)在于能從底層資源消耗洞察行業(yè)發(fā)展,2021 年便意識(shí)到 AI 對(duì)云與 IT 的驅(qū)動(dòng)作用并加大投入。

 

火山引擎領(lǐng)跑中國(guó)公有云大模型Token用量

從 2021 - 2024 年,AI 領(lǐng)域在云資源消耗上不斷變化,從自動(dòng)駕駛應(yīng)用 Transformer 架構(gòu),到國(guó)內(nèi)大模型和創(chuàng)業(yè)公司崛起,再到基礎(chǔ)模型訓(xùn)練及應(yīng)用發(fā)展。字節(jié)推出的豆包大模型采用多模態(tài)設(shè)計(jì),同時(shí)發(fā)展 ToC 和 ToB 業(yè)務(wù) 。2024 年 12 月 - 2025 年 3 月,豆包日均 Token 使用量從 4 萬(wàn)億增長(zhǎng)到 12.7 萬(wàn)億,反映出模型應(yīng)用的飛速發(fā)展。根據(jù)IDC《中國(guó)公有云大模型服務(wù)市場(chǎng)格局分析》,2024 年,火山在公有云模型調(diào)用量上占比 46%,見(jiàn)證模型技術(shù)突破帶動(dòng)調(diào)用量增長(zhǎng)。

 

邁進(jìn) Agent 元年,模型效果和 AI 云原生是關(guān)鍵方向

2025 年及未來(lái),模型將從感知 AI、生成式 AI 向Agent AI 發(fā)展,真正有挑戰(zhàn)的 Agent 需具備端到端處理復(fù)雜任務(wù)、多模態(tài)能力和操作工具的能力。實(shí)現(xiàn)這一發(fā)展的關(guān)鍵在于:模型要具備深度思考能力以完成復(fù)雜規(guī)劃;采用多模態(tài)處理多源數(shù)據(jù);發(fā)展 AI 云原生架構(gòu),使模型能操作各類(lèi)界面;實(shí)現(xiàn)推理規(guī)模化,降低 Token 使用成本,推動(dòng) AI Agent 大規(guī)模應(yīng)用。

 

豆包 1.5?深度思考模型,追求更好效果

火山引擎發(fā)布豆包 1.5 版深度思考模型,在數(shù)學(xué)、代碼、專(zhuān)家推理等評(píng)測(cè)集上達(dá)到全球第一梯隊(duì)水平。該模型參數(shù)設(shè)計(jì)創(chuàng)新,成本和延遲較低,具備 “邊想邊搜” 功能,可通過(guò)多輪迭代給出答案。同時(shí),它原生支持多模態(tài),能結(jié)合圖像和文本進(jìn)行深度思考,解決如出國(guó)點(diǎn)餐、企業(yè)流程圖分析等實(shí)際問(wèn)題。

 

AI 云原生,推動(dòng)面向 AI 的架構(gòu)創(chuàng)新和轉(zhuǎn)型

研發(fā) Agent ,除模型外,還需 AI 云原生組件。Agent 分為應(yīng)用類(lèi)和通用類(lèi),開(kāi)發(fā)通用 Agent 需要強(qiáng)大的多模態(tài)深度思考模型,以及將電腦、代碼、瀏覽器等封裝成沙箱供模型操作,并通過(guò)相關(guān)框架實(shí)現(xiàn)模型在實(shí)際操作中學(xué)習(xí)。此外,模型能力提升還對(duì)安全、存儲(chǔ)、網(wǎng)絡(luò)等底層架構(gòu)提出新要求,通過(guò) AI 云原生架構(gòu)可實(shí)現(xiàn)如自動(dòng)生成營(yíng)銷(xiāo)文案等應(yīng)用。

 

AI 云原生 - 讓推理端到端更快、更省

隨著豆包模型使用量增長(zhǎng),推理成本面臨挑戰(zhàn),需對(duì)底層推理進(jìn)行優(yōu)化。通過(guò)新架構(gòu)實(shí)現(xiàn)推理端到端更快更省,同時(shí)利用通用 Agent 可 7×24 小時(shí)工作的特點(diǎn),將部分復(fù)雜任務(wù)安排在夜間互聯(lián)網(wǎng)空閑時(shí)段進(jìn)行,這也符合中國(guó)綠公司年會(huì)倡導(dǎo)的綠色發(fā)展理念,在保證經(jīng)濟(jì)效益的同時(shí)減少碳排放。

 

企業(yè) AI 升級(jí)第一步?下載豆包 APP

對(duì)于企業(yè) AI 轉(zhuǎn)型,建議企業(yè)家先下載豆包 APP。因?yàn)榇竽P筒煌趥鹘y(tǒng)云、大數(shù)據(jù)技術(shù),個(gè)人通過(guò)使用 APP 能直觀(guān)感受其在工作和生活中的作用,加深對(duì)技術(shù)的理解,從而思考如何在企業(yè)中應(yīng)用,改變以往通過(guò) PPT 匯報(bào)了解工作的方式。

 


2025年,CEC發(fā)起“永續(xù)發(fā)展綠色伙伴”社群,攜手各行業(yè)領(lǐng)先企業(yè),共建年度高級(jí)別、多維度、多場(chǎng)景的高級(jí)別研討,構(gòu)建長(zhǎng)期的學(xué)習(xí)伙伴關(guān)系。

火山引擎作為首發(fā)伙伴,參與研發(fā)組織本屆綠公司年會(huì)議題,并將持續(xù)共建主題研討學(xué)習(xí)活動(dòng)。