2025年7月22日，由中國信息通信研究院主辦的第十二屆可信云大會(huì)在北京召開。會(huì)上，國內(nèi)首個(gè)《面向LLM應(yīng)用的可觀測性能力要求》標(biāo)準(zhǔn)正式發(fā)布。該標(biāo)準(zhǔn)由中國信通院聯(lián)合業(yè)內(nèi)29家頭部單位共同制定，基調(diào)聽云作為重要參編單位之一，全程參與了標(biāo)準(zhǔn)的設(shè)計(jì)、討論與落地工作。

這一標(biāo)準(zhǔn)的發(fā)布，標(biāo)志著國內(nèi)在大模型可觀測性領(lǐng)域邁出了從“實(shí)踐分散”到“能力標(biāo)準(zhǔn)化”的關(guān)鍵一步。

?

?

?

?

構(gòu)建生成式AI的可觀測性基線
行業(yè)首個(gè)權(quán)威標(biāo)準(zhǔn)發(fā)布

?

?

隨著生成式 AI 技術(shù)的加速應(yīng)用，LLM（大語言模型）在智能對話、RAG 檢索增強(qiáng)生成、Agent 智能體等場景中表現(xiàn)出巨大潛力。與此同時(shí)，圍繞 LLM 應(yīng)用部署的可觀測性建設(shè)也面臨前所未有的挑戰(zhàn)：

●?模型鏈路深、依賴復(fù)雜

●?推理響應(yīng)存在不確定性

●?用戶體驗(yàn)難以量化評估

●?架構(gòu)層次多樣，監(jiān)控顆粒度模糊

標(biāo)準(zhǔn)的發(fā)布，正是為了解決上述痛點(diǎn)，建立一套“可量化、可評估、可落地”的觀測能力分級體系，指導(dǎo)企業(yè)在 AI 時(shí)代構(gòu)建穩(wěn)健的系統(tǒng)運(yùn)行與質(zhì)量保障能力。

?

?

?

?

?

基調(diào)聽云參與標(biāo)準(zhǔn)制定
貢獻(xiàn)平臺經(jīng)驗(yàn)與評估實(shí)踐

?

?

?

作為長期深耕智能觀測領(lǐng)域的技術(shù)提供方，基調(diào)聽云憑借在鏈路追蹤、性能評估、Token 分析、響應(yīng)延遲追溯等方面的平臺能力，積極參與本次標(biāo)準(zhǔn)制定全過程，并為多個(gè)關(guān)鍵指標(biāo)體系的設(shè)計(jì)提供了實(shí)踐支撐。

?

?

?

?

助力大模型可觀測體系
走向標(biāo)準(zhǔn)化與工程落地

?

?

本次標(biāo)準(zhǔn)以數(shù)據(jù)為主線，提出了從數(shù)據(jù)采集、模型構(gòu)建、存儲治理到實(shí)際應(yīng)用的四大模塊化結(jié)構(gòu)，并細(xì)化指標(biāo)至基礎(chǔ)設(shè)施層、中間件層、模型層、服務(wù)層和應(yīng)用層。其目標(biāo)不僅是“規(guī)范現(xiàn)有”，更是“引導(dǎo)未來”。

?

基調(diào)聽云將持續(xù)與中國信通院等權(quán)威機(jī)構(gòu)保持緊密合作，共同推動(dòng)生成式AI應(yīng)用的系統(tǒng)可視化、可解釋化、可評估化，構(gòu)建面向未來的大模型可觀測基礎(chǔ)能力。我們也將繼續(xù)依托“觀云智能可觀測性平臺”，打磨面向 AI 應(yīng)用場景的鏈路觀測、性能診斷與行為分析能力，助力企業(yè)更穩(wěn)、更快、更可控地落地 AIGC 生產(chǎn)體系。

推薦閱讀