三期同輝,收官閃耀!基調(diào)聽(tīng)云協(xié)辦的“智能觀測(cè)進(jìn)化論”第三期沙龍精彩回顧
2025年開(kāi)年以來(lái),國(guó)產(chǎn)Al DeepSeek、Manus在中國(guó)、美國(guó)的科技圈受到廣泛關(guān)注,成為大模型行業(yè)的“黑馬”,DeepSeek 憑借其獨(dú)特的技術(shù)架構(gòu)和低成本訓(xùn)練方案迅速成為行業(yè)焦點(diǎn),全球主流的技術(shù)公司紛紛接入DeepSeek模型,這不僅改變了AI大模型的研發(fā)格局,也在加速可觀測(cè)性技術(shù)向更加智能的形態(tài)演進(jìn)。
在此背景下,由中國(guó)信通院穩(wěn)定性保障實(shí)驗(yàn)室主辦、基調(diào)聽(tīng)云協(xié)辦的“智能觀測(cè)進(jìn)化論”系列沙龍拉開(kāi)帷幕,邀請(qǐng)行業(yè)資深專(zhuān)家和相關(guān)技術(shù)負(fù)責(zé)人就智能可觀測(cè)性領(lǐng)域的實(shí)踐經(jīng)驗(yàn)、發(fā)展趨勢(shì)、痛點(diǎn)問(wèn)題進(jìn)行分享討論,引發(fā)業(yè)內(nèi)廣泛關(guān)注。
01 前情回顧
“智能觀測(cè)進(jìn)化論”首期于2月28日成功召開(kāi),來(lái)自中國(guó)信通院、基調(diào)聽(tīng)云、華為云、科來(lái)網(wǎng)絡(luò)的專(zhuān)家進(jìn)行了分享,基調(diào)聽(tīng)云 AI 負(fù)責(zé)人韋遠(yuǎn)奎分享了《聽(tīng)云AI落地實(shí)踐-Text2NBQL》。上千人線(xiàn)上觀看直播。
(詳情鏈接:
https://mp.weixin.qq.com/s?__biz=MzA5NTkwMzkwNQ==&mid=2650446908&idx=1&sn=e2dc19c36c2761efa0b625330abb5391&chksm=89a4924679b19cd3ffc03c754db11b86fd022c23b39437b349c757b66b078d63eb3b45b70f4e&mpshare=1&scene=1&srcid=0305RyViHOY9RFPmjdZx4L1A&sharer_shareinfo=2c9ddca6f7d00af393472952872906c7&sharer_shareinfo_first=359bb08d5d37a9b66e793950dfa3a27c&version=4.1.6.70203&platform=mac#rd)
“智能觀測(cè)進(jìn)化論”第二期于3月7日召開(kāi),來(lái)自字節(jié)跳動(dòng)、咪咕視訊、移動(dòng)云的專(zhuān)家進(jìn)行了分享,基調(diào)聽(tīng)云 AI 負(fù)責(zé)人韋遠(yuǎn)奎在圓桌環(huán)節(jié)與各位與會(huì)專(zhuān)家展開(kāi)深入探討,發(fā)表聽(tīng)云觀點(diǎn)。
(詳情鏈接:
https://mp.weixin.qq.com/s?__biz=MzA5NTkwMzkwNQ==&mid=2650446958&idx=1&sn=49070dd853fad0c550b281f18f9667b3&chksm=897ecb4308bf0619b90a4c0d0e71b4f5a20a8f8e08c17ff04067ecd9fa578447bf8d36f27189&mpshare=1&scene=1&srcid=0312atarzdldZmHMKD06CPTd&sharer_shareinfo=25258010df80d8a45053e61a1d06b1d6&sharer_shareinfo_first=834887e9b8d43a4a9c549086b63b662a&version=4.1.6.70203&platform=mac#rd)
02 第三期精彩演講
3月28日,“智能觀測(cè)進(jìn)化論”第三期順利召開(kāi),來(lái)自中國(guó)信通院、基調(diào)聽(tīng)云、阿里云、杭州數(shù)列、浪潮通信的可觀測(cè)專(zhuān)家進(jìn)行了分享,基調(diào)聽(tīng)云 AI 負(fù)責(zé)人韋遠(yuǎn)奎發(fā)表了《Al Agent 賦能智能運(yùn)維》主題演講,下面,就讓我們一起來(lái)回顧會(huì)議精彩內(nèi)容!
中國(guó)信通院云大所云計(jì)算部 劉坤 發(fā)表了《中國(guó)信通院可觀測(cè)性標(biāo)準(zhǔn)體系及相關(guān)工作介紹》主題演講。介紹了中國(guó)信通院在可觀測(cè)性領(lǐng)域的標(biāo)準(zhǔn)體系和研究路徑,分析了成功立項(xiàng)的行業(yè)標(biāo)準(zhǔn)《云計(jì)算系統(tǒng)智能化可觀測(cè)性能力成熟度模型》標(biāo)準(zhǔn)內(nèi)涵,以及2025年中國(guó)信通院即將開(kāi)展的可觀測(cè)案例征集等工作的相關(guān)規(guī)劃。
基調(diào)聽(tīng)云AI負(fù)責(zé)人 韋遠(yuǎn)奎 發(fā)表了《Al Agent 賦能智能運(yùn)維》主題演講。他聚焦大模型與智能運(yùn)維的深度融合,系統(tǒng)解讀大模型在智能運(yùn)維場(chǎng)景中的實(shí)踐路徑,包括智能助手、異常檢測(cè)、告警降噪、根因分析等應(yīng)用。觀眾將深入了解如何構(gòu)建大模型驅(qū)動(dòng)的智能運(yùn)維平臺(tái),掌握自主動(dòng)態(tài)規(guī)劃和多智能體協(xié)作等關(guān)鍵能力,共同探索以大模型技術(shù)推動(dòng)運(yùn)維智能化升級(jí),助力企業(yè)數(shù)字化轉(zhuǎn)型的全面加速。
阿里云可觀測(cè)高級(jí)產(chǎn)品專(zhuān)家 曹劍 發(fā)表了《面向 LLM 應(yīng)用的端到端可觀測(cè)體系探索與實(shí)踐》主題演講。阿里云可觀測(cè)團(tuán)隊(duì)的產(chǎn)品經(jīng)理曹劍分享了關(guān)于大模型應(yīng)用端到端的可觀測(cè)解決方案,旨在解決AI應(yīng)用中的性能、可用性、質(zhì)量和成本問(wèn)題。主要內(nèi)容包括全棧監(jiān)控與全鏈路診斷,以提高推理速度和GPU利用率,并確保模型輸出準(zhǔn)確合規(guī)。通過(guò)Python Agent實(shí)現(xiàn)自動(dòng)化數(shù)據(jù)采集,支持多種AI框架,提供代碼級(jí)剖析能力,幫助快速定位問(wèn)題。此外,還介紹了如何利用獨(dú)立的大模型評(píng)估輸入輸出的質(zhì)量和安全性,以及對(duì)token消耗進(jìn)行多維度分析來(lái)控制成本。整體方案覆蓋了從基礎(chǔ)設(shè)施到應(yīng)用層的全面監(jiān)控和診斷能力,增強(qiáng)了AI服務(wù)的穩(wěn)定性和效率。
杭州數(shù)列網(wǎng)絡(luò)科技有限責(zé)任公司聯(lián)合創(chuàng)始人 楊德華 發(fā)表了《基于AI Agent的分布式系統(tǒng)性能容量風(fēng)險(xiǎn)發(fā)現(xiàn)、原因診斷和優(yōu)化實(shí)踐》主題演講。演講探討了基于AI Agent的分布式系統(tǒng)性能容量風(fēng)險(xiǎn)發(fā)現(xiàn)、原因診斷和優(yōu)化建議的實(shí)踐。隨著分布式系統(tǒng)的復(fù)雜性和多變性增加,傳統(tǒng)的性能監(jiān)控和優(yōu)化方法面臨反饋周期過(guò)長(zhǎng)、難以精準(zhǔn)定位問(wèn)題等挑戰(zhàn)。為此從業(yè)務(wù)場(chǎng)景切入,利用AI Agent實(shí)時(shí)收集和分析系統(tǒng)數(shù)據(jù),快速識(shí)別風(fēng)險(xiǎn)點(diǎn),并通過(guò)智能算法進(jìn)行原因診斷,最終給出優(yōu)化建議,并結(jié)合了實(shí)際應(yīng)用場(chǎng)景案例,展示企業(yè)在引入AI Agent后,如何顯著縮短問(wèn)題診斷時(shí)間并提升系統(tǒng)性能。
浪潮通信算力運(yùn)維可觀測(cè)平臺(tái)產(chǎn)品經(jīng)理 金鑫 發(fā)表了《基于可觀測(cè)運(yùn)維平臺(tái)的能力使用與AI輔助根因定位》主題演講。闡述了浪潮在可觀測(cè)運(yùn)維領(lǐng)域的成果,討論如何將傳統(tǒng)的技術(shù)運(yùn)維轉(zhuǎn)變成業(yè)務(wù)運(yùn)維,從業(yè)務(wù)的視角來(lái)看待當(dāng)前存在系統(tǒng)問(wèn)題,以及如何基于現(xiàn)有運(yùn)維指標(biāo),實(shí)現(xiàn)基于算法和專(zhuān)家規(guī)則經(jīng)驗(yàn)進(jìn)行故障根因定位。
03第三期圓桌觀點(diǎn)
【觀點(diǎn)總結(jié)】
觀點(diǎn)1:在過(guò)去,國(guó)內(nèi)外廠商差距較大,國(guó)外廠商在傳統(tǒng)的智能可觀測(cè)技術(shù)方面積累比較深厚,如專(zhuān)家經(jīng)驗(yàn)、知識(shí)庫(kù)等,但是大模型帶來(lái)了一些顛覆性的變革,當(dāng)基模的能力越來(lái)越強(qiáng),專(zhuān)家知識(shí)庫(kù)的積累似乎不那么重要了,在新的游戲規(guī)則下,國(guó)內(nèi)外都處于探索階段。
觀點(diǎn)2:需要先設(shè)計(jì)個(gè)評(píng)價(jià)的標(biāo)準(zhǔn)來(lái)衡量差距,比如從企業(yè)估值或市值方面來(lái)看,國(guó)內(nèi)外差距是比較大的,但這個(gè)跟國(guó)內(nèi)的商業(yè)歷史有關(guān),因此很難比較;從相關(guān)上市公司的數(shù)量看,國(guó)內(nèi)外差距也比較大?;蛟S我們可以使用“企業(yè)在智能可觀測(cè)方面一天有效使用的token數(shù)”來(lái)評(píng)價(jià)其水平。
觀點(diǎn)3:國(guó)內(nèi)外沒(méi)有太大的差距。國(guó)內(nèi)的各類(lèi)2C業(yè)務(wù)系統(tǒng)和APP的用戶(hù)體量不輸國(guó)外,且這些系統(tǒng)沒(méi)有出現(xiàn)過(guò)太多的問(wèn)題,這可以說(shuō)明我們的應(yīng)用系統(tǒng)建設(shè)足夠優(yōu)秀,我們的運(yùn)維能力/可觀測(cè)能力是不輸國(guó)外的。另一方面,對(duì)比智能可觀測(cè)能力要落到具體的場(chǎng)景和環(huán)境上,不同的運(yùn)維對(duì)象所需要的能力不一樣,硬搬一套系統(tǒng)去落實(shí)效果不一定好,要考慮運(yùn)維對(duì)象的適配問(wèn)題。
觀點(diǎn)4:國(guó)外在智能化方面體系存在先發(fā)優(yōu)勢(shì),但國(guó)內(nèi)的基模也在快速的發(fā)展,在部分方向?qū)崿F(xiàn)了領(lǐng)先,在智能化可觀測(cè)領(lǐng)域,一兩年之后國(guó)內(nèi)外水平會(huì)差不多。
【觀點(diǎn)總結(jié)】
觀點(diǎn)1:引入運(yùn)維工具會(huì)給運(yùn)維人員帶來(lái)額外的工作量,因此可以考慮多使用自動(dòng)化、智能化手段簡(jiǎn)化用戶(hù)學(xué)習(xí)和操作成本。
觀點(diǎn)2:運(yùn)維工具對(duì)于其創(chuàng)造者是很好落地的,但是創(chuàng)造者所設(shè)想的場(chǎng)景和客戶(hù)實(shí)際的場(chǎng)景可能存在差異,因此在把運(yùn)維工具推到客戶(hù)側(cè)的生產(chǎn)系統(tǒng)時(shí),會(huì)遇到一系列卡點(diǎn),要符合客戶(hù)側(cè)一系列規(guī)章制度的同時(shí),還需要向客戶(hù)的各個(gè)角色證明其價(jià)值和收益,因此必須在設(shè)計(jì)開(kāi)發(fā)階段就好好琢磨用戶(hù)實(shí)際生產(chǎn)中的落地難點(diǎn)。
觀點(diǎn)3:運(yùn)維工具對(duì)于用戶(hù)的上手門(mén)檻是一個(gè)最難的點(diǎn)。一些運(yùn)維工具設(shè)計(jì)比較復(fù)雜,有些用戶(hù)企業(yè)由于技術(shù)棧比較封閉,運(yùn)維人員不能熟練地使用運(yùn)維工具導(dǎo)致其價(jià)值大打折扣。
觀點(diǎn)4:從數(shù)據(jù)方面來(lái)說(shuō),在發(fā)生故障排查問(wèn)題時(shí),要想發(fā)揮運(yùn)維工具的價(jià)值,就需要全部的服務(wù)和組件接入工具,盡量不能存在數(shù)據(jù)斷點(diǎn)和缺失,一環(huán)數(shù)據(jù)缺失就可能導(dǎo)致運(yùn)維工具在這次故障排查中作廢,因此要統(tǒng)一數(shù)據(jù)接入、統(tǒng)一查詢(xún)、統(tǒng)一關(guān)聯(lián)、統(tǒng)一分析。
【觀點(diǎn)總結(jié)】
觀點(diǎn)1:可觀測(cè)這個(gè)生意就像造牛仔褲的生意一樣。任何一個(gè)時(shí)代都有掘金者,掘金者都需要牛仔褲,都需要相應(yīng)的工具支持和配套,可觀測(cè)APM魔力象限的玩家這么多年幾乎完全更替了一輪,微服務(wù)、云原生等每一次變革都帶來(lái)了行業(yè)新一輪洗牌,推理應(yīng)用出現(xiàn)之后,我們需要立刻思考怎么做它的觀測(cè),怎么保障它的可用性。
觀點(diǎn)2:可觀測(cè)會(huì)從傳統(tǒng)的以資源、應(yīng)用性能為中心的方式向數(shù)據(jù)安全、可解釋性、端到端全鏈路追蹤的方式轉(zhuǎn)變。
觀點(diǎn)3:最直觀的是在交互形式上變化,用戶(hù)可以直接從對(duì)話(huà)框輸入問(wèn)題來(lái)進(jìn)行交互和分析問(wèn)題。
【觀點(diǎn)總結(jié)】
觀點(diǎn)1:從業(yè)務(wù)角度來(lái)說(shuō),AI無(wú)法完全代替人,但AI的融入是必然,我們需要有AI意識(shí)。
觀點(diǎn)2:人要做價(jià)值的導(dǎo)向者、創(chuàng)新的推動(dòng)者、AI的監(jiān)督者,人需要提高使用AI的能力和批判性思維的能力。
觀點(diǎn)3:與AI合作,如同人類(lèi)開(kāi)車(chē)一樣,在具體場(chǎng)景中,人要設(shè)定好一個(gè)目標(biāo),并把控AI向著目標(biāo)前進(jìn),同時(shí)人要為AI做出的選擇和動(dòng)作承擔(dān)責(zé)任。
觀點(diǎn)4:這個(gè)問(wèn)題落到運(yùn)維領(lǐng)域來(lái)說(shuō),AI最終會(huì)將運(yùn)維人員武裝成007電影中的Q博士,每個(gè)人都會(huì)成為超級(jí)開(kāi)發(fā)者和運(yùn)維者。
當(dāng)下,數(shù)字技術(shù)的浪潮奔涌不息,行業(yè)發(fā)展瞬息萬(wàn)變,作為可觀測(cè)性與應(yīng)用安全領(lǐng)域的領(lǐng)導(dǎo)者,基調(diào)聽(tīng)云憑借敏銳的技術(shù)洞察力,積極擁抱前沿科技,將 AI 大模型與可觀測(cè)性技術(shù)深度融合。未來(lái),基調(diào)聽(tīng)云將充分發(fā)揮自身的技術(shù)優(yōu)勢(shì)與行業(yè)影響力,引領(lǐng)可觀測(cè)性與應(yīng)用安全行業(yè)邁向新的高度,為客戶(hù)的業(yè)務(wù)穩(wěn)定運(yùn)行提供堅(jiān)實(shí)保障,共創(chuàng)行業(yè)發(fā)展的美好未來(lái)。
-
海能新能源助力科技創(chuàng)新——第六屆射頻與天線(xiàn)技術(shù)國(guó)際學(xué)術(shù)研討會(huì)在深圳成功召開(kāi)
-
漢王友基與廣州美術(shù)學(xué)院達(dá)成校企戰(zhàn)略合作
-
以遠(yuǎn)見(jiàn)超越未見(jiàn) | 2023 山石網(wǎng)科 · 安全守護(hù)者峰會(huì)成功舉辦
-
漢王友基點(diǎn)陣筆新品上市,賦能紙筆互動(dòng)智慧教育場(chǎng)景
-
新生產(chǎn)力,躍升!2023WAIC“智慧金融與數(shù)字員工”分論壇在滬成功舉辦
-
DHL亞特蘭大樞紐投運(yùn)
-
三亞太陽(yáng)灣柏悅酒店開(kāi)啟盛夏山海暑期童趣之旅