嘉為藍(lán)鯨LLMOps平臺：攜手DeepSeek助力一體化運(yùn)維升級
一、背景
蛇年伊始，DeepSeek憑借其卓越表現(xiàn)火爆出圈，讓AI大模型瞬間成為街頭巷尾熱議的焦點(diǎn)，也讓大眾重新燃起對AGI（通用人工智能）“平民化”的信心，DeepSeek通過先進(jìn)的模型架構(gòu)，帶來的高效率與低成本優(yōu)勢，加快了應(yīng)用場景的百花齊放。
嘉為藍(lán)鯨早在23年初就接入GPT等大模型在運(yùn)維領(lǐng)域中孵化應(yīng)用場景，而到本次DeepSeek評測和應(yīng)用，又增加了更多實(shí)踐。那怎么用好DeepSeek服務(wù)于運(yùn)維，我們在設(shè)計(jì)上始終秉持智能化運(yùn)維進(jìn)程里面的兩個設(shè)計(jì)原則：平臺化和場景化。
平臺化：不只是提供工具，而是賦能工具的構(gòu)建能力，無論從數(shù)據(jù)開發(fā)過程、機(jī)器學(xué)習(xí)模型開發(fā)過程，還是大模型智能體開發(fā)過程，提供的是兼容各類場景的開發(fā)平臺；
場景化：數(shù)據(jù)、AI不能脫離運(yùn)維場景進(jìn)行，如果沒有實(shí)用化、工程化的落地，那么數(shù)據(jù)AI的應(yīng)用也只是圖個新鮮，因而所有的能力都會以能力調(diào)用的方式集成到產(chǎn)品中。
二、LLMOps平臺+DeepSeek優(yōu)勢
嘉為藍(lán)鯨運(yùn)維大模型開發(fā)平臺（簡稱LLMOps平臺）致力于為運(yùn)維全生命周期提供卓越的運(yùn)維工具支持，為業(yè)務(wù)通用AI場景提供工具支持，為滿足不同業(yè)務(wù)場景需求提供自定義開發(fā)擴(kuò)展能力。
1、LLMOps平臺作為運(yùn)維大模型開發(fā)平臺，分為兩個模塊
（1）大模型服務(wù)模塊
提供跨公私域多種大語言模型接入（內(nèi)置60多種常見模型適配器，也包含DeepSeek各類尺寸的接入），為上層工具和應(yīng)用提供統(tǒng)一的使用和運(yùn)維接口，并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力，LLM 資源管理則提供了 AI 場景建設(shè)過程中用到的各種資源、工具的支持。包括知識庫管理、工具管理、智能 Agent 管理、Prompt 管理等。
（2）大模型開發(fā)模塊
提供了LLM Agent Framework ，這是一個 LLM 智能 Agent 應(yīng)用開發(fā)框架，提供單 Agent 智能代理與基于 Graph 編排的多 Agent 智能代碼構(gòu)建支持，使用 Graph 組合 Agent，Chain，Retriever 等各類子組件，編排業(yè)務(wù)流程，解決復(fù)雜多變的業(yè)務(wù)問題，同時最大程度保留可復(fù)用性。
作為整個嘉為藍(lán)鯨一體化運(yùn)維體系的一部分，與一體化運(yùn)維系統(tǒng)之間通過功能調(diào)用，以及數(shù)據(jù)和知識接入，形成有機(jī)互動，實(shí)現(xiàn)更為豐富的場景化應(yīng)用。
2、在運(yùn)維領(lǐng)域應(yīng)用，我們評測了各個國內(nèi)外大模型的適用場景和落地效果，DeepSeek相比其他大模型，的確讓人眼前一亮
（1）算力效率革新
DeepSeek通過多模態(tài)深度Transformer架構(gòu)，以及動態(tài)稀疏激活機(jī)制，實(shí)現(xiàn)了萬億參數(shù)級的高效推理，能對文字、代碼、數(shù)學(xué)符號等不同類型文本進(jìn)行統(tǒng)一理解與生成。在運(yùn)維領(lǐng)域，解決了不突破企業(yè)數(shù)據(jù)安全限制的要求下，實(shí)現(xiàn)低成本的高質(zhì)量大模型的部署和應(yīng)用。
（2）深度洞察
DeepSeek的對齊強(qiáng)化學(xué)習(xí)框架則刺透人類意圖的次元壁。通過海量高質(zhì)量數(shù)據(jù)鍛造的語義理解鋒刃，在對話場景中實(shí)現(xiàn)94.3%的意圖識別準(zhǔn)確率，非常適合作為運(yùn)維領(lǐng)域全能助手，識別用戶的意圖，然后調(diào)用私域知識或運(yùn)維工具獲取信息，精準(zhǔn)解答用戶問題。
（3）持續(xù)進(jìn)化基因
DeepSeek通過持續(xù)預(yù)訓(xùn)練框架使模型具備“細(xì)胞級”迭代能力，加上低訓(xùn)練成本優(yōu)勢，可以在智能運(yùn)維場景落地過程中，持續(xù)消費(fèi)企業(yè)積累的知識，進(jìn)行模型的訓(xùn)練微調(diào)，不斷進(jìn)化生長，成為企業(yè)“量身定制”的智能運(yùn)維專家。
3、LLMOps關(guān)鍵產(chǎn)品功能示意
（1）多模型接入
支持60+模型接入框架，包括私有化部署和托管接入方式，同時通過LLM Gateway屏蔽不同LLM模型之間的差異，為上層應(yīng)用提供業(yè)界標(biāo)準(zhǔn)的OpenAI 協(xié)議API 接口，并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力。
（2）私域知識接入
進(jìn)行RAG預(yù)處理，并支持文件上傳、手工錄入、網(wǎng)頁知識三種形式；可在聊天過程中可指定回復(fù)引用知識庫。
（3）支持工具開發(fā)
創(chuàng)建/編輯工具，填寫工具的基本信息，調(diào)用接口和請求參數(shù)；可在會話和智能體開發(fā)中調(diào)用。
（4）提示詞與角色定義
創(chuàng)建prompts并支持在線調(diào)試，基于prompts設(shè)定角色，并選擇不同大模型進(jìn)行聯(lián)調(diào)，支持接口及開發(fā)框架調(diào)用。
（5）智能體開發(fā)框架
提供智能體開發(fā)框架，包括單Agent智能代理與基于編排的多Agent智能代碼構(gòu)建支持。
6、LLMOps+DeepSeek問答
三、DeepSeek在智能運(yùn)維場景應(yīng)用
嘉為藍(lán)鯨探索大模型，包括DeepSeek在智能運(yùn)維場景的應(yīng)用，仍然從一體化運(yùn)維的業(yè)務(wù)視角出發(fā)，不是從單點(diǎn)場景視角提升，而是業(yè)務(wù)閉環(huán)視角整體提升。
企業(yè)IT運(yùn)維一體化場景涵蓋了多個運(yùn)維活動，日常維護(hù)、變更發(fā)布、故障應(yīng)急、服務(wù)響應(yīng)、優(yōu)化提升、安全管控等均需要跨多個運(yùn)維領(lǐng)域完成，場景驅(qū)動了各個業(yè)務(wù)域之間的業(yè)務(wù)集成和技術(shù)集成設(shè)計(jì)。
以典型的事件生命周期管理為例，基于大模型重構(gòu)提升場景如下：
四、應(yīng)用場景清單
五、應(yīng)用場景詳細(xì)描述
1、產(chǎn)品使用助手
（1）內(nèi)容描述
IT運(yùn)維團(tuán)隊(duì)逐漸向SRE、平臺工程轉(zhuǎn)型，過程中依賴各種運(yùn)維工具體系建設(shè)和推廣。每次運(yùn)維新產(chǎn)品發(fā)布或者產(chǎn)品功能更新，都需要花費(fèi)大量時間組織用戶培訓(xùn)和使用答疑，費(fèi)時費(fèi)力。借助大模型如DeepSeek強(qiáng)大的推理能力，結(jié)合產(chǎn)品使用手冊，可以低成本實(shí)現(xiàn)面向用戶的產(chǎn)品使用助手，主要包含如下功能：
1）知識管理能力
支持手動上傳各類格式的文檔知識，如md、doc、pdf、excel、ppt等；支持和企業(yè)內(nèi)已有的知識庫對接，并能同步更新。
2）知識檢索能力
支持通過向量相似度或關(guān)鍵詞等多種方式進(jìn)行知識檢索和知識召回，如基于標(biāo)題或特定字段的向量召回或全文檢索匹配召回，再根據(jù)多路召回的知識進(jìn)行去重和排序，選擇最相關(guān)的知識片段，輸入給大模型進(jìn)行上下文學(xué)習(xí)和總結(jié)，旨在優(yōu)化信息檢索的覆蓋率和精確度。
3）大模型提煉總結(jié)
遵循最佳提示詞框架，與大模型進(jìn)行交互，把提示詞模板和檢索到的知識片段按照特定格式發(fā)送給大模型進(jìn)行總結(jié)，利用大模型強(qiáng)大的推理能力，返回符合用戶意圖的問題回復(fù)。
4）IM工具集成
支持和企業(yè)內(nèi)已有的IM工具進(jìn)行集成，如企業(yè)微信、釘釘、飛書等，進(jìn)一步提升產(chǎn)品使用助手的用戶覆蓋，降低用戶使用工具的門檻。
（2）價值收益
1）新產(chǎn)品或新功能推廣效率提升顯著；
2）功能使用類ITSM工單降低50%以上。
（3）技術(shù)實(shí)現(xiàn)
基礎(chǔ)大模型/提示詞工程/知識庫/RAG。
2、IT觀測助手
(1)內(nèi)容描述
IT監(jiān)控工具是IT運(yùn)維的第一個建設(shè)工具，作為運(yùn)維人員的“眼睛”，IT監(jiān)控在“數(shù)字化”、“云原生”、“信創(chuàng)”的大趨勢下正在向“可觀測”領(lǐng)域持續(xù)演進(jìn)發(fā)展，而當(dāng)大模型來臨之際，可觀測也需要具備各種人工智能能力，主動性地提升IT人員在故障發(fā)現(xiàn)、故障定位、故障處置上的效率和質(zhì)量，從而更好地保障業(yè)務(wù)正常運(yùn)轉(zhuǎn)。
借助大模型的能力，可結(jié)合Chatops建設(shè)IT觀測助手實(shí)現(xiàn)以下功能：
1)觀測智能問答
借助大模型語文識別，提供私域和公域知識的智能問答。
2)告警關(guān)聯(lián)數(shù)據(jù)提取
當(dāng)發(fā)生告警時，觀測助手可主動提供此對象以及與此對象相關(guān)的其他對象的指標(biāo)/日志/Trace/拓?fù)涞刃畔?，供IT運(yùn)維人員進(jìn)行故障診斷定位。
3)推理式告警根因分析
觀測助手可基于應(yīng)用橫縱向拓?fù)湫畔⑻峁└蚍治鐾扑]能力。
4)告警處置引導(dǎo)及操作執(zhí)行
觀測助手可基于根因分析和故障決策樹的定位能力，以及應(yīng)急處置能力提供引導(dǎo)式故障處置執(zhí)行。
5)告警處置過程內(nèi)容總結(jié)
針對告警的定位、協(xié)同過程、定位和處置、業(yè)務(wù)驗(yàn)證結(jié)果形成告警處理事件總結(jié)。
6)告警處置方案自動回寫知識庫并更新
針對告警的發(fā)現(xiàn)、定位和處置結(jié)果自動回寫到歷史事件知識庫中，以供下一次的故障處置提供參考。
7)監(jiān)控告警插件編寫
基于公域知識提供各種組件的監(jiān)控指標(biāo)定義和插件編碼，自動生成相應(yīng)監(jiān)控告警插件。
8)監(jiān)控、告警策略編寫
基于公域知識提供和自動生成各類組件的告警閾值策略
(2)價值收益
1)持續(xù)增強(qiáng)第二代監(jiān)控——可觀測的自動化監(jiān)控告警的推廣和覆蓋的運(yùn)營能力；
2)提升從告警發(fā)現(xiàn)、故障定位、故障處置的效率；
3)將紛繁復(fù)雜、持續(xù)迭代的運(yùn)維經(jīng)驗(yàn)和能力沉淀到工具和平臺上，以“智能”替換“專家”，形成IT運(yùn)維的核心能力建設(shè)。
(3)技術(shù)實(shí)現(xiàn)
1)結(jié)合Chatops技術(shù)提供人機(jī)交互；
2)基于CMDB與APM的橫縱向拓?fù)錁?gòu)建的知識圖譜算法提供故障定位能力；
3)基于LLM的語義識別/Functioncall/知識庫提供高效的引導(dǎo)式故障處置能力；
4)整合CMDB、ITSM、自動化、可觀測、數(shù)據(jù)與AI/LLM提升IT故障發(fā)現(xiàn)、協(xié)同、定位、處置等業(yè)務(wù)連續(xù)性閉環(huán)管理能力。
3、IT服務(wù)臺智能助手
(1)內(nèi)容描述
隨著企業(yè)信息系統(tǒng)的增多，IT服務(wù)請求數(shù)量同步增多，單靠增加人力的方式來保持服務(wù)臺的正常運(yùn)營變得非常困難，從而引發(fā)客戶滿意度降低、運(yùn)營成本居高不下等問題，因此如何提升IT服務(wù)臺運(yùn)營效率成為亟待解決的問題。
結(jié)合對服務(wù)臺工作場景的分析，借助基于大模型的IT服務(wù)臺智能助手，可以大幅提升服務(wù)臺運(yùn)營效率：
1)智能問答：提供更準(zhǔn)確的咨詢問題答復(fù)，減少到服務(wù)臺坐席的咨詢請求量；
2)智能提單：引導(dǎo)用戶自助提單，以減少服務(wù)臺代提單工作量；
3)智能派單：結(jié)合一、二線處理人員的工作負(fù)載，智能派單至負(fù)載最低的處理人員，減少坐席人工識別和派單工作量；
4)智能推薦：在接收到服務(wù)請求的同時，智能助手根據(jù)對工單內(nèi)容的理解，更準(zhǔn)確地推薦知識庫中沉淀的解決方案，從而提高請求的處理效率。
(2)價值收益
1)提高服務(wù)臺運(yùn)營效率；
2)提升客戶/用戶滿意度。
(3)技術(shù)實(shí)現(xiàn)
1)基于即時通訊、大模型、RAG、知識庫實(shí)現(xiàn)智能問答；
2)基于LLM的語義識別/Functioncall實(shí)現(xiàn)智能提單；
3)結(jié)合運(yùn)維人員工作任務(wù)數(shù)據(jù)、相似任務(wù)用時等進(jìn)行工作負(fù)載判斷；
4)基于大模型、RAG、知識庫實(shí)現(xiàn)智能問答。
4、IT知識庫智能助手
(1)內(nèi)容描述
經(jīng)驗(yàn)總結(jié)與知識沉淀非常重要，常被稱為企業(yè)運(yùn)營的“第二大腦”。但知識管理的建設(shè)一直是一個讓管理者頭疼的問題，無法投入專職的知識運(yùn)營人員，運(yùn)維人員忙于事務(wù)也很難兼顧知識的沉淀。沒有知識的知識庫，其功能再豐富也沒意義。如今借助基于大模型的智能知識助手，讓低成本的知識運(yùn)營變得可能：
1)智能總結(jié)知識
結(jié)合工單的詳情與處理過程、溝通評論、即時聊天記錄等日常解決用戶問題的過程數(shù)據(jù)，借助大模型的分析總結(jié)能力，即時或定期進(jìn)行自動化的知識總結(jié)并錄入知識庫；
2)智能檢索知識
提供更準(zhǔn)確、更易維護(hù)的知識檢索模式。相比傳統(tǒng)知識檢索，基于大模型的智能檢索方式可以自動學(xué)習(xí)知識庫內(nèi)容，無需手動標(biāo)注規(guī)則。新知識入庫后，模型通過向量化實(shí)時納入檢索范圍，同時結(jié)合用戶反饋（如點(diǎn)擊率、采納率）自動優(yōu)化檢索排序（如將高頻采納的解決方案置頂）。
(2)價值收益
1)提升知識沉淀效率和質(zhì)量；
2)降低知識運(yùn)營的人力成本；
3)提高知識消費(fèi)的便捷性。
(3)技術(shù)實(shí)現(xiàn)
通過API及對應(yīng)IM工具的SDK獲取過程記錄，結(jié)合大模型提示詞進(jìn)行知識總結(jié)。
5、CMDB智能助手
(1)內(nèi)容描述
CMDB作為運(yùn)維管理的“基石”，其數(shù)據(jù)的質(zhì)量非常重要。借助CMDB智能助手，可以讓配置數(shù)據(jù)的接入和消費(fèi)環(huán)節(jié)更便捷與高效，以助力CMDB的數(shù)據(jù)治理與運(yùn)營。
1)智能采集開發(fā)：在已有的配置采集插件協(xié)議的約束下，通過自然語言提高采集插件的開發(fā)效率，包括插件代碼生成、插件代碼檢查等；
2)智能配置查詢：以提示詞方式便捷對配置數(shù)據(jù)進(jìn)行消費(fèi)，包括影響分析、路徑查詢、關(guān)聯(lián)查詢等；
3)智能拓?fù)渖桑阂蕴崾驹~方式便捷生成配置拓?fù)鋱D；
4)智能運(yùn)營報(bào)告：以提示詞方式便捷生成運(yùn)營報(bào)告，減少手工統(tǒng)計(jì)與排版工作。
(2)價值收益
1)降低配置自動采集門檻，提高自動化采集率；
2)提高配置數(shù)據(jù)的消費(fèi)便捷性；
3)降低配置管理的運(yùn)營成本。
(3)技術(shù)實(shí)現(xiàn)
開發(fā)協(xié)議、查詢協(xié)議、低代碼協(xié)議與大模型結(jié)合，實(shí)現(xiàn)自然語言與技術(shù)協(xié)議的轉(zhuǎn)換。
6、IT工單智能助手
(1) 內(nèi)容描述
工單作為工作協(xié)同的信息載體，是團(tuán)隊(duì)在日常工作中頻繁操作的對象。如果給工單加上“大腦”，對團(tuán)隊(duì)協(xié)同的效率將會大幅提升。IT工單智能助手，可以讓運(yùn)維工單更智能，運(yùn)維工作更省心。
1)借助大模型泛化能力，自動生成與業(yè)務(wù)相關(guān)的關(guān)鍵字和正則表達(dá)式，替代人工質(zhì)檢實(shí)現(xiàn)全自動化工單轉(zhuǎn)入轉(zhuǎn)出質(zhì)檢；
2)利用大模型去提取關(guān)鍵參數(shù)并進(jìn)行參數(shù)標(biāo)注化轉(zhuǎn)義，并將查證后的內(nèi)容自動回復(fù)，實(shí)現(xiàn)工單智能化查證回復(fù)；
3)構(gòu)建投訴報(bào)告生成智能體，基于手機(jī)號查詢多平臺多類型投訴信息，1秒自動生成投訴報(bào)告，極大提升報(bào)告編寫效率。
(2)價值收益
1)工單流轉(zhuǎn)問題的損耗降低；
2)工單平均處理的時長減少；
3)運(yùn)維工作協(xié)同的效率提升。
(3)技術(shù)實(shí)現(xiàn)
結(jié)合大模型/Functioncall、知識庫實(shí)現(xiàn)與第三方質(zhì)檢接口集成。
7、應(yīng)急智能助手
(1)內(nèi)容描述
應(yīng)急預(yù)案是IT應(yīng)急管理中最核心的資產(chǎn)，如何創(chuàng)建全面且指導(dǎo)性的應(yīng)急預(yù)案是應(yīng)急管理中最核心的工作，應(yīng)急智能助手能基于文字描述識別用戶意圖，結(jié)合歷史應(yīng)急預(yù)案和應(yīng)用架構(gòu)手冊，輔助生成應(yīng)急預(yù)案。
面對應(yīng)急故障事件，可以按照企業(yè)IT應(yīng)急報(bào)告內(nèi)容和格式要求，基于應(yīng)急事件全生命周期記錄，輔助生成應(yīng)急故障報(bào)告。
同時應(yīng)急智能助手，能支持對話窗智能化查詢應(yīng)急預(yù)案/場景，應(yīng)急事件總結(jié)/演練計(jì)劃，通過對話發(fā)起應(yīng)急演練，啟動應(yīng)急事件，全面提升應(yīng)急交互模式。
(2)價值收益
1)提升預(yù)案準(zhǔn)確性和有效性；
2)提升報(bào)告生成效率；
3)極大提升IT應(yīng)急效率。
(3)技術(shù)實(shí)現(xiàn)
1)將應(yīng)急預(yù)案庫和應(yīng)用架構(gòu)向量化存放在知識庫，利用RAG和大模型提示詞能力生成應(yīng)急預(yù)案；
2)利用Functioncall構(gòu)建應(yīng)急報(bào)告數(shù)據(jù)查詢工具Tools，在調(diào)用大模型提示詞對應(yīng)急數(shù)據(jù)進(jìn)行潤色生成符合格式的應(yīng)急故障報(bào)告；
3)通過意圖識別實(shí)現(xiàn)智能路由，支持多場景的應(yīng)急需求。
8、變更發(fā)布智能助手
(1)內(nèi)容描述
當(dāng)應(yīng)用系統(tǒng)變更異常時，能夠結(jié)合業(yè)務(wù)系統(tǒng)變更歷史信息和完整的應(yīng)用拓?fù)湫畔ⅲ焖俳o出變更異常影響面分析；并結(jié)合運(yùn)維大模型領(lǐng)域知識，對異常報(bào)錯進(jìn)行分析，輔助變更人員快速定位根因。
通過對話框構(gòu)建變更智能問答助手，運(yùn)維人員可以通過自然語言查詢所有變更記錄，同時能輔助生成變更周報(bào)/月報(bào)。
(2)價值收益
1)快速識別變更影響面，提升變更異常分析效率，降低變更影響；
2)提升變更周報(bào)月報(bào)的質(zhì)量和生成效率。
(3)技術(shù)實(shí)現(xiàn)
1)將大模型和小模型技術(shù)結(jié)合，實(shí)現(xiàn)對變更異常的多維度分析，實(shí)現(xiàn)變更異?？焖俣ㄎ?；
2)構(gòu)建多個變更智能工具Tools：變更記錄查詢/報(bào)告生成/通識變更問答，通過意圖識別模塊導(dǎo)航到對應(yīng)的智能工具。
9、應(yīng)用巡檢智能助手
(1)內(nèi)容描述
面對多種巡檢類型，需要支持命令行、API、界面內(nèi)容等多種數(shù)據(jù)源，利用應(yīng)用巡檢智能助手進(jìn)行統(tǒng)一分析和巡檢判斷，生成統(tǒng)一的巡檢報(bào)告，解決單一對象人工巡檢問題。
巡檢結(jié)果智能分析，巡檢過程中出現(xiàn)的重點(diǎn)指標(biāo)、可疑進(jìn)程、意外事件，通過應(yīng)用巡檢智能助手，從橫向縱向等多維度對進(jìn)行結(jié)果進(jìn)行深度分析，并支持多范圍多對象多領(lǐng)域的統(tǒng)計(jì)展示。
(2)價值收益
1)支持異構(gòu)應(yīng)用的統(tǒng)一巡檢，將運(yùn)維人員從高頻人工巡檢中釋放，提升巡檢的效率和準(zhǔn)確性；
2)支持自然語言發(fā)起巡檢查詢結(jié)果，提升應(yīng)用巡檢體驗(yàn)。
(3)技術(shù)實(shí)現(xiàn)
1)利用大模型多模態(tài)能力實(shí)現(xiàn)界面內(nèi)容自動巡檢，結(jié)合自動化工具，實(shí)現(xiàn)傳統(tǒng)界面內(nèi)容的自動化巡檢；
2)結(jié)合大模型運(yùn)維通識問答和RAG知識庫能力，實(shí)現(xiàn)對巡檢指標(biāo)外的異常結(jié)果分析和建議。
10、智能編碼助手
(1)內(nèi)容描述
在代碼輔助編寫場景，我們通過 BKGPT 插件對接大模型和IDE，讓開發(fā)者可以在編程工具里閉環(huán)信息檢索的過程，大大提升了開發(fā)問題查詢效率。其次，我們提供了 BKCodeAI 插件，可以實(shí)現(xiàn)根據(jù)注釋中的需求描述，進(jìn)行代碼生成和補(bǔ)全，當(dāng)前已經(jīng)支持函數(shù)級代碼生成。
另一方面，在 git push 時，會自動觸發(fā) AI CodeReview 任務(wù)，CR 任務(wù)將異步執(zhí)行，不會阻塞 push 操作，CR 任務(wù)執(zhí)行完成后會在 IDE 彈窗提醒 CR 詳情鏈接。
(2)價值收益
1)與編程IDE結(jié)合，提升腳本編寫、工具開發(fā)效率；
2)輔助開發(fā)主管進(jìn)行代碼審查或者自動進(jìn)行腳本出錯分析，提升代碼質(zhì)量。
(3)技術(shù)實(shí)現(xiàn)
基礎(chǔ)大模型/文本生成/知識庫/RAG/IDE插件。
11、可觀測助手為例
(1)告警關(guān)聯(lián)知識推薦
小鯨可基于知識庫，可以根據(jù)告警事件內(nèi)容結(jié)合知識庫找出相關(guān)聯(lián)的知識，并給予解決方案的推薦。
內(nèi)置運(yùn)維知識庫，無需整理也能直接使用；可批量導(dǎo)入知識庫文件，基于用戶歷史經(jīng)驗(yàn)提供更豐富的解決方案；告警產(chǎn)生后根據(jù)算法訓(xùn)練的結(jié)果，匹配知識庫里的解決方案。知識推薦效果如下圖：
(2)知識庫智能問答
運(yùn)維人員通常通過經(jīng)驗(yàn)或查找資料來處理告警事件，效率低下且耗時?？梢詫栴}拋給小鯨，基于LLMOps直接提供解決方案推薦、正則匹配規(guī)則編寫等針對性回答。
通過全局劃詞問答或者右下角的機(jī)器人圖標(biāo)入口，均可向“小鯨”詢問，無需切換工具。無論是技術(shù)解釋、命令用法，還是故障排查，小鯨都能即時提供專業(yè)解答，大幅提升工作效率。實(shí)現(xiàn)效果如下圖：
(3)告警處置引導(dǎo)
結(jié)合預(yù)測性對話流與大模型，小鯨觀測助手能夠?qū)崿F(xiàn)對話智能引導(dǎo)，引導(dǎo)用戶完成智能提單引導(dǎo)、智能故障處置引導(dǎo)等場景：根據(jù)故障排查的場景，預(yù)設(shè)引導(dǎo)性場景，智能機(jī)器人識別關(guān)鍵字以后進(jìn)入引導(dǎo)場景，確保問題能夠迅速被識別和解決。
實(shí)現(xiàn)效果如下圖：
六、前景展望
DeepSeek這一波平民化，除了帶來推理能力和性能瓶頸突破外，最核心的是可以進(jìn)入“千家萬戶”，使得各行業(yè)和領(lǐng)域使用前沿模型變得更為簡單。大模型在運(yùn)維領(lǐng)域的應(yīng)用前景，我們認(rèn)為這是一個改變運(yùn)維人員和運(yùn)維對象交互、實(shí)現(xiàn)AI大規(guī)模落地普及的時刻，未來發(fā)展，我們有如下思考和展望：
1、基于一體化運(yùn)維業(yè)務(wù)的運(yùn)維智能體會爆發(fā)式增長
基于低成本高效率的大模型，可以把各個人機(jī)交互的運(yùn)維場景再做一次，再做一次是基于多智能體編排的模式，生成更多整合應(yīng)用，且與一體化運(yùn)維是完整聯(lián)動的，不只是單個場景的提升；
2、基于機(jī)器學(xué)習(xí)算法+大模型的融合場景更優(yōu)
機(jī)器學(xué)習(xí)算法對于數(shù)據(jù)處理有天然優(yōu)勢，大模型對于語義識別和邏輯推理有天然優(yōu)勢，兩者相結(jié)合，可以在故障分析診斷層面、智能工單的相似度分析和智能回復(fù)層面等有更好的融合場景落地；
3、大模型應(yīng)用開發(fā)平臺共建生態(tài)會成為主流
不只是基于原生大模型的問答應(yīng)用，而是知識庫、工具、編排、智能體、統(tǒng)一網(wǎng)關(guān)的整體建設(shè)，構(gòu)建可持續(xù)建設(shè)的體系，會成為生態(tài)模式，客戶及合作伙伴都可以有更大的想象空間；
4、自適應(yīng)學(xué)習(xí)與知識演化
系統(tǒng)能夠根據(jù)環(huán)境的變化和數(shù)據(jù)反饋，自動調(diào)整自身的行為、策略或參數(shù)，以及隨著實(shí)踐、技術(shù)發(fā)展和經(jīng)驗(yàn)積累而不斷更新、優(yōu)化或重組知識，運(yùn)維智能體能夠更靈活、高效地應(yīng)對復(fù)雜的運(yùn)維需求，在大部分相對標(biāo)準(zhǔn)的運(yùn)維場景中，實(shí)現(xiàn)智能決策執(zhí)行。
