每經(jīng)記者｜張韻    每經(jīng)編輯｜魏官紅    

“在生成式AI（人工智能）的熱潮下，價值挖掘與風險防控的失衡已成為企業(yè)必須跨越的鴻溝。”“2025世界人工智能大會”期間，德勤中國提出，技術(shù)狂奔與風險管理的落差，本質(zhì)是傳統(tǒng)框架難以適配新變量。

如何讓生成式AI的潛力真正轉(zhuǎn)化為可持續(xù)的商業(yè)價值？德勤科技、媒體、電信行業(yè)主管合伙人程中在接受《每日經(jīng)濟新聞》記者（以下簡稱NBD）專訪時表示，生成式AI治理并非是可暫緩的選項，企業(yè)須盡快行動起來。人員上明確權(quán)責、提升素養(yǎng)，流程上貫穿全生命周期控險合規(guī)，技術(shù)上借平臺破解黑箱難題，三者協(xié)同才能在競爭中占據(jù)主動。

“過去一年，我們看到一種趨勢：企業(yè)已從追問要不要做生成式AI，轉(zhuǎn)向如何做得更好。”程中認為，真正的競爭在于誰能更快將技術(shù)轉(zhuǎn)化為業(yè)務(wù)流程的實際增效，其中，聚焦至關(guān)重要，需優(yōu)先投資可驗證回報的實際案例。

德勤科技、媒體、電信行業(yè)主管合伙人程中

圖片來源：企業(yè)供圖

企業(yè)AI投資需經(jīng)歷漫長陣痛期

NBD：在企業(yè)的AI化重構(gòu)過程中，推動AI邁向真正能被財務(wù)報表驗證的ROI（投資回報率）閉環(huán)需要經(jīng)歷怎樣的陣痛期？

程中：AI化重構(gòu)過程通常有四個階段。企業(yè)起初需要建立AI戰(zhàn)略愿景，這個時候，管理層對AI的ROI預(yù)期與實際存在較大落差，且各部門多為自發(fā)推進項目，缺乏統(tǒng)一的方向與協(xié)同機制。

到了試點探索階段，企業(yè)會通過小范圍試點來驗證AI在具體場景的可行性與效率提升潛力，但存在“價值量化難”的問題。同時，IT（信息技術(shù)）部門與業(yè)務(wù)部門協(xié)作不暢，模型部署與業(yè)務(wù)流程嵌入脫節(jié)。

接下來企業(yè)會將AI深度嵌入核心業(yè)務(wù)流程，此時業(yè)務(wù)團隊容易對傳統(tǒng)流程產(chǎn)生路徑依賴，導(dǎo)致對AI決策的信任度不足。

最后才是財務(wù)映射階段，企業(yè)建立起AI投資與財務(wù)指標的直接關(guān)聯(lián)。當然這個時候，企業(yè)仍會面臨陣痛，比如AI帶來的客戶滿意度提升等間接收益難以量化入賬。

NBD：面對企業(yè)舊系統(tǒng)改造的高成本，是否有輕量化方案實現(xiàn)整體的AI架構(gòu)升級？企業(yè)現(xiàn)有AI投資應(yīng)該如何規(guī)避技術(shù)路線顛覆帶來的成本風險？

程中：多數(shù)傳統(tǒng)企業(yè)面臨遺留系統(tǒng)復(fù)雜、預(yù)算有限、AI人才缺乏等挑戰(zhàn)，可通過“輕架構(gòu)、軟集成、分布式演進”實現(xiàn)AI架構(gòu)升級。

所謂輕架構(gòu)是將AI能力封裝為API服務(wù)，降低對核心系統(tǒng)的重構(gòu)壓力；軟集成是采用智能體、RPA（機器人流程自動化）與AI協(xié)同工具，將AI接入現(xiàn)有流程而非替代流程；分布式演進則是聚焦高ROI、高數(shù)據(jù)成熟度的場景（如客服、報告生成、供應(yīng)鏈預(yù)測）優(yōu)先落地，而非追求一次性全流程打通。

為規(guī)避技術(shù)路線顛覆帶來的成本風險，建議企業(yè)對現(xiàn)有AI投資保持技術(shù)選型的靈活性，提前布局新興技術(shù)，具備快速切換技術(shù)路線的能力。此外，通過與技術(shù)供應(yīng)商簽訂靈活合同，約定技術(shù)升級、維護責任，也可降低技術(shù)路線變更成本。

如何破除幻覺與黑箱？投資可信AI

NBD：在流程中嵌入AI后，企業(yè)的日常決策如何擺脫大模型幻覺帶來的負面影響？您認為最該優(yōu)先解決哪類幻覺？德勤如何幫助企業(yè)量化幻覺導(dǎo)致的隱性成本？

程中：“幻覺”表現(xiàn)為輸出流暢但存在事實錯誤或邏輯不嚴謹，可能損害業(yè)務(wù)判斷和合規(guī)性。德勤提出的“可信人工智能框架”建議企業(yè)構(gòu)建多層防線，比如明確人工審核角色，設(shè)置結(jié)構(gòu)化事實核查環(huán)節(jié)，建立留痕和持續(xù)學(xué)習(xí)機制。

我們認為，最優(yōu)先應(yīng)解決的是結(jié)構(gòu)性幻覺。這類幻覺常出現(xiàn)在AI輸出表格、圖表、摘要、數(shù)據(jù)分析結(jié)果時，表面上看邏輯清晰、格式整齊，但基礎(chǔ)數(shù)據(jù)虛構(gòu)、推理鏈條斷裂，極易誤導(dǎo)決策者，風險高于開放式文本幻覺。

正如你所說，幻覺帶來的成本具有“隱形特征”，會產(chǎn)生客戶被誤導(dǎo)、運營錯誤、內(nèi)容重復(fù)勞動，乃至聲譽或法律風險的嚴重后果。要量化這些隱形成本，可以通過評估模型輸出準確率、重復(fù)率等指標；用實際運營數(shù)據(jù)建模潛在影響；核算重工成本的時間和人效損失，形成ROI對比分析。

NBD：具體到醫(yī)療診斷、金融合規(guī)、司法文書等容錯率近零的場景，該如何降低AI風險？

程中：我們建議通過系統(tǒng)性手段構(gòu)建幻覺熔斷機制，確保AI輸出不直接用于高風險決策。技術(shù)路線選擇需滿足“確定性+可控性”，建議優(yōu)先采用小模型與專家規(guī)則的混合架構(gòu)，尤其在法律、合規(guī)等規(guī)則明確領(lǐng)域，其可靠性優(yōu)于黑箱大模型。另外，用行業(yè)領(lǐng)域數(shù)據(jù)對模型微調(diào)，并對接專屬知識庫，可以提升輸出準確率與可解釋性。技術(shù)選型時必須具備詳細日志能力，支持模型輸出可追溯與責任歸因。

圖片來源：企業(yè)供圖

NBD：當發(fā)展AI智能體提高到了企業(yè)的戰(zhàn)略高度，董事會應(yīng)該如何驅(qū)動員工更好地訓(xùn)練與應(yīng)用智能體？對于媒體部署AI智能體完成基礎(chǔ)寫稿任務(wù)，您會提出怎樣的風險警示與戰(zhàn)略路線？

程中：我們建議董事會重新定義“人機”的價值邊界，強調(diào)AI智能體是“增強工具”而非“替代者”，提供培訓(xùn)與獎勵。比如，在媒體行業(yè)中，讓編輯參與智能體的Prompt調(diào)教、內(nèi)容審核和標準制定，也要注意設(shè)置“AI使用紅線”，如敏感內(nèi)容必須通過人工審核。

當前，AI寫稿仍存在缺乏深度、事實偏差、版權(quán)糾紛、輿論爭議等風險，在戰(zhàn)略選擇上，建議先用于基礎(chǔ)場景，如資訊、數(shù)據(jù)稿等，然后對AI智能體進行針對性訓(xùn)練，利用自有數(shù)據(jù)提升其對媒體風格、內(nèi)容要求的適應(yīng)性，采用“試驗沙盒+反饋閉環(huán)”機制，從低風險場景逐步拓展，在應(yīng)用中持續(xù)優(yōu)化，使AI智能體逐步成為團隊的可靠協(xié)作伙伴。

生成式AI步入價值創(chuàng)造關(guān)鍵期

NBD：當董事會要求徹底消除幻覺并破解黑箱難題，您會如何做出建議？您認為有效的AI治理范式應(yīng)該如何進行？

程中：我認為，要消除幻覺并破解黑箱難題，企業(yè)不僅要明確AI使用邊界，還要提升技術(shù)的透明性與可解釋性，將AI治理運營化。

有效的AI治理范式應(yīng)該是從被動到主動的轉(zhuǎn)變，如在戰(zhàn)略層面，制定清晰的AI發(fā)展戰(zhàn)略與目標，明確AI在企業(yè)中的定位與作用；在組織層面，設(shè)立專門的AI治理團隊，負責監(jiān)督AI應(yīng)用合規(guī)性、風險管理等；在技術(shù)層面，采用可解釋AI技術(shù)、數(shù)據(jù)治理工具，保障AI系統(tǒng)透明、可控；在文化層面，培養(yǎng)員工AI素養(yǎng)，樹立正確使用AI的意識與態(tài)度。

NBD：多數(shù)企業(yè)仍將AI安全視為負擔，如何破解這種思維慣性？安全投入在直接驅(qū)動營收時有怎樣的具體表現(xiàn)？

程中：與將AI簡單疊加于遺留系統(tǒng)的零散方案不同，首先企業(yè)應(yīng)該構(gòu)建統(tǒng)一架構(gòu)，使AI成為核心支柱，并在各流程中整合治理模型。德勤藍圖可以幫助企業(yè)有效完成網(wǎng)絡(luò)戰(zhàn)略與企業(yè)AI轉(zhuǎn)型的協(xié)同規(guī)劃，企業(yè)也要建設(shè)AI驅(qū)動的網(wǎng)絡(luò)安全團隊，提升團隊與AI工具的協(xié)作能力。

保障數(shù)據(jù)安全可防止因數(shù)據(jù)泄露導(dǎo)致的客戶流失，維持甚至增加營收。滿足合規(guī)要求，企業(yè)能避免巨額罰款，確保業(yè)務(wù)正常開展。安全可靠的AI系統(tǒng)可提升客戶滿意度與忠誠度，促進客戶復(fù)購與口碑傳播，間接增加營收。

在實踐中，某金融服務(wù)公司將AI集成到網(wǎng)絡(luò)安全架構(gòu)，實現(xiàn)威脅檢測自動化，事件響應(yīng)時間減少60%；某制造企業(yè)通過德勤治理框架，減少40%的停機時間，生產(chǎn)效率提升直接帶動營收增長。