最新研究發現： 建立可信賴 AI 的機構
[香港] — SAS 最新發布的 IDC 研究報告顯示，推動機構從 AI投資中創造可觀回報的關鍵，在於落實可信賴 AI措施。研究發現，員工傾向推翻無法理解的 AI建議，為機構實現 AI投資回報帶來挑戰，採用可信賴 AI實務的機構，從相關投資中獲得卓越投資回報率（ROI）的機會較其他機構高出 15 倍。 根據 IDC第二份《Data and AI Impact Report: The New Economics of Trust》年度研究報告，具備完善管治機制、數據質素及可審計能力的機構，雖然僅佔市場中的小數，但其表現持續領先同業，並於 AI部署中錄得至少兩倍的投資回報率。相比之下，在可信賴 AI 發展方面相對落後的機構中，錄得同等成效的比例不足二十分之一。
SAS首席技術總監 BryanHarris 表示：「當 AI發揮作用時，能夠帶來極為顯著的效益。然而，大量研究充分顯示，最先進的 AI 代理系統在處理複雜任務時，錯誤率可超過 25%1，這對涉及重大影響的決策而言並不能接受。為實現準確及可重複的成效，機構必須將領域專業知識融入 AI代理驅動的工作流程，同時以人為本，確保有效的管治及監督。成功實踐這些措施的機構，將有望縮窄 AI 信任差距，並透過 AI 在市場上取得競爭優勢。」
IDC 副總裁 Chris Marshall 表示：「隨着AI日趨自主化，機構正面臨一項新挑戰，就是如何維持用戶對AI系統的信任，即使其決策邏輯未必能被完全理解。我們的研究顯示，更完善的監督機制、更高水平的可解釋性及問責性，以及穩健的數據基礎，正逐漸成為實現AI規模化應用不可或缺的先決條件。」
研究結果圍繞以下三大主題：
缺乏可解釋性的 AI 對業務構成重大風險
研究人員發現，在不少機構中，員工愈來愈傾向避免依賴那些未必能提供準確結果，或無法解釋其決策依據的 AI系統。隨着 AI 自主性持續提升，相關風險亦將進一步增加，使可解釋性成為推動 AI 成功應用的關鍵要素。
報告亦探討了阻礙 AI 應用成功的一項主要挑戰：當員工缺乏對 AI 決策的信任時，往往會推翻相關建議並進行人手修正。這不但進一步加劇 AI 的信任缺口，亦可能為機構帶來時間、生產力及盈利方面的損失。由於 AI 決策的質素取決於其所依據的數據，對於希望減少員工推翻 AI 建議情況的機構而言，建立穩健的數據基礎至關重要。
主要研究結果：
• 97.2%的受訪者表示曾在某些情況下推翻 AI生成的建議。
• 無論 AI的輸出結果是否準確，員工選擇推翻 AI建議的首要原因，均在於 AI無法解釋其作出相關決策的依據。
• 隨着 AI系統自主性提升，用戶對 AI的信任度由生成式AI的 76%下降至代理式 AI的 66%，反映市場對更高自主性 AI 應用的憂慮持續增加。
1資料來源: StanfordHAI,2026AIIndexReport;independentAIagentbenchmarkevaluations.
可信賴的 AI實務推動業務成功
報告顯示，優先推動可信賴 AI 實務與未有相關部署的機構之間，其 AI 投資回報率表現出現明顯差距。研究發現，從 AI 中獲取最大價值的機構，關鍵未必在於部署不同的技術，而是採取更有效的 AI 管理策略。
主要研究結果：
• 投資於可信賴 AI措施的機構，在其 AI 項目中取得卓越或高投資回報率的機會較其他機構高出 15 倍（62%對比 4%）。
• 在可信賴 AI實務方面最為成熟的機構，於 13 項業務成果指標上取得的成效較其他機構高出 1.85 倍，當中包括收入增長、成本節省及客戶體驗提升。
• 在這些積極推動可信賴 AI實務的領先機構當中，85%表示今年將相關投資增加逾 10%，積極擴大其競爭優勢。
數據基礎薄弱令眾多機構浪費時間及金錢
大多數機構仍在嚴重開發不足或已過時的數據及數據基礎設施上部署 AI。若缺乏穩健的數據基礎，便難以為 AI提供所需的透明度及可解釋性，令機構難以有效管治 AI ，並充分實現其價值。
主要研究結果：
• 僅 17.5% 的企業已建立足以應對代理式 AI需求的全面優化數據基礎設施，這將對系統效能造成負面影響。
• 具備優化數據基礎的機構，預計從 AI項目中取得卓越投資回報率的機會高出 4倍，而成功建立 AI信任所需的數據品質及可解釋性管控措施的機會，更高出 6 倍。
深入探討研究結果
研究結果建基於一項涵蓋全球 2,699名決策者的調查，他們均對所屬機構的數據及 AI策略具備相關知識或決策影響力。是次調查遍及 28 個國家及四大重點行業，包括銀行業、保險業、生命科學及公共部門。報告亦重點探討多個行業的應用案例及研究發現，展示全球各地相關行業領導者如何應用 AI。
主要研究結果：
• 銀行業領先機構正逐步超越合規要求，並將穩健的 AI管治視為競爭優勢及營運的必要條件。在 AI領先銀行當中， 85%已建立管治框架，相比之下，在相關領域較落後的銀行僅為 29%。
• 41% 的公共部門領先機構計劃於未來一年將可信任 AI相關投資增加超過 20%，增幅與各行業中最積極推動 AI發展的機構相若。
• 23% 的生命科學機構已在企業各層面大規模推展 AI應用，比例為各行業之冠。
歡迎瀏覽此網址查閱更多研究結果及完整報告。
何謂可信任 AI？
可信任AI是指具備可靠性、公平性、安全性及符合監管要求的 AI，並能夠充分解釋其決策過程及依據。機構內各級的用戶及決策者均能透過明確的問責機制，就 AI系統所生成的不正確、遺漏或不完整之輸出結果追究責任。此外，任何 AI 系統亦必須接受適當管治，並能證明其符合相關規則及合規要求。
甚麼因素令機構成為可信賴 AI領導者？
在是次研究中，受訪機構根據可信賴 AI的五個範疇進行評分，總分為 100分。報告將平均總分達 80分或以上的機構界定為可信賴 AI 領導者。
受訪機構根據以下五項可信賴 AI準則進行評分：
1. 數據質素及管治
2. 模型管治及監督機制
3. 可解釋性及公平性
4. 負責任 AI政策
5. 審計及問責機制
( 內容由有關方面代表提供, 經編輯後刊登 )
