人工智能在破解金融服務難題、重塑金融業發展范式同時，也給金融機構帶來新挑戰。面對AI大模型當前的模型黑箱、模型幻覺、模型自主思考和決策帶來的不確定性等風險，金融機構應如何應對？6月18日，在2026陸家嘴論壇“全體大會六：科技創新賦能金融高質量發展”上，與會人士認為，借助AI提升效率同時，金融機構也應認識到大模型的局限性，并防范大模型應用過程中的風險。

AI正在重塑金融業發展范式

人工智能等技術迅猛發展，正重塑金融服務模式與行業生態，大幅提升了金融機構服務的覆蓋廣度和觸達效率。

中國銀行副董事長、行長張輝表示，人工智能正在重塑銀行業的發展范式，主要是表現在三個方面：一是重塑服務范式，AI改變了銀行和客戶之間信息數據傳輸和處理的方式，讓兼顧普惠性、專業性、個性化的數字金融服務成為可能。二是重塑價值創造的模式，金融業的信息密集、流程清晰、規則明確，這點和大模型的自動化、智能化的核心能力高度匹配，通過深度嵌入到銀行的客服、營銷、審批、風控、運營等各個環節，可以更有效地促進銀行降本增效，大幅拓展價值創造的空間。三是重塑銀行業的管理范式，人工智能深度應用，需要對銀行的組織架構、隊伍建設、管理機制、治理體系、風險能力等方面都進行系統性的重構，從而實現從原來的經驗驅動、人力驅動向數據驅動、智能驅動的轉變。

宏利金融集團執行管理團隊成員、亞洲區總裁兼首席執行官Steven Finch表示，AI提供更多定制化服務已成為現實，比如，公司的AI Agent目前擁有十萬個智能服務節點；在香港還推出了AI銷售專業工具。該工具能夠整合海量客戶數據，并據此為客戶提供高度定制化的專業建議。“使用人工智能可使效率提升兩倍、三倍甚至五倍。”他說，“公司目前有50%以上的員工使用AI。”

PIMCO品浩董事總經理兼總裁Christian Stracke表示，公司也已將AI代入到投資決策中，可以幫助更好地進行投資決策，比如，AI可以把數據分析、投資過程都加速，不過這只是人類的工具，而不是在投資的過程中完全替代人類。

標準未統一且存在風險隱患

金融業目前都在探討和布局智能體，關于智能體的定義，目前仍未統一。

中國農業銀行董事長、執行董事谷澍舉例稱，各家銀行在匯報AI應用成果時，都會提到開發了多少個智能體，差異非常大：有銀行表示開發了幾百個，有銀行則聲稱達到了上萬個。在他看來，這主要源于目前智能體的定義和規范標準尚未統一。“如果缺乏比較規范的標準，很難界定到底什么樣的應用才算是一個成熟的智能體。”谷澍說，“在這種情況下，很難準確評估各家機構在行業中的相對位置，也就難以有效借鑒他人的長處，從而推動整個行業在智能體應用水平上的共同提升。”

在他看來，智能體本質上是讓大模型真正運轉起來的中介、代理或執行者，其開發過程存在很大差異。他建議，在設計智能體來代替人類工作時，能否將那些功能相對單一、業務流程比較固定的智能體做成“標準件”，這樣的好處在于可以避免重復開發，實現反復調用，從而能把更多精力聚焦于開發具備自主規劃和決策能力的智能體上，這將更有意義，也更具效率。

大模型應用過程中的風險，也引起業內關注。谷澍表示，AI大模型當前面臨的主要風險包括模型黑箱、模型幻覺、模型自主思考和決策帶來的不確定性。在他看來，這種不確定性風險可進一步細分為三大類:一是參數海量帶來模型可解釋性的難題。現在主流大模型的參數規模已經有千億甚至萬億級別，海量參數的矩陣運算和生成非線性疊加導致模型的決策機制和輸出結果不透明，也很難解釋。二是概率生成帶來準確性的考驗。大模型決策過程不像人類進行決策時有線性思維的過程，而是根據海量訓練數據統計詞源token的概率性規律，本質上是概率統計，不是邏輯性的事實推導。當數據和事實依據不足時，容易產生自洽的幻覺。三是模型現在已能自主思考和決策了，隨著大模型的進化和智能體的深度應用，它已突破傳統軟件輸入輸出相對固化的范式，能夠自主思考，這在一定程度上放大了過程不可控、結果不可知的風險。

上海交通大學上海高級金融學院金融學教授朱寧則認為，AI可能給三個領域帶來意想不到的沖擊或變革。一是對微觀層面個人行為的沖擊。這不僅會導致人們對錯誤信息或虛假信息產生過度依賴，還會引發過度自信的膨脹，讓人產生“無所不知”的錯覺。

二是從倫理和社會學的角度來看，人類究竟應該與AI保持怎樣的關系？隨著AI對社交媒體內容的貢獻度越來越高，下一階段是否會對AI和AIGC的成長方式與速度進行限制？這已成為全社會都需要深入探討的重要議題。

三是關于AI治理結構的國際合作。當前，人們普遍期望AI能夠向善、賦能并助力人類。但如果AI發展出自主能力，或者落入別有用心的人手中，它可能會生成虛假信息、產生“幻覺”，甚至有意識地對人類或特定企業做出不利行為。面對這些情況，究竟該由誰來治理？誰來監管？誰來懲處？這些問題在全球范圍內尚無定論，且整個治理體系仍在快速演變之中。

用AI手段應對AI應用風險

如何應對大模型風險？谷澍表示，面對大模型應用過程中的風險，能做的不是消除風險，而是在發揮好大模型作用的同時，也要認識到大模型的局限性，想辦法盡量控制風險。

他認為可從四方面防控大模型應用過程中的風險：一是分類施策推進場景適配。金融應用大模型的時候是應用在不同的場景里面，對于不同的場景，可以建立模型的黑箱的分級管控，不同場景匹配差異化的技術路線和可解釋性的要求。二是設置一定的標尺對大模型進行約束控制，大模型有時候會產生幻覺，有時候會自由發揮，針對不同的場景進行應用的時候是需要建立參數、建立標尺控制它的應用路徑。同時再把它和人結合起來，大模型過程里人的作用是最終做決策。三是用AI手段應對AI應用風險，以AI對抗AI，建立縱深防御體系，增強AI對抗能力。四是強化銀行內部的AI治理體系，健全全生命周期和風險并重的銀行內部AI治理體系，確保AI既用得好又管得好，既留住創新空間又盡量壓縮模型黑箱、幻覺的局限性。

張輝表示，中行在推進AI戰略時堅持“人類在環”的管理兜底原則。目前人工智能的發展階段，尤其是大模型，本質上仍未脫離概率預測系統。因此，金融業務對嚴謹、精準、可靠的要求，與概率預測雖有交集，但不能完全依賴人工智能。現階段，金融業的應用大多集中在非核心業務的輔助環節，將AI定位為“有效助手”而非“最終決策者”。

Christian Stracke表示，人工智能工具必須在被批準的渠道上使用，比如品浩不允許團隊成員使用任何不受批準的機器學習模型，在他們個人電腦或者系統上使用這些工具，會帶來很多的風險，且對投資組合的基金經理而言會有很多的錯誤。

他同時認為，需要全球協同的人工智能監管框架，明確人工智能在哪些應用領域會帶來最大風險，確保人工智能在高風險領域的使用得到嚴格監管。