人民財訊6月18日電，6月18日，在2026陸家嘴論壇“全體大會六：科技創(chuàng)新賦能金融高質(zhì)量發(fā)展”上，中國農(nóng)業(yè)銀行董事長、執(zhí)行董事谷澍表示，在應(yīng)用大模型過程中，AI大模型當(dāng)前面臨的主要風(fēng)險包括模型黑箱、模型幻覺、模型自主思考和決策帶來的不確定性。在他看來，這種不確定性風(fēng)險可進(jìn)一步細(xì)分為三大類:一是參數(shù)海量帶來模型可解釋性的難題。現(xiàn)在主流大模型的參數(shù)規(guī)模已經(jīng)有千億甚至萬億級別，海量參數(shù)的矩陣運算和生成非線性疊加導(dǎo)致模型的決策機(jī)制和輸出結(jié)果不透明，也很難解釋。二是概率生成帶來準(zhǔn)確性的考驗。大模型決策過程不像人類進(jìn)行決策時有線性思維的過程，而是根據(jù)海量訓(xùn)練數(shù)據(jù)統(tǒng)計詞源token的概率性規(guī)律，本質(zhì)上是概率統(tǒng)計，不是邏輯性的事實推導(dǎo)。當(dāng)數(shù)據(jù)和事實依據(jù)不足時，容易產(chǎn)生自洽的幻覺。三是模型現(xiàn)在已能自主思考和決策了，隨著大模型的進(jìn)化和智能體的深度應(yīng)用，它已突破傳統(tǒng)軟件輸入輸出相對固化的范式，能夠自主思考，這在一定程度上放大了過程不可控、結(jié)果不可知的風(fēng)險。
聲明：證券時報力求信息真實、準(zhǔn)確，文章提及內(nèi)容僅供參考，不構(gòu)成實質(zhì)性投資建議，據(jù)此操作風(fēng)險自擔(dān)
下載"證券時報"官方APP，或關(guān)注官方微信公眾號，即可隨時了解股市動態(tài)，洞察政策信息，把握財富機(jī)會。
