近期,有網友發現,不少AI大模型平臺都開放了網友自制的AI智能體的體驗,其中就有不少打著官方旗號的智能體。但這些帶有官方Logo、語氣專業的AI客服給出的回復乃至建議卻并不那么靠譜。
所謂AI智能體,是一種通過使用可用工具設計工作流來自主執行任務的系統。比如之前引發關注的“龍蝦”,就是智能體的典型代表。AI大模型平臺紛紛開放零門檻創建工具,既是為了搶占市場,也是在激發公眾參與自制AI智能體的熱情。然而,不少打著官方旗號的智能體,實際上是冒充官方機構的“李鬼”。比如南方電網公司發布視頻,反映在大模型上竟搜出了近70個“南方電網”智能體,卻沒有一個是南方電網發布的。一個“李逵”對應70個“李鬼”,這種假冒很猖狂。
當“李逵”尚未亮相平臺,眾多“李鬼”無疑對公眾造成了誤導。如網友問南方電網內訓師智能體,“南方電網有沒有內推渠道,它讓我聯系某個私人手機號,順著號碼一查發現竟是一個中介機構”。即中介機構扮演南方電網可能謀取不當利益。
這至少說明了兩個問題:其一,相關AI大模型平臺對于冒充某些企事業單位的智能體,沒有盡到審核把關義務,縱容某些個人或者機構冒充官方機構,帶來了安全隱患。同時,這類平臺有可能也沒有盡到提醒用戶注意辨別真假防止被騙的義務。其二,很多企事業單位思想觀念滯后、應對滯后。很多機構的思維仍停留在傳統互聯網時代,對大模型平臺及其智能體認識不夠,沒有及時入駐就給了“李鬼”冒充的機會。即便發現“李鬼”冒充,如果僅是辟謠了之,所起的作用有限。
所以,AI大模型平臺開放智能體值得肯定,但要警惕“李鬼”泛濫,侵害用戶合法權益,損害平臺形象。因為“李鬼”并不是無緣無故冒出來的,有的可能出于娛樂目的,有的出于“搶注”目的,有的念的是“生意經”,還有的可能涉嫌詐騙。
大數據平臺要履行法律責任,當好“門衛”。根據《互聯網信息服務深度合成管理規定》,平臺應當落實信息安全主體責任,建立健全信息發布審核等管理制度。《生成式人工智能服務管理暫行辦法》要求提供者發現違法內容的要采取措施。
無論是大模型平臺還是自制AI智能體的用戶,都不能游離在法治之外。平臺唯有守護好這方“凈土”,才能塑造好形象、吸引更多用戶;而用戶唯有遵守道德和法治紅線,才能避免不良后果。盡管技術革命日新月異,但相關法律并未嚴重滯后。
從企事業單位角度來說,也要及時更新思維,善于搶占新陣地和使用新工具。越早入駐AI大模型平臺,被假冒的風險就越低;反之,將占位機會讓給其他用戶,不僅錯失新的機遇,而且被假冒也面臨麻煩。另外,發現被假冒,企事業單位要維權。
面對冒牌AI智能體層出不窮亂象叢生的局面,有關部門要及時督促大模型平臺履職盡責,以捍衛人工智能時代規則紅線,促進健康發展。有學者認為,仿冒本質不僅是侵權,更是對公共常識的混淆。未來提供創建工具的平臺理應承擔起前置審核義務。
本版專欄文章僅代表作者個人觀點