中國銀行首席信息官孟茜：應用人工智能應筑牢安全與風險三道防線

　　中證報中證網(wǎng)訊（記者 連潤）4月10日，國民財富發(fā)展研究合作平臺2025春季峰會“人工智能與金融未來”舉行。中國銀行首席信息官孟茜在峰會上表示，人工智能在應用過程中會面臨數(shù)據(jù)泄露、算法黑箱、模型攻擊等一系列的風險挑戰(zhàn)，也會帶來侵犯個人隱私、沖擊法律和社會倫理等問題。因此，要統(tǒng)籌好發(fā)展和安全的關系，筑牢安全與風險三道防線。

　　具體而言，孟茜表示，要筑牢企業(yè)的治理防線，銀行機構(gòu)自身要逐步建立健全企業(yè)級人工智能的治理機制，將人工智能的管理納入到全面風險管理的框架。

　　要筑牢業(yè)務安全防線，當前銀行在應用大模型等人工智能技術時，必須將業(yè)務流程的最終責任落實到人。一方面，要明確人工智能的輔助和效率工具定位，在關鍵業(yè)務環(huán)節(jié)要建立強制性人工審核機制，確保員工對關鍵業(yè)務流程的掌控；另一方面，在風控、授信、投資等高風險的業(yè)務領域，審慎使用，應該優(yōu)先選擇精確度高、可解釋強的人工智能方案，確保問題可追溯、責任可落實。

　　此外，要筑牢技術安全防線。銀行在應用大模型的過程當中，要堅持模型不聯(lián)外網(wǎng)、數(shù)據(jù)不出行、敏感信息不入模等原則，并利用技術手段通過輸入輸出端的多層審核防護攔截違法內(nèi)容、防御惡性指令等，實現(xiàn)內(nèi)容安全和交互安全的雙重保證。