全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎：大模型廣泛應(yīng)用正構(gòu)建網(wǎng)絡(luò)安全新生態(tài)

　　“人工智能（AI）帶來的安全問題，是數(shù)字安全的一部分?！比珖f(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎近日在接受中國證券報記者采訪時表示，大模型快速迭代與成本降低，使得AI技術(shù)快速普及，成為帶動千行百業(yè)生產(chǎn)力提升的新工具，但同時也帶來AI幻覺、數(shù)據(jù)泄露、深度偽造等新出現(xiàn)的大模型應(yīng)用風(fēng)險。

全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎

　　“大模型的廣泛應(yīng)用正在構(gòu)建網(wǎng)絡(luò)安全新生態(tài)。”周鴻祎將大模型帶來的安全問題分為基座模型的安全問題、客戶端的安全問題、知識數(shù)據(jù)的安全問題、智能體的安全問題四個層面，給出的解決思路是“以模制?！薄冒踩竽Ｐ蛠響?yīng)對人工智能產(chǎn)生的安全問題，為數(shù)字世界的新發(fā)展構(gòu)建一個安全底座。

　　關(guān)注大模型幻覺

　　今年以來，大模型領(lǐng)域各家企業(yè)爭相發(fā)布新品，大模型性能不斷提升，同時使用成本大幅降低，“大模型幻覺”也成為公眾關(guān)注的熱點。所謂“大模型幻覺”是指大模型有時會編造出看起來合理或可信的信息，令人真假難辨。原因一方面來自大模型的運(yùn)行原理，它通過海量的數(shù)據(jù)訓(xùn)練，生成出現(xiàn)概率最大的內(nèi)容，另一方面也來自訓(xùn)練數(shù)據(jù)的局限性，訓(xùn)練數(shù)據(jù)本身也可能包含錯誤信息。

　　周鴻祎認(rèn)為大模型的幻覺問題需要辯證看待?！盎糜X是大模型的固有特點，沒有幻覺的大模型不聰明?！敝茗櫟t在接受記者采訪時說，大模型的幻覺使其擁有類似人們所擁有的想象力，可以創(chuàng)作劇本、撰寫文章；在有些科學(xué)研究領(lǐng)域，大模型的想象力可以發(fā)揮關(guān)鍵作用。例如人工智能公司DeepMind開發(fā)的AI模型AlphaFold，能準(zhǔn)確預(yù)測蛋白質(zhì)與DNA、RNA等生物分子的相互作用，為藥物研發(fā)和結(jié)構(gòu)生物學(xué)帶來革命性的進(jìn)展。

　　“但同時，大模型幻覺如果出現(xiàn)在醫(yī)療、法律、金融、證券、生產(chǎn)制造等不能出錯的環(huán)節(jié)，就會帶來非常嚴(yán)重的影響?！敝茗櫟t說，隨著大模型的發(fā)展從“不可用”“湊合用”，到“完全可用、能用”，需要采取措施防止大模型幻覺帶來的安全風(fēng)險。

　　周鴻祎表示，大模型應(yīng)用軟件可以通過鏈接互聯(lián)網(wǎng)上的知識庫來對信息進(jìn)行校正，企業(yè)在應(yīng)用大模型時可以接入企業(yè)專有知識庫對幻覺進(jìn)行校正?！按竽Ｐ洼敵鼋Y(jié)果的差異來自其訓(xùn)練數(shù)據(jù)，把企業(yè)的重要資料放入知識庫提供給大模型，大模型就可以依據(jù)知識庫，知無不言，言無不盡了?！?/p>

　　解決大模型應(yīng)用安全

　　近期，中國初創(chuàng)企業(yè)DeepSeek發(fā)布開源推理模型DeepSeek-R1，以極低的成本實現(xiàn)高性能表現(xiàn)，攪動了大模型市場格局，同時掀起了大模型領(lǐng)域的開源革命。據(jù)不完全統(tǒng)計，已有數(shù)百家公司接入DeepSeek研發(fā)的大模型，其中包括國內(nèi)三大基礎(chǔ)運(yùn)營商，國內(nèi)外云服務(wù)企業(yè)、金融機(jī)構(gòu)、手機(jī)廠商、車企等。大模型的應(yīng)用已經(jīng)逐漸滲透到內(nèi)容創(chuàng)作、金融、電信、自動駕駛等領(lǐng)域。

　　大模型的快速推廣使得大模型應(yīng)用的安全問題日益突出。周鴻祎認(rèn)為，在基座模型層面，要解決大模型產(chǎn)生幻覺的問題，可通過連接知識庫來校正。在客戶端層面，周鴻祎表示：“以后人們許多工作會和公司里的大模型交流互動，因此要防范客戶端產(chǎn)生的安全問題，防止來自客戶端的安全攻擊?！?/p>

　　而當(dāng)大模型的應(yīng)用催生出更多智能體（Agent），人們將自己的一部分工作職責(zé)移交給智能體，則會帶來新的安全風(fēng)險?！凹僭O(shè)以后我的智能體能操作電腦，比如給財務(wù)員工發(fā)送郵件讓對方轉(zhuǎn)一筆錢，豈不是帶來風(fēng)險?！敝茗櫟t稱。此外，如果大模型對接的知識庫包含龐雜的知識數(shù)據(jù)，其中涉及個人隱私、商業(yè)機(jī)密等內(nèi)容，則存在知識數(shù)據(jù)層面的安全問題，需要防范信息泄露風(fēng)險。

　　面對大模型應(yīng)用帶來的基座模型、客戶端、智能體、知識數(shù)據(jù)四個層面的網(wǎng)絡(luò)安全新挑戰(zhàn)，傳統(tǒng)網(wǎng)絡(luò)安全模式的局限性愈發(fā)明顯。周鴻祎的解決思路是“以模制?！?，通過研發(fā)安全大模型，來管理企業(yè)知識庫的使用、智能體的調(diào)用，并參與管理基座模型產(chǎn)生幻覺的問題等。

　　激發(fā)產(chǎn)業(yè)新活力

　　周鴻祎認(rèn)為，大模型的開源策略將幫助傳統(tǒng)企業(yè)降本增效，要推動大模型的應(yīng)用。“AI要引發(fā)工業(yè)革命，一定要推動AI技術(shù)在企業(yè)、政府等各類場景深入地使用，進(jìn)入千家萬戶，進(jìn)入千行百業(yè)。”

　　大模型不僅擁有海量知識，還具備出色的對話和推理能力。以醫(yī)療行業(yè)為例，大模型可以成為個人的醫(yī)學(xué)顧問或慢性病專家，為人們提供健康指導(dǎo)。對于傳統(tǒng)醫(yī)院，大模型能加速其數(shù)字化改造，如有醫(yī)院利用AI幫助病人完成自動預(yù)約、處理病歷傳真，大幅縮短病人候診時間。對于新興的生物制造產(chǎn)業(yè)，大模型可作為研究工具，助力探索未知領(lǐng)域。

　　從挖掘生產(chǎn)力的角度看，大模型能在企業(yè)的決策、管理、業(yè)務(wù)流程等多個環(huán)節(jié)發(fā)揮作用。周鴻祎表示，大模型能為企業(yè)管理者提供決策支持，增強(qiáng)員工工作能力，改善內(nèi)部管理和業(yè)務(wù)流程，提升產(chǎn)品與服務(wù)的質(zhì)量，有效解決產(chǎn)業(yè)發(fā)展中的卡點和堵點，實現(xiàn)降本增效。

　　在企業(yè)落地方面，周鴻祎認(rèn)為企業(yè)應(yīng)用大模型要找準(zhǔn)方向。首先是找場景，大模型適合解決企業(yè)特定專項、專業(yè)場景下的垂直問題，企業(yè)應(yīng)結(jié)合自身業(yè)務(wù)，確定大模型的應(yīng)用場景。其次，要打造專業(yè)知識庫，收集企業(yè)內(nèi)部的各種知識，讓大模型更專業(yè)。最后，要打造智能體，并將其接入企業(yè)的OA辦公流程，形成完整的應(yīng)用體系。