尋擎記丨AI賦能千行百業(yè) 網(wǎng)絡(luò)安全建設(shè)需與時(shí)俱進(jìn)

　　【編者按】

　　在全國兩會召開之際，本報(bào)今起推出“尋擎記”特別策劃，以“新質(zhì)生產(chǎn)力發(fā)展圖譜”為坐標(biāo)，觀察科技創(chuàng)新與產(chǎn)業(yè)創(chuàng)新的共振效應(yīng)。通過具有代表性的企業(yè)樣本，探尋它們在科技創(chuàng)新、模式革新、轉(zhuǎn)型升級等方面的獨(dú)到之處，挖掘企業(yè)如何在新質(zhì)生產(chǎn)力的賽道上脫穎而出，成為行業(yè)發(fā)展的引擎。

　　近期，AI成為各界關(guān)注的焦點(diǎn)。在全國兩會召開之際，接受中國證券報(bào)記者采訪的部分代表委員表示，網(wǎng)絡(luò)安全建設(shè)需要與時(shí)俱進(jìn)，可以通過技術(shù)革新，用安全大模型來應(yīng)對AI存在的潛在安全問題?！鞍踩北仨氁翱煲徊健薄煲徊阶ギa(chǎn)品、抓技術(shù)，既要看到技術(shù)的長板，也要看到技術(shù)的短板。

　　全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎：大模型廣泛應(yīng)用正構(gòu)建網(wǎng)絡(luò)安全新生態(tài)

　　“人工智能（AI）帶來的安全問題，是數(shù)字安全的一部分?！比珖f(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎近日在接受中國證券報(bào)記者采訪時(shí)表示，大模型快速迭代與成本降低，使得AI技術(shù)快速普及，成為帶動(dòng)千行百業(yè)生產(chǎn)力提升的新工具，但同時(shí)也帶來AI幻覺、數(shù)據(jù)泄露、深度偽造等新出現(xiàn)的大模型應(yīng)用風(fēng)險(xiǎn)。

　　“大模型的廣泛應(yīng)用正在構(gòu)建網(wǎng)絡(luò)安全新生態(tài)。”周鴻祎將大模型帶來的安全問題分為基座模型的安全問題、客戶端的安全問題、知識數(shù)據(jù)的安全問題、智能體的安全問題四個(gè)層面，給出的解決思路是“以模制?！薄冒踩竽Ｐ蛠響?yīng)對人工智能產(chǎn)生的安全問題，為數(shù)字世界的新發(fā)展構(gòu)建一個(gè)安全底座。

　　關(guān)注大模型幻覺

　　今年以來，大模型領(lǐng)域各家企業(yè)爭相發(fā)布新品，大模型性能不斷提升，同時(shí)使用成本大幅降低，“大模型幻覺”也成為公眾關(guān)注的熱點(diǎn)。所謂“大模型幻覺”是指大模型有時(shí)會編造出看起來合理或可信的信息，令人真假難辨。原因一方面來自大模型的運(yùn)行原理，它通過海量的數(shù)據(jù)訓(xùn)練，生成出現(xiàn)概率最大的內(nèi)容，另一方面也來自訓(xùn)練數(shù)據(jù)的局限性，訓(xùn)練數(shù)據(jù)本身也可能包含錯(cuò)誤信息。

　　周鴻祎認(rèn)為大模型的幻覺問題需要辯證看待。“幻覺是大模型的固有特點(diǎn)，沒有幻覺的大模型不聰明?！敝茗櫟t在接受記者采訪時(shí)說，大模型的幻覺使其擁有類似人們所擁有的想象力，可以創(chuàng)作劇本、撰寫文章；在有些科學(xué)研究領(lǐng)域，大模型的想象力可以發(fā)揮關(guān)鍵作用。例如人工智能公司DeepMind開發(fā)的AI模型AlphaFold，能準(zhǔn)確預(yù)測蛋白質(zhì)與DNA、RNA等生物分子的相互作用，為藥物研發(fā)和結(jié)構(gòu)生物學(xué)帶來革命性的進(jìn)展。

　　“但同時(shí)，大模型幻覺如果出現(xiàn)在醫(yī)療、法律、金融、證券、生產(chǎn)制造等不能出錯(cuò)的環(huán)節(jié)，就會帶來非常嚴(yán)重的影響?！敝茗櫟t說，隨著大模型的發(fā)展從“不可用”“湊合用”，到“完全可用、能用”，需要采取措施防止大模型幻覺帶來的安全風(fēng)險(xiǎn)。

　　周鴻祎表示，大模型應(yīng)用軟件可以通過鏈接互聯(lián)網(wǎng)上的知識庫來對信息進(jìn)行校正，企業(yè)在應(yīng)用大模型時(shí)可以接入企業(yè)專有知識庫對幻覺進(jìn)行校正。“大模型輸出結(jié)果的差異來自其訓(xùn)練數(shù)據(jù)，把企業(yè)的重要資料放入知識庫提供給大模型，大模型就可以依據(jù)知識庫，知無不言，言無不盡了?！?/p>

　　解決大模型應(yīng)用安全

　　近期，中國初創(chuàng)企業(yè)DeepSeek發(fā)布開源推理模型DeepSeek-R1，以極低的成本實(shí)現(xiàn)高性能表現(xiàn)，攪動(dòng)了大模型市場格局，同時(shí)掀起了大模型領(lǐng)域的開源革命。據(jù)不完全統(tǒng)計(jì)，已有數(shù)百家公司接入DeepSeek研發(fā)的大模型，其中包括國內(nèi)三大基礎(chǔ)運(yùn)營商，國內(nèi)外云服務(wù)企業(yè)、金融機(jī)構(gòu)、手機(jī)廠商、車企等。大模型的應(yīng)用已經(jīng)逐漸滲透到內(nèi)容創(chuàng)作、金融、電信、自動(dòng)駕駛等領(lǐng)域。

　　大模型的快速推廣使得大模型應(yīng)用的安全問題日益突出。周鴻祎認(rèn)為，在基座模型層面，要解決大模型產(chǎn)生幻覺的問題，可通過連接知識庫來校正。在客戶端層面，周鴻祎表示：“以后人們許多工作會和公司里的大模型交流互動(dòng)，因此要防范客戶端產(chǎn)生的安全問題，防止來自客戶端的安全攻擊?！?/p>

　　而當(dāng)大模型的應(yīng)用催生出更多智能體（Agent），人們將自己的一部分工作職責(zé)移交給智能體，則會帶來新的安全風(fēng)險(xiǎn)?！凹僭O(shè)以后我的智能體能操作電腦，比如給財(cái)務(wù)員工發(fā)送郵件讓對方轉(zhuǎn)一筆錢，豈不是帶來風(fēng)險(xiǎn)?！敝茗櫟t稱。此外，如果大模型對接的知識庫包含龐雜的知識數(shù)據(jù)，其中涉及個(gè)人隱私、商業(yè)機(jī)密等內(nèi)容，則存在知識數(shù)據(jù)層面的安全問題，需要防范信息泄露風(fēng)險(xiǎn)。

　　面對大模型應(yīng)用帶來的基座模型、客戶端、智能體、知識數(shù)據(jù)四個(gè)層面的網(wǎng)絡(luò)安全新挑戰(zhàn)，傳統(tǒng)網(wǎng)絡(luò)安全模式的局限性愈發(fā)明顯。周鴻祎的解決思路是“以模制?！保ㄟ^研發(fā)安全大模型，來管理企業(yè)知識庫的使用、智能體的調(diào)用，并參與管理基座模型產(chǎn)生幻覺的問題等。

　　激發(fā)產(chǎn)業(yè)新活力

　　周鴻祎認(rèn)為，大模型的開源策略將幫助傳統(tǒng)企業(yè)降本增效，要推動(dòng)大模型的應(yīng)用?！癆I要引發(fā)工業(yè)革命，一定要推動(dòng)AI技術(shù)在企業(yè)、政府等各類場景深入地使用，進(jìn)入千家萬戶，進(jìn)入千行百業(yè)?！?/p>

　　大模型不僅擁有海量知識，還具備出色的對話和推理能力。以醫(yī)療行業(yè)為例，大模型可以成為個(gè)人的醫(yī)學(xué)顧問或慢性病專家，為人們提供健康指導(dǎo)。對于傳統(tǒng)醫(yī)院，大模型能加速其數(shù)字化改造，如有醫(yī)院利用AI幫助病人完成自動(dòng)預(yù)約、處理病歷傳真，大幅縮短病人候診時(shí)間。對于新興的生物制造產(chǎn)業(yè)，大模型可作為研究工具，助力探索未知領(lǐng)域。

　　從挖掘生產(chǎn)力的角度看，大模型能在企業(yè)的決策、管理、業(yè)務(wù)流程等多個(gè)環(huán)節(jié)發(fā)揮作用。周鴻祎表示，大模型能為企業(yè)管理者提供決策支持，增強(qiáng)員工工作能力，改善內(nèi)部管理和業(yè)務(wù)流程，提升產(chǎn)品與服務(wù)的質(zhì)量，有效解決產(chǎn)業(yè)發(fā)展中的卡點(diǎn)和堵點(diǎn)，實(shí)現(xiàn)降本增效。

　　在企業(yè)落地方面，周鴻祎認(rèn)為企業(yè)應(yīng)用大模型要找準(zhǔn)方向。首先是找場景，大模型適合解決企業(yè)特定專項(xiàng)、專業(yè)場景下的垂直問題，企業(yè)應(yīng)結(jié)合自身業(yè)務(wù)，確定大模型的應(yīng)用場景。其次，要打造專業(yè)知識庫，收集企業(yè)內(nèi)部的各種知識，讓大模型更專業(yè)。最后，要打造智能體，并將其接入企業(yè)的OA辦公流程，形成完整的應(yīng)用體系。

　　全國政協(xié)委員、奇安信董事長齊向東：人工智能面臨“成長”煩惱 需煉就兩只慧眼

　　春節(jié)以來，國產(chǎn)AI大模型DeepSeek持續(xù)引發(fā)關(guān)注，各行各業(yè)展開“DeepSeek+”行動(dòng)，人工智能應(yīng)用加速普及。近日，全國政協(xié)委員、奇安信科技集團(tuán)董事長齊向東在接受中國證券報(bào)記者專訪時(shí)表示，DeepSeek憑借優(yōu)異的性能、較低的成本、開源開放的生態(tài)，將推動(dòng)人工智能大模型垂直應(yīng)用的快速發(fā)展。

　　齊向東同時(shí)表示：“人工智能也有‘成長’的煩惱，隨著人工智能技術(shù)的深度應(yīng)用，安全挑戰(zhàn)也日益嚴(yán)峻，保障人工智能時(shí)代的網(wǎng)絡(luò)空間安全是扛在我們肩上的重任，網(wǎng)絡(luò)安全公司要兼具兩只慧眼，一只眼睛要看到技術(shù)的長板，一只眼睛要看到技術(shù)的短板?！?/p>

　　人工智能加速普及應(yīng)用

　　談及DeepSeek，齊向東說，它將訓(xùn)練成本和推理成本都大大降低，對使用AI模型的應(yīng)用開發(fā)者來說，是極大利好。

　　“過去受技術(shù)封鎖與商業(yè)壁壘雙重禁錮，人工智能領(lǐng)域難以實(shí)現(xiàn)資源的高效共享與全方位協(xié)同發(fā)展。又因?yàn)榇竽Ｐ陀?xùn)練需要大資金、大數(shù)據(jù)、大周期，門檻很高，中小創(chuàng)新公司很難參與其中，甚至有言論說，只有大公司才有資格玩大模型?！饼R向東表示，DeepSeek的開源策略，就像發(fā)令槍，讓人工智能行業(yè)開始擺脫“大公司大模型俱樂部”，中小公司得以與大公司在大模型技術(shù)上平等競爭，實(shí)現(xiàn)“技術(shù)平權(quán)”，人工智能應(yīng)用將邁向資源共享、攜手共進(jìn)的未來。

　　在討論DeepSeek所帶來影響的同時(shí)，很多人也開始思考，如何孵化培育更多的像DeepSeek這樣的創(chuàng)新成果。對此，齊向東認(rèn)為，要繼續(xù)守護(hù)并延續(xù)AI創(chuàng)新的“草根化”趨勢，保持自下而上的創(chuàng)新張力。

　　安全與治理成為必答題

　　DeepSeek推動(dòng)人工智能技術(shù)加速向千行百業(yè)滲透，與此同時(shí)，人工智能也有“成長”的煩惱。齊向東表示，隨著人工智能技術(shù)的深度應(yīng)用，大模型所面臨的安全挑戰(zhàn)也日益嚴(yán)峻。

　　“我們發(fā)現(xiàn)，現(xiàn)在越來越多的企業(yè)、個(gè)人開始將DeepSeek大模型私有化部署，而將近90%的服務(wù)器都沒有采取安全措施，服務(wù)運(yùn)行和數(shù)據(jù)安全岌岌可危。未來隨著人工智能大模型的基礎(chǔ)設(shè)施地位越來越突出，有針對性的惡意手段和風(fēng)險(xiǎn)場景也將激增，伴生的數(shù)據(jù)隱私、基礎(chǔ)設(shè)施等安全風(fēng)險(xiǎn)超乎想象。對于整個(gè)人工智能行業(yè)來說，平衡技術(shù)創(chuàng)新與安全風(fēng)險(xiǎn)必將成為重要課題?！饼R向東強(qiáng)調(diào)。

　　齊向東認(rèn)為，要系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。“安全”必須要“快一步”——快一步抓產(chǎn)品、抓技術(shù)。所有技術(shù)都有短板，網(wǎng)絡(luò)攻擊者捕捉的就是技術(shù)的短板，而我們使用者看到的都是技術(shù)的長板，我們安全公司要兼具兩只慧眼，學(xué)會用兩只眼睛瞄兩個(gè)方向，一只眼睛要看到技術(shù)的長板，一只眼睛要看到技術(shù)的短板。我們要練出特殊的功能和本領(lǐng)，為保障人工智能時(shí)代的網(wǎng)絡(luò)空間安全貢獻(xiàn)力量。

　　推進(jìn)軟件產(chǎn)業(yè)高質(zhì)量發(fā)展

　　齊向東表示，包括安全在內(nèi)的軟件產(chǎn)業(yè)，是支撐新技術(shù)發(fā)展的關(guān)鍵，也是助推數(shù)字經(jīng)濟(jì)發(fā)展的重要力量。但目前，我國軟件產(chǎn)業(yè)高質(zhì)量發(fā)展遇到了不小的挑戰(zhàn)。

　　他坦言，軟件產(chǎn)業(yè)是“內(nèi)卷式”競爭的重災(zāi)區(qū)，拖慢了軟件產(chǎn)業(yè)的創(chuàng)新步伐。

　　他建議，加快開展集中整治，從國家、行業(yè)、地方政府等層面系統(tǒng)性強(qiáng)化產(chǎn)業(yè)激勵(lì)、行業(yè)自律、人才吸引力，全面優(yōu)化營商環(huán)境。比如相關(guān)部門出臺適配不同產(chǎn)業(yè)的投標(biāo)管理辦法和實(shí)施細(xì)則，促進(jìn)各個(gè)行業(yè)進(jìn)行全方位自我規(guī)范。

　　全國人大代表，TCL創(chuàng)始人、董事長李東生：AI技術(shù)促進(jìn)科技制造業(yè)發(fā)展

　　全國人大代表，TCL創(chuàng)始人、董事長李東生近日接受記者采訪時(shí)介紹，針對大型科技制造業(yè)企業(yè)融資受限、融資規(guī)模與企業(yè)發(fā)展需求不匹配等問題，他提出優(yōu)化科技制造業(yè)融資環(huán)境的建議。對于近期市場關(guān)注的AI相關(guān)話題，李東生提出加強(qiáng)對AI深度偽造欺詐管理的建議。他表示，以DeepSeek為代表的AI技術(shù)的發(fā)展，對科技制造業(yè)的發(fā)展提供了很大幫助，TCL計(jì)劃在未來兩三年的時(shí)間里，大幅提高自身算力中心能力。

　　建議優(yōu)化科技制造業(yè)融資環(huán)境

　　TCL成立四十多年來，從最初生產(chǎn)磁帶的小作坊工廠，已發(fā)展成為具有全球競爭力的科技產(chǎn)業(yè)集團(tuán)。TCL科技上市后，公司得以通過資本市場融資，為持續(xù)在高端科技制造領(lǐng)域的研發(fā)投入和產(chǎn)能建設(shè)提供資金支持；借助深交所平臺，提升公司在行業(yè)內(nèi)的知名度和影響力，吸引更多科研人才和加強(qiáng)與科研機(jī)構(gòu)的合作，有利于技術(shù)攻關(guān)和自主創(chuàng)新能力提升；規(guī)范的資本市場監(jiān)管促使公司不斷完善創(chuàng)新管理體系，保障創(chuàng)新活動(dòng)高效開展，進(jìn)而推動(dòng)新質(zhì)生產(chǎn)力發(fā)展，實(shí)現(xiàn)業(yè)績可持續(xù)增長。

　　李東生深耕科技制造業(yè)，多年來，他一直積極為科技制造業(yè)的發(fā)展建言獻(xiàn)策。隨著全球科技變革和中國經(jīng)濟(jì)轉(zhuǎn)型升級，科技制造業(yè)已成為中國經(jīng)濟(jì)高質(zhì)量發(fā)展的重要基石，但與全球領(lǐng)先的科技企業(yè)相比，在集成電路制造、半導(dǎo)體顯示等產(chǎn)業(yè)，中國企業(yè)仍處于追趕超越階段。

　　針對目前大型科技制造業(yè)企業(yè)融資受限，融資規(guī)模與企業(yè)發(fā)展需求不匹配等問題，李東生提出優(yōu)化科技制造業(yè)融資環(huán)境的建議。他認(rèn)為，科技制造業(yè)具有高科技、重資產(chǎn)、長周期的產(chǎn)業(yè)屬性，投入資本金高、回收周期長，投資規(guī)模往往超過百億元，且有持續(xù)投資需求，需要相應(yīng)的權(quán)益性資本融資。

　　李東生表示，借助資本市場再融資是企業(yè)處于積累階段推動(dòng)發(fā)展的必要條件，也是企業(yè)走向全球領(lǐng)先的必經(jīng)階段。

　　加強(qiáng)AI深度偽造欺詐管理

　　近期，人工智能技術(shù)發(fā)展備受關(guān)注。李東生認(rèn)為，把AI技術(shù)應(yīng)用于供應(yīng)鏈的智能化改造和升級，可以提高生產(chǎn)制造的質(zhì)量和效率；把AI技術(shù)應(yīng)用到產(chǎn)品的設(shè)計(jì)研發(fā)中，可以提高技術(shù)發(fā)展的速度。事實(shí)上，在制造業(yè)中，AI技術(shù)早已被應(yīng)用，2018年TCL在波蘭設(shè)立的歐洲研發(fā)中心就已聚焦人工智能的研發(fā)，此外TCL華星建立了自己的垂類大模型——星智大模型。

　　“我們做了個(gè)統(tǒng)計(jì)，去年TCL通過AI應(yīng)用創(chuàng)造的經(jīng)濟(jì)效益超過5億元，而同期我們在AI上的投入成本不到這個(gè)數(shù)?！崩顤|生表示，以DeepSeek為代表的AI技術(shù)的發(fā)展，對科技制造業(yè)的發(fā)展提供了很大幫助。未來兩三年，TCL將大幅提高其算力中心的能力，更好地支撐企業(yè)的智能化發(fā)展。

　　今年，李東生針對AI深度偽造欺詐問題提出相關(guān)代表建議。一方面，生成式人工智能技術(shù)的進(jìn)步給各個(gè)領(lǐng)域帶來機(jī)遇，另一方面，AI深度偽造內(nèi)容侵權(quán)現(xiàn)象愈演愈烈，欺詐事件頻發(fā)。針對AI深度偽造內(nèi)容管理問題，近年來，我國相關(guān)立法雖有關(guān)注這一議題，但已出臺的規(guī)章制度還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。

　　對此，他提出了四點(diǎn)具體建議：一是加快人工智能深度合成內(nèi)容標(biāo)識管理規(guī)章制度的出臺。二是明確對人工智能深度合成服務(wù)商未履行標(biāo)識義務(wù)的懲罰制度，完善未按要求進(jìn)行標(biāo)識的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)。三是加強(qiáng)對深度合成內(nèi)容標(biāo)識技術(shù)標(biāo)準(zhǔn)和發(fā)布的管理，保證標(biāo)識的有效性，對相關(guān)內(nèi)容平臺出臺要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時(shí)，有義務(wù)對其進(jìn)行標(biāo)識。四是加強(qiáng)國際合作，形成對人工智能生成合成內(nèi)容的有效監(jiān)管。