C3安全大會(huì)：探索人工智能時(shí)代數(shù)字安全之道

　　以大模型為代表的新一輪人工智能（AI）浪潮正以前所未有的態(tài)勢席卷千行百業(yè)。在這個(gè)顛覆性技術(shù)變革時(shí)代，數(shù)字安全領(lǐng)域?qū)⒚媾R怎樣的機(jī)遇與挑戰(zhàn)？5月18日，“C3安全大會(huì)·2024”在南京舉行。在這場數(shù)字安全行業(yè)的高級別閉門會(huì)議上，業(yè)界多方共同探索AI+時(shí)代的數(shù)字安全之道，為新時(shí)代安全生態(tài)建設(shè)提供了新的思路。

　　人工智能時(shí)代 網(wǎng)絡(luò)安全形勢嚴(yán)峻

　　“隨著去年ChatGPT的發(fā)布，AGI（通用人工智能）技術(shù)讓全球黑客開始狂歡?！眮喰虐踩呒壐笨偛藐悐^在“安全AI未來”主旨演講中的這番描述并非危言聳聽。事實(shí)上，AGI工具可以將黑客生成新威脅的時(shí)間由之前的數(shù)個(gè)月縮減至幾小時(shí)甚至幾分鐘，與此同時(shí)，攻擊者開始利用大模型迅速發(fā)現(xiàn)軟件與服務(wù)中存在的漏洞，通過人臉深度偽造來實(shí)施網(wǎng)絡(luò)詐騙犯罪的案例也越來越多。更有甚者，攻擊者的目標(biāo)正由傳統(tǒng)的數(shù)字資產(chǎn)轉(zhuǎn)向AI算力基礎(chǔ)設(shè)施和大模型?！皝喰虐踩O(jiān)測到，短短一年時(shí)間，針對大模型的攻擊手段已涌現(xiàn)出數(shù)十種不同的類型?！?/p>

　　專注AI安全攻防實(shí)戰(zhàn)與對抗的亞信安全實(shí)驗(yàn)室模擬了去年發(fā)現(xiàn)的海綿樣本攻擊，大致原理是通過向大模型發(fā)布特殊的樣本，讓大模型的算力消耗急劇上升，原來短時(shí)間能做出響應(yīng)的需求，現(xiàn)在則需要大量時(shí)間去計(jì)算。即便停止攻擊，大模型返回結(jié)果的速度也變得很慢?！叭绻磥砗诵膽?yīng)用都是大模型驅(qū)動(dòng)的AI原生應(yīng)用，這種情況基本上就等于癱瘓了?！标悐^說。

　　這只是未來網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的“冰山一角”。與會(huì)專家學(xué)者形成共識的是，隨著全球新一輪科技革命和產(chǎn)業(yè)變革的持續(xù)演進(jìn)，以人工智能大模型為代表的新技術(shù)迅猛發(fā)展，數(shù)字化、網(wǎng)絡(luò)化、智能化日新月異，網(wǎng)絡(luò)安全面臨的風(fēng)險(xiǎn)挑戰(zhàn)不斷增加，網(wǎng)絡(luò)安全形勢更為復(fù)雜嚴(yán)峻。

　　智譜AI總裁王紹蘭介紹，從技術(shù)突破到應(yīng)用落地顯著加快、技術(shù)影響力呈現(xiàn)裂變式擴(kuò)散、規(guī)?；瘧?yīng)用與前沿攻關(guān)并舉，這是新一代AI技術(shù)浪潮的特點(diǎn)。上海垣信衛(wèi)星科技有限公司高級副總裁陸犇博士則透露，垣信擬于今年開始進(jìn)行大規(guī)模的衛(wèi)星組網(wǎng)建設(shè)，隨著衛(wèi)星互聯(lián)網(wǎng)逐步建成，勢必會(huì)為產(chǎn)業(yè)帶來新的大數(shù)據(jù)源、新的分布式算力網(wǎng)絡(luò)與快捷的人工智能分發(fā)途徑。其間，包括通信的連接、數(shù)據(jù)的連接，以及無處不在的智能泛在體，都將面臨更為突出的安全問題。

　　“現(xiàn)在安全的范疇需要擴(kuò)大?！敝袊こ淘涸菏?、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長張亞勤認(rèn)為，新的人工智能是信息智能、物理智能和生物智能的融合，AI大模型的能力極其強(qiáng)大，未來可能創(chuàng)造出很多發(fā)展機(jī)遇，但也蘊(yùn)含著不少潛在風(fēng)險(xiǎn)，包括信息智能的風(fēng)險(xiǎn)、AI本身隱含的安全風(fēng)險(xiǎn)以及可控性、可信性、邊界等問題。其中，AI幻覺、深度偽造等問題很有挑戰(zhàn)性?！艾F(xiàn)在完全可以去仿造人的聲音、圖片和短視頻且無法鑒別，而更大的風(fēng)險(xiǎn)是在物理世界、生物世界，當(dāng)一個(gè)大模型可以控制上億的車、無人機(jī)、機(jī)器人，連接到金融體系、核心體系，甚至和人的大腦連在一起，失控和被利用的風(fēng)險(xiǎn)更大。”

　　“在推動(dòng)大模型相關(guān)技術(shù)進(jìn)步的同時(shí)，也應(yīng)未雨綢繆地做好防范工作，確保技術(shù)向善?！睆垇喦谠菏繌?qiáng)調(diào)。

　　用AI對抗AI 網(wǎng)絡(luò)安全攻防升級

　　與會(huì)專家認(rèn)為，網(wǎng)絡(luò)安全的攻防從原來人和人之間的對抗，已經(jīng)升級到AI和AI之間的對抗，只有AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全防護(hù)檢測技術(shù)才能識別AI驅(qū)動(dòng)的黑客攻擊技術(shù)。最典型的案例是深度偽造，人眼可能都看不出來的人臉替換，只有通過AI技術(shù)才能識別出來。

　　面對日益嚴(yán)峻的網(wǎng)絡(luò)安全形勢，全球科技企業(yè)都在加緊行動(dòng)，網(wǎng)絡(luò)安全范式正在革新。微軟日前已經(jīng)正式商用了可用自然語言交互的安全自動(dòng)化解決方案Copilot for Security；谷歌去年也發(fā)布了網(wǎng)絡(luò)安全大模型。全球網(wǎng)絡(luò)安全企業(yè)Palo Alto、Crowd Strike已經(jīng)在安全運(yùn)營平臺上集成了大模型能力。在AI技術(shù)浪潮推動(dòng)下，Palo Alto已經(jīng)成為全球首家市值突破千億美元的安全公司，Crowd Strike的市值也逼近千億美元。在中國，約80%以上的網(wǎng)絡(luò)安全公司都在將大模型技術(shù)集成到網(wǎng)絡(luò)安全產(chǎn)品中，近30%的公司已經(jīng)開始做大模型安全的研究。

　　本次大會(huì)期間，亞信安全帶來的“信計(jì)劃”也包含了全新研發(fā)的保護(hù)算力云基礎(chǔ)設(shè)施安全、大模型應(yīng)用安全防護(hù)、大模型紅藍(lán)對抗測試等服務(wù)，并正式發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方。據(jù)介紹，信立方大模型對于執(zhí)行網(wǎng)絡(luò)安全行業(yè)的精準(zhǔn)問答、復(fù)雜的告警日志解讀、深度的網(wǎng)絡(luò)安全事件分析等專用場景都有獨(dú)特的效果。

　　此外，亞信安全還在構(gòu)想安全運(yùn)營數(shù)字人，這是一個(gè)獨(dú)立的大模型應(yīng)用。用戶每天會(huì)產(chǎn)生大量的安全事件，未來安全運(yùn)營主管只要對數(shù)字人說：“幫我分析一下今天的安全態(tài)勢怎么樣？”數(shù)字人就會(huì)自動(dòng)把當(dāng)天的安全態(tài)勢調(diào)出來。“今天哪些安全事件必須馬上處理？”數(shù)字人可能會(huì)列舉ABCD四個(gè)事件，只要告訴數(shù)字人處理哪個(gè)事件，這個(gè)事件就會(huì)被閉環(huán)處理，沒有任何復(fù)雜的界面，完全是對話式的入口來完成過去很繁雜的操作工作。

　　針對近期頻發(fā)的網(wǎng)絡(luò)勒索事件，本次大會(huì)上，網(wǎng)絡(luò)勒索響應(yīng)與治理中心暨獵狐計(jì)劃正式啟動(dòng)。該中心由亞信安全、中國聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責(zé)任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，以防范網(wǎng)絡(luò)勒索的持續(xù)惡意攻擊為目標(biāo)，建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心，形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運(yùn)營。獵狐行動(dòng)計(jì)劃則通過事前、事中、事后三個(gè)階段完善處理“銀狐”木馬，這一計(jì)劃的實(shí)施將為有效打擊網(wǎng)絡(luò)勒索行為提供更加堅(jiān)實(shí)的保障。

　　產(chǎn)學(xué)研用協(xié)同 多方共建安全生態(tài)

　　值得關(guān)注的是，本屆C3安全大會(huì)上還舉行了兩項(xiàng)重磅簽約儀式。其一是亞信安全和清華大學(xué)智能產(chǎn)業(yè)研究院聯(lián)合研發(fā)行動(dòng)升級計(jì)劃，雙方將進(jìn)一步提升合作規(guī)模，實(shí)現(xiàn)科研實(shí)力與人力資源的優(yōu)勢結(jié)合，持續(xù)開展理論、技術(shù)、政策等方面的創(chuàng)新性研究工作；另一項(xiàng)則是亞信安全與華為終端的合作簽約，雙方將深度投入鴻蒙生態(tài)建設(shè)，結(jié)合領(lǐng)先行業(yè)的終端安全能力，為用戶提供更加安全、可靠的終端環(huán)境，保障用戶的信息安全。

　　產(chǎn)學(xué)研用加強(qiáng)協(xié)作正在成為業(yè)界的共識：只做大模型安全是無法解決大模型安全問題的，需要整個(gè)產(chǎn)業(yè)鏈、生態(tài)鏈多方融合，構(gòu)建產(chǎn)品配套、軟硬協(xié)同的產(chǎn)業(yè)生態(tài)。

　　“大模型產(chǎn)業(yè)鏈非常長，最終落地過程中會(huì)發(fā)現(xiàn)有更多企業(yè)參與進(jìn)來，尤其是以大模型為基礎(chǔ)的周邊業(yè)態(tài)會(huì)更加豐富?！眮喰虐踩呒壐笨偛眉鍯DO吳湘寧說，“現(xiàn)在大家都還在探索大模型生態(tài)安全的建設(shè)，可以明確的是整個(gè)生態(tài)鏈打開后，很多技術(shù)使用場景都會(huì)發(fā)生改變。”

　　在制造業(yè)，美的是較早把安全大模型落地到信息安全領(lǐng)域的企業(yè)。據(jù)美的集團(tuán)首席信息安全官兼軟件工程院院長劉向陽介紹：“過去做安全運(yùn)營，安全日志每天80億條，僅告警就有20萬條，很難用人力處理。引入安全大模型后，把安全告警需要人工研判的數(shù)量從20萬條降到了100至200條，這就是人工能夠處理的程度了?！?/p>

　　談及與亞信安全的合作，華為終端云開發(fā)者服務(wù)與平臺部總裁望岳表示，鴻蒙操作系統(tǒng)是華為推出面向下一代端側(cè)的操作系統(tǒng)，在華為設(shè)計(jì)理念里，“安全”排在所有因素之上。操作系統(tǒng)涉及計(jì)算、資源、通訊、圖形圖像等方方面面，安全體系特別龐大，安全面臨的形勢也尤為復(fù)雜，特別是應(yīng)用到各個(gè)行業(yè)，在制造業(yè)、家電行業(yè)、金融業(yè)等，涉及安全的課題和考量點(diǎn)完全不一樣?！傍櫭刹僮飨到y(tǒng)其實(shí)也是一個(gè)容器，需要像亞信安全這樣的合作伙伴，把多年的經(jīng)驗(yàn)、積累、能力放到鴻蒙操作系統(tǒng)的底層，以協(xié)同治理好整個(gè)系統(tǒng)的安全?！?/p>

　　“在新的時(shí)代，數(shù)據(jù)正在成為最重要的資產(chǎn)，大模型如同現(xiàn)代冶煉廠，在鑄造出這個(gè)時(shí)代的‘鋼鐵’。操作系統(tǒng)、行業(yè)大模型與‘云網(wǎng)安’共同構(gòu)成新時(shí)代數(shù)據(jù)的基礎(chǔ)設(shè)施，應(yīng)用開發(fā)者們在建造征服數(shù)據(jù)海洋的戰(zhàn)艦。”亞信聯(lián)合創(chuàng)始人田溯寧如此生動(dòng)的比喻，勾勒出的正是當(dāng)前正在建設(shè)中的新時(shí)代安全生態(tài)。