發(fā)展與安全并重 上市公司共促“AI向善”
近日，平安證券發(fā)布研報稱，在2024世界人工智能大會暨人工智能全球治理高級別會議（以下簡稱“WAIC2024”）上，中國AI（人工智能）企業(yè)不僅在技術(shù)研發(fā)方面取得了顯著成效，還在應(yīng)用落地、生態(tài)構(gòu)建等方面展現(xiàn)出強(qiáng)勁勢頭。中國AI企業(yè)在多個領(lǐng)域?qū)崿F(xiàn)了突破，為全球AI治理和應(yīng)用提供了寶貴的中國方案。
今年的WAIC2024，AI治理被置于前所未有的高度，而AI安全正是其中的重中之重。
“AI與安全，是數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展的必修課?！?月6日，奇安信董事長齊向東在大會相關(guān)論壇上表示，要積極構(gòu)建高可靠人工智能安全體系，著力為用戶提供有效的安全防護(hù)，既要用AI去驅(qū)動安全，又要做好AI自身安全，護(hù)航數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展。
“AI作為引領(lǐng)未來的戰(zhàn)略新興技術(shù)，已成為發(fā)展新質(zhì)生產(chǎn)力、推動科技革命和產(chǎn)業(yè)升級的核心引擎?！敝袊鴶?shù)實融合50人論壇智庫專家洪勇在接受《證券日報》記者采訪時表示，隨著AI的高速發(fā)展，尤其是生成式AI的突破，其復(fù)雜效應(yīng)也不斷顯現(xiàn)，既釋放巨大的技術(shù)紅利，也衍生出超越以往范疇的挑戰(zhàn)，涉及數(shù)據(jù)安全、倫理治理、算法歧視、能源環(huán)境、數(shù)字鴻溝等問題。
AI安全受關(guān)注
技術(shù)發(fā)展，協(xié)同共治。面對挑戰(zhàn)，全球AI安全治理的進(jìn)程正加速推進(jìn)，已形成各國政府主導(dǎo)、國際組織積極推進(jìn)、企業(yè)協(xié)同治理的多方參與格局。全球AI界正積極平衡“發(fā)展”與“安全”這一體兩面，推動AI“兩翼齊飛”。
近年來，我國先后出臺《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等政策文件，構(gòu)建針對大模型的“雙備案系統(tǒng)”，推動人工智能安全、健康、規(guī)范發(fā)展。今年3月份，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化委員會發(fā)布《生成式人工智能服務(wù)安全基本要求》，對前述政策文件中的數(shù)據(jù)來源合法、內(nèi)容安全等合規(guī)要求的執(zhí)行規(guī)則進(jìn)行了細(xì)化，為生成式人工智能服務(wù)提供者在實踐中開展安全評估提供了有效路徑。
AI安全相關(guān)企業(yè)也抓住產(chǎn)業(yè)發(fā)展黃金機(jī)遇，乘勢而上。聚焦國內(nèi)，深信服、天融信、啟明星辰、奇安信等公司均已發(fā)布安全大模型產(chǎn)品。騰訊、螞蟻集團(tuán)等也積極構(gòu)建AI安全平臺。放眼全球，微軟在今年5月份已正式商用了MicrosoftCopilotforSecurity（一種基于生成式AI的安全產(chǎn)品），旨在“幫助用戶以機(jī)器的速度進(jìn)行防御”。谷歌去年也發(fā)布了網(wǎng)絡(luò)安全專有大模型，并應(yīng)用到了云安全能力中心。
據(jù)TheInsightPartner預(yù)測，2030年，全球AI安全市場規(guī)模將達(dá)到710億美元，未來十年復(fù)合增速將達(dá)到29%。艾媒咨詢數(shù)據(jù)顯示，預(yù)計到2027年，我國網(wǎng)絡(luò)安全市場規(guī)模有望增至884.4億元人民幣。
產(chǎn)業(yè)鏈公司在行動
中金公司認(rèn)為，AI的安全風(fēng)險涉及多個維度。AI體系安全是基礎(chǔ)，包括軟件、硬件等基礎(chǔ)設(shè)施的供應(yīng)安全，以龐大市場為基礎(chǔ)的需求安全，應(yīng)用部署安全等，需確保AI生態(tài)系統(tǒng)的獨立性、完整性和抗攻擊能力。數(shù)據(jù)安全是AI系統(tǒng)能否有效、高質(zhì)量運行的關(guān)鍵。AI應(yīng)用中廣泛出現(xiàn)的錯誤與虛假信息、“信息繭房”、隱私泄露等問題也會對社會安全帶來挑戰(zhàn)。
針對上述問題，產(chǎn)業(yè)鏈上市公司正在行動。
“公司打造了以‘?dāng)?shù)據(jù)+AI’為核心，以‘應(yīng)用場景’為依托的系列產(chǎn)品，形成了七大解決方案及產(chǎn)品線，其中就包括風(fēng)險與合規(guī)產(chǎn)品線，涉及智能風(fēng)控、監(jiān)管報送等。公司信創(chuàng)及安全類產(chǎn)品也有利于降低信息安全風(fēng)險?！狈ū拘畔⑾嚓P(guān)人士在接受《證券日報》記者采訪時表示。
永信至誠在投資者互動平臺上稱，公司發(fā)布AI大模型安全測評“數(shù)字風(fēng)洞”平臺，為AI大模型的持續(xù)演進(jìn)和應(yīng)用提供堅實的安全保障。在內(nèi)容安全測評方面，平臺借助檢測插件，形成檢測模板、檢測場景分類和測評數(shù)據(jù)集，測評出各類安全風(fēng)險；在系統(tǒng)安全測評方面，平臺對目標(biāo)系統(tǒng)進(jìn)行深入的安全評估，幫助AI大模型系統(tǒng)迅速發(fā)現(xiàn)潛在的安全漏洞。
“除了在技術(shù)上推動AI系統(tǒng)的可解釋性和可控性外，由于AI問題往往跨越國界，各方還應(yīng)促進(jìn)國際合作，建立全球共識，共享最佳實踐。”洪勇如是說。
本屆WAIC2024還發(fā)布了《人工智能全球治理上海宣言》，倡導(dǎo)共推發(fā)展、共護(hù)安全、共商治理、共匯民智、共享成果。呼吁各國加強(qiáng)交流和對話，推動人工智能更好地造福人類。
