人工智能引領(lǐng)網(wǎng)絡(luò)安全變革潮流

　　近兩年，各行業(yè)大模型如雨后春筍般快速發(fā)展，人工智能技術(shù)、產(chǎn)業(yè)、應(yīng)用各環(huán)節(jié)迎來快速迭代和探索突破時(shí)期。在日前舉行的2024第十二屆西湖論劍·數(shù)字安全大會上，各界人士就如何應(yīng)用人工智能技術(shù)賦能數(shù)字網(wǎng)絡(luò)安全進(jìn)行討論和交流。與會人士認(rèn)為，網(wǎng)絡(luò)安全已進(jìn)入人工智能階段，“AI+安全”是網(wǎng)安行業(yè)未來發(fā)展的方向，同時(shí)AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境需多方共同破解完善。

　　網(wǎng)安進(jìn)入人工智能階段

　　隨著人工智能技術(shù)的快速發(fā)展，數(shù)據(jù)安全復(fù)雜性和傳統(tǒng)網(wǎng)絡(luò)安全治理局限性之間的矛盾日益凸顯，數(shù)字安全面臨前所未有的挑戰(zhàn)，通過AI賦能安全運(yùn)營被視為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。

　　國家行政學(xué)院電子政務(wù)專家委員會原副主任、全國數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱提出，數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義，數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。

　　中國科學(xué)院院士吳世忠表示，近30年來，網(wǎng)絡(luò)安全大致可分為三個(gè)階段，前20年左右是IT驅(qū)動階段，是一個(gè)萬物互聯(lián)時(shí)代；后10年是DT，即數(shù)據(jù)驅(qū)動階段，以大數(shù)據(jù)、云計(jì)算為特征，追求數(shù)據(jù)流動；如今則已進(jìn)入AI驅(qū)動時(shí)代，人工智能的巨浪極大地改變了安全問題的內(nèi)涵和外延。

　　國家信息技術(shù)安全研究中心金融安全處處長曹岳認(rèn)為，未來的攻擊，也就是智能化的攻擊，將加強(qiáng)攻擊的頻度，AI的擴(kuò)展會提升攻防的對抗維度，AI還將升級網(wǎng)絡(luò)攻防對抗的強(qiáng)度。

　　參加過多次重大項(xiàng)目網(wǎng)絡(luò)安全工作的安恒信息，將2008年以來重大活動網(wǎng)絡(luò)安全分為單兵戰(zhàn)、綜合戰(zhàn)、立體戰(zhàn)和AI戰(zhàn)四個(gè)發(fā)展階段。單兵戰(zhàn)大致在2008-2015年間，早期的網(wǎng)絡(luò)安全防護(hù)中，用單一的網(wǎng)絡(luò)安全產(chǎn)品與安全服務(wù)相配合，就能為重大活動的網(wǎng)絡(luò)和信息系統(tǒng)提供基本保護(hù)；綜合戰(zhàn)大致在2016-2020年間，此時(shí)的賽會網(wǎng)絡(luò)環(huán)境變得復(fù)雜，需要借助強(qiáng)大的網(wǎng)絡(luò)安全態(tài)勢感知等平臺類產(chǎn)品，結(jié)合多區(qū)域、線上線下的安全服務(wù)，才能保證大型賽會安全無虞；立體戰(zhàn)大致在2021-2023年間，隨著重大活動網(wǎng)絡(luò)環(huán)境風(fēng)險(xiǎn)的增加，需根據(jù)不同的網(wǎng)絡(luò)安全威脅分別制定針對性策略，在防御、監(jiān)控、響應(yīng)、預(yù)測等方面部署相應(yīng)的安全產(chǎn)品服務(wù)，才能保證重大活動的順利舉行；而從2023年9月至今，重大活動網(wǎng)絡(luò)安全工作已經(jīng)進(jìn)入了AI戰(zhàn)階段。

　　安恒信息董事長范淵對《經(jīng)濟(jì)參考報(bào)》記者表示，現(xiàn)階段的網(wǎng)絡(luò)安保工作中，AI已經(jīng)開始扮演多元化且至關(guān)重要的角色，它不僅會改變網(wǎng)絡(luò)安全戰(zhàn)的方式和態(tài)勢，還將對勝敗產(chǎn)生深遠(yuǎn)影響。在這一階段，首先是網(wǎng)絡(luò)安保場景數(shù)字化程度高。人工智能、數(shù)字孿生、物聯(lián)網(wǎng)等數(shù)字技術(shù)應(yīng)用廣泛，傳統(tǒng)安全保障手段無法有效應(yīng)對；其次是攻擊的自動化和防御的自動化。AI可以被用來進(jìn)行自動化網(wǎng)絡(luò)攻擊，使得攻擊更加隱蔽、快速和難以防御。安全垂域大模型基于機(jī)器學(xué)習(xí)和大數(shù)據(jù)分析等技術(shù)，能自動學(xué)習(xí)網(wǎng)絡(luò)攻擊行為模式，并快速響應(yīng)和應(yīng)對各種新型網(wǎng)絡(luò)威脅，因此以AI對AI、以AI管AI成為必選項(xiàng)。

　　相關(guān)探索應(yīng)用取得突破

　　在使用AI助力網(wǎng)絡(luò)防御方面，國內(nèi)外都已經(jīng)進(jìn)行了很多探索，并已經(jīng)取得成果。

　　美國微軟公司推出的網(wǎng)絡(luò)安全助手給用戶提供生成式、自動化網(wǎng)絡(luò)安全人工智能服務(wù)。經(jīng)過去年一年的運(yùn)行，可以將安全事件響應(yīng)、評估和防御時(shí)間從過去的數(shù)小時(shí)到數(shù)天壓縮到幾分鐘。

　　AI賦能極大地提升了國內(nèi)網(wǎng)絡(luò)安全防御能力與處置效率。安恒信息去年8月發(fā)布的“恒腦·安全垂域大模型”，實(shí)現(xiàn)了國內(nèi)AI安全垂域大模型在國際大型賽事的首次應(yīng)用。在杭州亞運(yùn)會期間，基于這一模型和MSS安全運(yùn)營平臺的輔助支撐，有效解決了安全運(yùn)營過程中復(fù)雜重復(fù)的工作。

　　據(jù)了解，安恒信息已將AI技術(shù)應(yīng)用作為一級戰(zhàn)略。范淵介紹，過去8個(gè)月，安恒信息在人工智能應(yīng)用于數(shù)字安全方面進(jìn)行了大量嘗試和實(shí)戰(zhàn)探索，公司的數(shù)字安全產(chǎn)品和服務(wù)正在發(fā)生翻天覆地的變化。以數(shù)據(jù)分類分級+AI為例，AI技術(shù)應(yīng)用使數(shù)據(jù)分類分級的效率提升了30倍。“這不僅僅是一次簡單的效率提升，更是一次深刻的行業(yè)變革，讓我們看到了AI在數(shù)字安全領(lǐng)域的巨大潛力和廣闊前景?！?/p>

　　今年4月，安恒信息剛剛發(fā)布了數(shù)據(jù)分類分級解決方案、AI防火墻、天穹人工智能安全運(yùn)營平臺等八大AI產(chǎn)品。此次大會期間，安恒信息攜手華為發(fā)布昇騰-恒腦推理一體機(jī)，利用昇騰AI集群為恒腦提供底座，全流程加速大模型的創(chuàng)新與落地。

　　海亮集團(tuán)積極探索“AI+安全”的建設(shè)思路。集團(tuán)數(shù)字創(chuàng)新部部長孫雯介紹，用AI來代替人工使安全告警的分析更加智能，效率大幅提升。海亮集團(tuán)發(fā)現(xiàn)，在AI與數(shù)據(jù)安全結(jié)合的過程中，AI表現(xiàn)超乎預(yù)期，試點(diǎn)場景的4000多個(gè)字段自動化梳理可達(dá)到90%以上，識別準(zhǔn)確率從50%提高到85.8%。

　　AI應(yīng)用于網(wǎng)絡(luò)安全的前景如何？

　　安永（中國）企業(yè)咨詢有限公司合伙人王堅(jiān)表示，威脅監(jiān)測與相應(yīng)的工作、惡意軟件的檢測、用戶的行為分析、身份驗(yàn)證訪問控制、網(wǎng)絡(luò)釣魚監(jiān)測、自動化情報(bào)威脅、欺詐檢測以及數(shù)據(jù)的泄密保護(hù)等方面，都是大模型應(yīng)用的潛力領(lǐng)域。

　　杭州人工智能學(xué)會副秘書長、安恒信息研究院院長王欣認(rèn)為，AI之于安全，現(xiàn)在真正的能力只發(fā)揮了不足5%。過去一年多時(shí)間，AI與安全之間的探索，是從原來的智能問答發(fā)展到輔助駕駛，在不久的將來將進(jìn)入半自動駕駛，未來會進(jìn)入全自動駕駛。

　　推動“AI+安全”縱深發(fā)展

　　此次大會上，業(yè)界人士的一個(gè)共識是，“AI+安全”一定是網(wǎng)安行業(yè)未來發(fā)展的方向。同時(shí)，專業(yè)人士對于AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境也給予廣泛關(guān)注，對“AI+安全”的發(fā)展提出了很多積極的建議。

　　教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長、俄羅斯國家工程院外籍院士胡瑞敏認(rèn)為，從短期與中期來講，大模型技術(shù)還存在著很多不足，必然需要通過人機(jī)協(xié)同才能真正發(fā)揮作用。從長期來看，要在做好安全準(zhǔn)備的前提下，謹(jǐn)慎推動機(jī)器的自主性。

　　多位專家建議，面對復(fù)雜多變的國際形勢和日益增長的網(wǎng)絡(luò)安全威脅，亟需加強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)工作。

　　“現(xiàn)有的漏洞補(bǔ)上了，新的漏洞會被發(fā)現(xiàn)?，F(xiàn)有的技術(shù)出現(xiàn)了攻防相對平衡穩(wěn)定，新的技術(shù)創(chuàng)新會把戰(zhàn)場轉(zhuǎn)移到新領(lǐng)域?！眹H電信聯(lián)盟前秘書長趙厚麟表示，“在安全領(lǐng)域的攻防、互斗會長期存在?！?/p>

　　對此，中國工程院院士鄔江興認(rèn)為，無論是數(shù)字產(chǎn)業(yè)化還是產(chǎn)業(yè)數(shù)字化，第一要?jiǎng)?wù)都是網(wǎng)絡(luò)安全。但是，網(wǎng)絡(luò)安全防御卻呈現(xiàn)出像“打鼴鼠”游戲一樣的情況，即按下葫蘆浮起瓢，冒出一個(gè)鼴鼠就打一下。他指出，針對傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性，要從數(shù)字產(chǎn)業(yè)的源頭技術(shù)抓起，從數(shù)字產(chǎn)品的設(shè)計(jì)安全抓起。推動數(shù)字生態(tài)系統(tǒng)底層驅(qū)動范式轉(zhuǎn)型，以內(nèi)生安全賦能，才能筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。

　　從與會專家的討論中，記者發(fā)現(xiàn)，“AI+安全”行業(yè)既要滿足市場對網(wǎng)安技術(shù)和產(chǎn)品安全可靠、簡便易行的要求，還要在用戶愿負(fù)擔(dān)成本和企業(yè)研發(fā)成本激增之間找出最佳平衡點(diǎn)，因此挑戰(zhàn)不小。

　　鄔江興針對網(wǎng)安人才短缺問題表示，按照中央網(wǎng)信辦的預(yù)測，到2027年，中國需要235萬網(wǎng)絡(luò)安全人才，但目前全國100多所網(wǎng)安相關(guān)學(xué)院每年的畢業(yè)生不足3萬人。網(wǎng)安人才與制造漏洞或無意制造漏洞的人數(shù)相比，存在巨大的“剪刀差”。

　　在國際領(lǐng)域，吳世忠表示，人工智能的安全治理已經(jīng)成為大國博弈的一個(gè)協(xié)調(diào)議題。70多個(gè)國家在五年內(nèi)已經(jīng)出臺安全治理方面的戰(zhàn)略對策和法律文件接近100件。

　　趙厚麟表示，數(shù)字安全全球關(guān)注，要加強(qiáng)全球協(xié)作，鼓勵(lì)和加強(qiáng)國際合作。（記者 周武英）

　　轉(zhuǎn)自：經(jīng)濟(jì)參考報(bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀