“‘道高一尺，魔高一丈’，工具的善惡取決于使用者的意圖。對于派拓網(wǎng)絡和Unit42而言，會密切跟蹤AI演進過程以及其在網(wǎng)絡安全領域的應用，以便研究團隊能夠及時捕捉到最新的威脅信息，并計劃通過開放和免費的形式，在網(wǎng)站和論壇上共享這些信息和研究成果，致力于保護整個生態(tài)系統(tǒng)的安全。”劉俊佃說道。

  當今世界正處于從工業(yè)經(jīng)濟向數(shù)字經(jīng)濟加速轉型的變革時期，數(shù)字化轉型已成為企業(yè)實現(xiàn)業(yè)務的快速發(fā)展，保持競爭力的關鍵。

  伴隨著企業(yè)數(shù)字化轉型的不斷深入，企業(yè)在享受技術便利的同時，也面臨著日益復雜和多樣化的網(wǎng)絡安全風險。特別是近年來人工智能快速發(fā)展，以ChatGPT為代表的生成式AI技術不斷迭代，也給網(wǎng)絡安全帶來了全新的挑戰(zhàn)。

  威脅格局呈現(xiàn)新變化？

  日前，Palo Alto Networks(派拓網(wǎng)絡)舉辦了Ignite中國2023(北京站)媒體溝通會，派拓網(wǎng)絡 Unit 42咨詢總監(jiān)劉俊佃圍繞“人工智能賦能網(wǎng)絡安全，護航數(shù)字化轉型與業(yè)務增長”這一主題，展開了分享。

AI時代下網(wǎng)絡安全面臨新挑戰(zhàn)，派拓網(wǎng)絡帶來應對策略

派拓網(wǎng)絡 Unit 42咨詢總監(jiān) 劉俊佃

  隨著科技的發(fā)展，網(wǎng)絡攻擊手段和方式不斷更新，對企業(yè)安全構成嚴重威脅。目前，威脅格局中主要有三個問題：

  第一，網(wǎng)絡犯罪分子與高級持續(xù)威脅 (APT) 團伙之間的界限正在變得模糊。之前所設想的APT僅針對特定類型的攻擊，所以需要重新開始深入探索這一類型的攻擊模式。

  第二，事故對目標企業(yè)產(chǎn)生的影響更廣泛。過去，如果企業(yè)受到攻擊，那是其內部事務，然而，在當前的數(shù)字化背景下，人們與眾多互聯(lián)網(wǎng)渠道緊密相連，面臨著眾多的攻擊者或潛在風險，任何攻擊都有可能對企業(yè)運營造成重大影響。

  第三，檢測和緩解攻擊需要多種防御途徑。由于AI的介入，企業(yè)必須開始規(guī)劃如何應對由AI發(fā)起的新型攻擊。

  劉俊佃指出，攻擊者對AI的利用主要分為三大類：一是變種惡意軟件克服了基于特征碼的檢測，攻擊者利用AI編寫木馬程序，并通過該程序侵入被攻擊者的環(huán)境;二是精心制作電子郵件企圖繞過，攻擊者借助AI編寫釣魚軟件，由于AI具備較高的語言能力，用詞可能更有可信度，從而誘導用戶點擊;三是執(zhí)行機器速度/創(chuàng)造性攻擊，攻擊者利用AI實施更快速、更簡化地攻擊，通過AI的能力提高攻擊效率。

  舉例來看，過去，釣魚郵件中可能存在詞匯不流暢、用詞不當或拼寫錯誤等情況。但WormGTP的出現(xiàn)，使尋找文字漏洞的方法不再有效。WormGTP是ChatGPT的一個衍生工具，生成的文本非常完美，可以使攻擊者輕松地編寫惡意木馬程序、代碼以及釣魚郵件內容。

  FraudGPT的設計初衷是為攻擊者提供協(xié)助，攻擊者僅需通過簡單問答，就可以創(chuàng)建釣魚網(wǎng)站頁面、找到最容易受害的目標、編寫欺詐性的短信和軟件。

  DeepFake能夠生成具有高度逼真度的人臉圖像，如果攻擊者能夠獲取到用戶的手機等關鍵設備，就有可能利用這種技術進行欺詐行為。如Master Face能夠通過AI生成一張“萬能臉”，這張臉能夠被普通的人臉識別工具誤認為是任何人。

  Deep Locker使用深度神經(jīng)網(wǎng)絡 (DNN) 人工智能模型，具有極高的隱蔽性，可以隱藏在各種地方，如手機、電腦應用程序或已知的惡意軟件中。與現(xiàn)有的規(guī)避性和針對性惡意軟件相比，這種方法將使逆向工程良性載體軟件和恢復任務關鍵機密，包括攻擊有效載荷和目標的具體情況，變得極具挑戰(zhàn)性。

  黑曼巴公司也注意到了OpenAI的ChatGPT變得非常流行，該公司的研究人員演示了稱之為“黑曼巴 (Black Mamba)”的概念驗證攻擊，這種攻擊利用大型語言模型 (LLM) ，即時合成多形態(tài)鍵盤記錄功能。BlackMamba 攻擊展示了人工智能如何讓惡意軟件在 運行時動態(tài)修改良性代碼，而不需要任何命令與控制 (C2) 基礎設施，從而使其能夠躲過當前的自動安全系 統(tǒng)，而這些系統(tǒng)都能識別此類行為以檢測攻擊。

  “未來，將是AI對抗AI的時代。在這種情境下，單純依賴人力進行事件響應是不切實際的，必須借助AI的協(xié)助。”劉俊佃說。

  派拓網(wǎng)絡給出解決方案

  為幫助企業(yè)提高安全防御能力，派拓網(wǎng)絡提出6點建議：第一，改變對成功的看法，包括響應，而不僅僅是預防;第二，優(yōu)先考慮能限制攻擊者并為防御者提供回旋空間和時間的防御;第三，精簡防御，實現(xiàn)可重復性和自動化;第四，7X24小時全天候監(jiān)控，增加攻擊者的時間壓力;第五，測量并減少外部攻擊面;第六，過渡到零信任企業(yè)，增強安全措施。

  據(jù)悉，無論是派拓網(wǎng)絡，還是旗下的Unit42，都在不斷地進行威脅信息方面的研究。并且，Unit42還擁有精準AI相關的產(chǎn)品，通過運用各種數(shù)據(jù)、機器學習和模式識別技術來研究當前威脅信息的整體態(tài)勢。

  目前，Unit42內部集結了多個研究團隊，專注于探究AI的發(fā)展程度、其用于發(fā)動攻擊的媒介，以及這與過去對網(wǎng)絡攻擊的傳統(tǒng)假設有何不同。通過深入研究各種可能出現(xiàn)的場景，分析攻擊對企業(yè)業(yè)務的網(wǎng)絡影響，以及最終如何影響企業(yè)的商業(yè)決策。主要目標是通過研究和措施，并為企業(yè)提供所需的防御和保護策略。

  另外，從工具層面進行分析，相較于大量疊加的單點安全產(chǎn)品，平臺化的解決方案可以實現(xiàn)全面、自動化的安全防御，真正做到主動有效地保護企業(yè)的網(wǎng)絡安全。據(jù)劉俊佃介紹，派拓網(wǎng)絡提出了一個安全公式：零信任+平臺=前瞻性。其中，零信任指的是杜絕任何隱含信任并以持續(xù)驗證為基礎的策略;平臺指的是根據(jù)需求連接不同類型的最佳功能，實現(xiàn)最大的可見性、控制性和效率;前瞻性指的是輕松安全轉型，讓企業(yè)在安全的環(huán)境下高效地運營和創(chuàng)新。

  值得一提的是，派拓網(wǎng)絡的下一代網(wǎng)絡安全平臺可以從網(wǎng)絡、云、端點三個維度來應對數(shù)字經(jīng)濟時代的安全挑戰(zhàn)，并在所有安全方案之上提供一套自動化安全運營分析系統(tǒng)。而這一切都是依托于派拓網(wǎng)絡在全球的安全威脅情報網(wǎng)絡Unit 42，對全球發(fā)生的安全事件和情報進行及時的分析和響應。

  寫在最后：

  科技是把雙刃劍，AI亦是如此，它既可以成為推動企業(yè)發(fā)展的有力工具，也可能被攻擊者利用來增強其攻擊能力。AI如果被攻擊者掌控，無疑會引發(fā)前所未有的網(wǎng)絡安全威脅。

  派拓網(wǎng)絡Unit 42作為一個情報驅動、隨時響應的組織，助力企業(yè)在不斷演變的網(wǎng)絡安全環(huán)境中，持續(xù)完善安全策略、迅速實時洞察潛在威脅，確保企業(yè)在與攻擊者的較量中搶占先機。