了解攻擊者和防御者之間不斷變化的動態(tài)的方法之一是通過外部因素的視角。在進行此類分析時，我們通常將主要因素縮寫為“PESTLE”，這是政治、經(jīng)濟、社會、技術(shù)、法律和環(huán)境力量的首字母縮寫詞。毫無疑問，我們看到在網(wǎng)絡威脅領域引起最大波瀾的技術(shù)因素是人工智能的快速發(fā)展。

網(wǎng)絡犯罪分子越來越多地使用人工智能來提高攻擊的有效性和效率。同時，對于防御者來說，人工智能被證明是安全團隊的強大盟友，可以改善威脅檢測和補救。人工智能自動化安全任務的需求來得正是時候。

預計今年人工智能在網(wǎng)絡安全領域的影響將顯著增長。它將推動網(wǎng)絡釣魚技術(shù)的發(fā)展，加速系統(tǒng)中漏洞的發(fā)現(xiàn)。人工智能還將加速網(wǎng)絡入侵的發(fā)展和應對。為了領先于已經(jīng)開始采用人工智能的對手，安全團隊必須了解人工智能帶來的威脅，以及它有望改善網(wǎng)絡防御的機會。

2024年，各組織應重點關注人工智能有望改變網(wǎng)絡安全的三個領域：

1.人工智能增強的社會工程攻擊

2024年，人工智能將進一步擴大社交工程攻擊的規(guī)模和有效性，在短短幾分鐘內(nèi)就能創(chuàng)建極具說服力的網(wǎng)絡釣魚誘餌。網(wǎng)絡犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶中的數(shù)據(jù)，制作個性化的網(wǎng)絡釣魚信息。這些復雜的誘餌將很難被發(fā)現(xiàn)，即使是訓練有素的員工也難以發(fā)現(xiàn)。

此外，生成式人工智能將使網(wǎng)絡犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語言編寫出文筆流暢、令人信服的網(wǎng)絡釣魚電子郵件和網(wǎng)站，使他們能夠?qū)⒐舴秶鷶U大到各個地區(qū)。我們期望看到社會工程攻擊的質(zhì)量得到提高，使目標和安全團隊更難發(fā)現(xiàn)誘餌。因此，我們可能會看到與社會工程相關的風險和危害有所增加——從欺詐到網(wǎng)絡入侵。

隨著人工智能生成的電子郵件與合法電子郵件幾乎難以區(qū)分，僅依靠員工培訓來保護用戶是不夠的。相反，安全團隊應該考慮隔離技術(shù)，如微虛擬化，它不依賴檢測來保護員工。這項技術(shù)在隔離的虛擬環(huán)境中打開危險文件和鏈接，防止惡意軟件和軟件漏洞（甚至零日威脅）感染設備。

2.本地大型語言模型（LLM）

隨著計算能力的提升，新一代計算機將能夠運行本地LLM，而無需依賴強大的外部服務器。這將使計算機和用戶能夠充分受益于AI，重新定義人們與設備的交互方式。

這些本地LLM承諾提高效率和生產(chǎn)力，同時通過獨立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢。然而，如果沒有得到妥善保護，本地模型及其處理的敏感數(shù)據(jù)可能會使端點成為攻擊者更大的目標。

此外，許多企業(yè)正在部署基于LLM的聊天機器人，以提升和擴展其客戶服務。但底層的人工智能技術(shù)可能會帶來新的信息安全和隱私風險，例如可能泄露敏感數(shù)據(jù)。今年，我們可能會看到網(wǎng)絡犯罪分子試圖操縱聊天機器人繞過安全措施來獲取機密信息。

3.高級固件和硬件攻擊

人工智能正在推動技術(shù)民主化，幫助技能水平較低的用戶更高效地執(zhí)行更復雜的任務。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對較低系統(tǒng)層（即固件和硬件）進行攻擊，而近年來，對固件和硬件的攻擊力度一直在增加。

從歷史上看，此類攻擊需要大量的技術(shù)專長，但人工智能開始有望降低這些障礙。這可能會導致更多人努力利用較低級別的系統(tǒng)，讓攻擊者在操作系統(tǒng)和業(yè)界最好的軟件安全防御之下立足。

隨著時間的推移，我們預計針對系統(tǒng)固件的惡意軟件的頻率會增加。這些攻擊依賴于利用操作系統(tǒng)下的弱點。專注于關閉硬件和固件攻擊面對于應對這些威脅至關重要。

網(wǎng)絡安全的新前沿

人工智能將改變網(wǎng)絡安全，為安全團隊提供大量機會來改善其威脅檢測和響應。例如，人工智能將通過自動檢測有針對性的網(wǎng)絡釣魚嘗試來幫助保護用戶。

2024年推出的計算機也將帶來安全優(yōu)勢，讓用戶可以在設備上安全地使用AI，而無需承擔將數(shù)據(jù)存儲在云端的風險。這些設備還將通過自動鎖定和隱私屏幕等功能增強數(shù)據(jù)隱私。

然而，要有效使用人工智能，企業(yè)應該首先考慮安全性。這意味著了解數(shù)據(jù)和環(huán)境，建立威脅模型以了解風險，選擇預防和檢測技術(shù)的平衡，并實施零信任原則以確保數(shù)據(jù)安全。最后，組織應考慮與值得信賴的人工智能安全提供商合作，以充分利用人工智能，同時最大限度地降低其安全和隱私風險。