文 | 國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心 司成祥；軍事科學(xué)院系統(tǒng)工程研究院 任保全；北京長(zhǎng)亭未來(lái)科技有限公司 朱文雷 龔杰

信息技術(shù)的飛速發(fā)展使軟件系統(tǒng)的復(fù)雜性與規(guī)模呈指數(shù)級(jí)增長(zhǎng)，而傳統(tǒng)的漏洞挖掘方法在效率、覆蓋率和適應(yīng)性上的局限性日益凸顯。近年來(lái)，人工智能（AI）技術(shù)的飛速發(fā)展，為漏洞挖掘領(lǐng)域帶來(lái)了革命性突破，顯著提升了漏洞檢測(cè)的智能化水平。本文從技術(shù)原理、應(yīng)用實(shí)踐及挑戰(zhàn)三個(gè)維度，結(jié)合實(shí)際案例，探討AI在漏洞挖掘中的價(jià)值、前景與未來(lái)趨勢(shì)，為漏洞挖掘技術(shù)的研究與實(shí)踐提供參考。

一、人工智能在漏洞挖掘中的優(yōu)勢(shì)和主要方法

漏洞挖掘通常是指通過(guò)一定的方法和工具，在軟件的源代碼、二進(jìn)制或運(yùn)行環(huán)境中尋找可能被惡意利用的缺陷或安全弱點(diǎn)。AI是一種讓機(jī)器模仿人類的智能來(lái)執(zhí)行任務(wù)的技術(shù)總稱。近年來(lái)，隨著以大語(yǔ)言模型技術(shù)為代表的生成式人工智能技術(shù)的飛速發(fā)展，AI技術(shù)在圖像識(shí)別、自然語(yǔ)言處理等領(lǐng)域取得了突破性成果。下面主要介紹兩者的契合點(diǎn)和關(guān)鍵技術(shù)。

（一）傳統(tǒng)漏洞挖掘的不足與人工智能的賦能優(yōu)勢(shì)

傳統(tǒng)漏洞挖掘技術(shù)主要依賴模糊測(cè)試（Fuzz Testing）、符號(hào)執(zhí)行（Symbolic Execution）和靜態(tài)代碼分析（Static Analysis）等。這些技術(shù)依賴專家經(jīng)驗(yàn)和預(yù)定義規(guī)則，面對(duì)日益龐大的代碼規(guī)模和復(fù)雜的漏洞場(chǎng)景，存在覆蓋率不足、誤報(bào)率高以及對(duì)人工依賴性強(qiáng)等問(wèn)題。

AI的主要分支之一是機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)通過(guò)大量數(shù)據(jù)訓(xùn)練模型，從歷史樣本中學(xué)習(xí)規(guī)律，并對(duì)新樣本進(jìn)行預(yù)測(cè)。將人工智能應(yīng)用于漏洞挖掘，主要是利用機(jī)器學(xué)習(xí)算法自動(dòng)學(xué)習(xí)“安全代碼”和“存在漏洞的代碼”之間的差異，將漏洞挖掘問(wèn)題轉(zhuǎn)化為程序分類或聚類問(wèn)題。簡(jiǎn)單來(lái)說(shuō)，AI模型可以從大量已有的漏洞和安全代碼樣本中提取特征模式，從而自動(dòng)識(shí)別未知代碼中的潛在漏洞。

在漏洞挖掘中應(yīng)用AI技術(shù)具有多重優(yōu)勢(shì)。首先，機(jī)器學(xué)習(xí)模型能夠總結(jié)出人類難以手工編寫(xiě)的復(fù)雜規(guī)則，發(fā)現(xiàn)隱藏漏洞模式，從而提高檢出率；其次，AI技術(shù)可自動(dòng)化、快速地處理海量代碼，減少人工干預(yù)，提高整體效率；最后，深度學(xué)習(xí)等技術(shù)能夠自動(dòng)提取代碼特征，解析代碼邏輯與上下文關(guān)系，降低對(duì)安全專家經(jīng)驗(yàn)的依賴。當(dāng)然，AI技術(shù)也并非萬(wàn)能，如何獲取高質(zhì)量的訓(xùn)練數(shù)據(jù)、使模型真正理解程序語(yǔ)義以及確保模型結(jié)果的可信度，仍是需要進(jìn)一步解決的問(wèn)題。

（二）人工智能在漏洞挖掘中的關(guān)鍵技術(shù)

當(dāng)前，AI在漏洞挖掘領(lǐng)域已展現(xiàn)出多種技術(shù)應(yīng)用途徑，包括靜態(tài)分析與動(dòng)態(tài)分析相結(jié)合的智能代碼審計(jì)、基于機(jī)器學(xué)習(xí)的漏洞檢測(cè)模型，以及自然語(yǔ)言處理技術(shù)在代碼語(yǔ)義分析中的應(yīng)用等。

1. 靜態(tài)分析與人工智能的結(jié)合

靜態(tài)分析是在不運(yùn)行程序的情況下，通過(guò)掃描源代碼或二進(jìn)制文件來(lái)發(fā)現(xiàn)潛在漏洞的方法，常見(jiàn)手段包括源代碼掃描、控制流與數(shù)據(jù)流分析、污點(diǎn)分析、符號(hào)執(zhí)行等。傳統(tǒng)方法雖然能夠較為全面地覆蓋代碼路徑，但通常存在誤報(bào)率高且對(duì)復(fù)雜邏輯敏感等問(wèn)題。引入AI技術(shù)后，靜態(tài)分析的效率和準(zhǔn)確性得到了明顯提升。

例如，在機(jī)器學(xué)習(xí)輔助的污點(diǎn)分析方面，傳統(tǒng)污點(diǎn)分析往往會(huì)發(fā)出許多不是真正漏洞的警告。通過(guò)構(gòu)建機(jī)器學(xué)習(xí)模型對(duì)污點(diǎn)分析的結(jié)果進(jìn)行二次篩選，模型可從大量真實(shí)漏洞與假陽(yáng)性案例中學(xué)習(xí)差異，進(jìn)而識(shí)別更可能存在安全隱患的代碼模式，從而顯著降低誤報(bào)率，提高分析人員的工作效率。

此外，機(jī)器學(xué)習(xí)模型在代碼屬性特征的提取和分類方面也表現(xiàn)出優(yōu)勢(shì)。靜態(tài)分析過(guò)程中需要將代碼的多種屬性提取并向量化，隨后利用決策樹(shù)、支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)等模型進(jìn)行分類或回歸預(yù)測(cè)。例如，可以通過(guò)提取每個(gè)函數(shù)的控制流復(fù)雜度、調(diào)用關(guān)系等指標(biāo)，訓(xùn)練分類模型以判斷函數(shù)是否存在緩沖區(qū)溢出等漏洞；或者利用邏輯回歸模型，根據(jù)代碼度量預(yù)測(cè)某模塊中可能存在的漏洞數(shù)量。這類基于靜態(tài)特征的模型能夠快速掃描整個(gè)代碼庫(kù)，幫助安全人員定位可疑區(qū)域以便進(jìn)一步審計(jì)。

機(jī)器學(xué)習(xí)還可以優(yōu)化符號(hào)執(zhí)行。符號(hào)執(zhí)行通過(guò)用符號(hào)變量替代實(shí)際值來(lái)探索程序路徑，能發(fā)現(xiàn)復(fù)雜條件下的漏洞，但在面對(duì)大型程序時(shí)常常面臨路徑爆炸等問(wèn)題。結(jié)合機(jī)器學(xué)習(xí)后，可在符號(hào)執(zhí)行前預(yù)測(cè)哪些函數(shù)或路徑更可能含有漏洞，從而優(yōu)先對(duì)這些高風(fēng)險(xiǎn)區(qū)域進(jìn)行符號(hào)執(zhí)行。例如，可以訓(xùn)練模型，根據(jù)函數(shù)的代碼特征預(yù)測(cè)其是否存在漏洞，當(dāng)模型給出高風(fēng)險(xiǎn)評(píng)分時(shí)，再進(jìn)行深入的符號(hào)執(zhí)行。這種智能引導(dǎo)方式有助于減少無(wú)效路徑的探索，從而提高符號(hào)執(zhí)行的整體效率。

需要注意的是，靜態(tài)分析中AI應(yīng)用的效果高度依賴于良好的特征設(shè)計(jì)。必須設(shè)計(jì)與安全漏洞緊密相關(guān)的特征，才能發(fā)揮模型的最大效能。雖然深度學(xué)習(xí)的引入在一定程度上能夠自動(dòng)學(xué)習(xí)特征，但在特征不足或樣本有限的情況下，仍需融合專家知識(shí)來(lái)設(shè)計(jì)特定的特征。

2. 動(dòng)態(tài)分析與人工智能的結(jié)合

動(dòng)態(tài)分析是通過(guò)實(shí)際運(yùn)行程序或模擬執(zhí)行來(lái)發(fā)現(xiàn)漏洞的方法，包括模糊測(cè)試、動(dòng)態(tài)污點(diǎn)跟蹤和運(yùn)行時(shí)監(jiān)測(cè)等。動(dòng)態(tài)分析擅長(zhǎng)發(fā)現(xiàn)程序運(yùn)行時(shí)才會(huì)顯現(xiàn)的問(wèn)題，例如內(nèi)存越界、空指針引用等。然而，傳統(tǒng)測(cè)試通常較為盲目或基于簡(jiǎn)單變異策略，需要長(zhǎng)時(shí)間才能觸達(dá)深層次的漏洞。引入AI技術(shù)后，動(dòng)態(tài)測(cè)試的效率得到了有效提升。

在智能模糊測(cè)試（Smart Fuzzing）方面，經(jīng)典模糊測(cè)試工具通常通過(guò)隨機(jī)或基于簡(jiǎn)單規(guī)則變異輸入數(shù)據(jù)來(lái)測(cè)試程序，效率有限。引入機(jī)器學(xué)習(xí)后，模糊測(cè)試工具可以根據(jù)以往探索到的程序行為動(dòng)態(tài)調(diào)整輸入生成策略。同時(shí)學(xué)習(xí)已知漏洞的觸發(fā)條件，從而有針對(duì)性地產(chǎn)生更易觸發(fā)漏洞的輸入，使得模糊測(cè)試不再完全“模糊”，而是基于“經(jīng)驗(yàn)”探測(cè)程序的薄弱點(diǎn)，大幅提高了模糊測(cè)試的漏洞發(fā)現(xiàn)能力。

在動(dòng)態(tài)執(zhí)行監(jiān)測(cè)與異常檢測(cè)方面，通過(guò)訓(xùn)練模型學(xué)習(xí)程序在正常運(yùn)行時(shí)的行為，可以實(shí)現(xiàn)對(duì)異常行為的檢測(cè)。一旦實(shí)際執(zhí)行偏離正常范圍，即可判定可能存在漏洞被觸發(fā)。這類異常檢測(cè)模型不僅可用于區(qū)分模糊測(cè)試產(chǎn)生的崩潰是否具有安全意義（即區(qū)分普通崩潰和真正可利用的漏洞），還可以用于在生產(chǎn)環(huán)境中實(shí)時(shí)監(jiān)控并檢測(cè)利用漏洞的攻擊行為。

除了調(diào)整模糊測(cè)試的輸入之外，強(qiáng)化學(xué)習(xí)代理還可應(yīng)用于更廣泛的漏洞挖掘流程控制。例如，通過(guò)訓(xùn)練一個(gè)強(qiáng)化學(xué)習(xí)（Reinforcement Learning，RL）智能體，使其針對(duì)應(yīng)用執(zhí)行一系列操作（類似于滲透測(cè)試的步驟），并以成功觸發(fā)異?；蚵┒醋鳛楠?jiǎng)勵(lì)。這類模擬攻擊路徑自主探索漏洞觸發(fā)條件的方法雖然尚處于起步階段，但已展示出讓AI主動(dòng)探索漏洞的潛力。

綜上所述，動(dòng)態(tài)分析與靜態(tài)分析各有所長(zhǎng)，當(dāng)前流行的做法是將兩者結(jié)合，形成“靜態(tài)+動(dòng)態(tài)+AI”三位一體的漏洞挖掘框架。靜態(tài)分析提供全局的代碼視圖，動(dòng)態(tài)分析則提供真實(shí)執(zhí)行反饋，而AI技術(shù)貫穿其中，提供智能決策支持。通過(guò)先利用靜態(tài)分析篩查可疑點(diǎn)，再通過(guò)動(dòng)態(tài)模糊測(cè)試進(jìn)行驗(yàn)證，并在整個(gè)過(guò)程中借助機(jī)器學(xué)習(xí)模型不斷優(yōu)化策略，構(gòu)建出高效的漏洞挖掘流水線。

3. 機(jī)器學(xué)習(xí)在漏洞檢測(cè)中的分類與回歸方法

在漏洞挖掘中應(yīng)用機(jī)器學(xué)習(xí)時(shí)，常見(jiàn)的任務(wù)為分類或回歸問(wèn)題。例如：“這段代碼是否存在漏洞？”屬于二分類問(wèn)題；“這個(gè)軟件包含多少個(gè)漏洞？”則可以視為回歸預(yù)測(cè)。根據(jù)不同的任務(wù)需求，選擇適當(dāng)?shù)臋C(jī)器學(xué)習(xí)算法非常關(guān)鍵。

分類模型用于判斷某個(gè)對(duì)象是否屬于“有漏洞”類別。典型模型包括樸素貝葉斯（NB）、支持向量機(jī)（SVM）、決策樹(shù)/隨機(jī)森林（DT/RF）、神經(jīng)網(wǎng)絡(luò)等。這些模型都有各自的優(yōu)勢(shì)，在實(shí)際應(yīng)用中，通常會(huì)將多種模型結(jié)合使用，例如先用快速的模型進(jìn)行粗分類，再用復(fù)雜模型進(jìn)行精細(xì)篩選，以在性能和準(zhǔn)確率之間取得平衡。

回歸模型用于預(yù)測(cè)一個(gè)連續(xù)值指標(biāo)，例如漏洞數(shù)量、漏洞嚴(yán)重程度評(píng)分等，包括線性回歸、邏輯回歸，甚至深度學(xué)習(xí)中的回歸網(wǎng)絡(luò)等。這些模型在漏洞優(yōu)先級(jí)排序和風(fēng)險(xiǎn)評(píng)估中作用顯著。例如，訓(xùn)練一個(gè)線性模型，根據(jù)項(xiàng)目的代碼規(guī)模、開(kāi)發(fā)歷史等特征，預(yù)測(cè)其尚未發(fā)現(xiàn)的漏洞數(shù)量，從而幫助制定測(cè)試計(jì)劃。又如，利用邏輯回歸模型，估計(jì)某個(gè)漏洞被利用的概率，從而進(jìn)行風(fēng)險(xiǎn)排序。有研究嘗試通過(guò)機(jī)器學(xué)習(xí)綜合多種因素（漏洞位置、影響范圍、利用難度等）給出風(fēng)險(xiǎn)評(píng)分，輔助安全團(tuán)隊(duì)優(yōu)先修復(fù)高危漏洞。

無(wú)論是分類問(wèn)題還是回歸問(wèn)題，模型都需要特征工程支持。除了傳統(tǒng)的代碼度量特征，越來(lái)越多的漏洞分析工作開(kāi)始引入程序語(yǔ)法、語(yǔ)義信息作為特征。例如，提取函數(shù)調(diào)用圖、數(shù)據(jù)流圖中的統(tǒng)計(jì)量，或提取代碼片段的詞向量表示等。自然語(yǔ)言處理（NLP）技術(shù)在這里大有用武之地，可以將源代碼文本轉(zhuǎn)化為向量特征供機(jī)器學(xué)習(xí)算法使用。

4. NLP與代碼語(yǔ)義分析在漏洞挖掘中的應(yīng)用

近年來(lái)，NLP技術(shù)開(kāi)始被運(yùn)用到代碼和漏洞分析中，因?yàn)樵创a本質(zhì)上是一種特殊的“語(yǔ)言”，其含有語(yǔ)法和語(yǔ)義結(jié)構(gòu)。主要包括以下幾種實(shí)踐。

源代碼向量化表征。借鑒NLP的詞嵌入思想，將源代碼轉(zhuǎn)換為計(jì)算機(jī)可學(xué)習(xí)的向量表示。一種簡(jiǎn)單做法是把源代碼當(dāng)作序列文本，用詞嵌入（word embedding）技術(shù)將代碼符號(hào)映射為向量，再輸入神經(jīng)網(wǎng)絡(luò)分類器。此外，更高級(jí)的做法是構(gòu)造抽象語(yǔ)法樹(shù)（AST）或控制流圖等結(jié)構(gòu)，再通過(guò)圖嵌入或圖神經(jīng)網(wǎng)絡(luò)（GNN）將其表示為向量。通過(guò)這些方法，代碼的語(yǔ)法結(jié)構(gòu)和一定程度的語(yǔ)義關(guān)系被保留在向量中，供模型學(xué)習(xí)。

自動(dòng)特征提取。深度學(xué)習(xí)擅長(zhǎng)自動(dòng)提取特征，在代碼分析中，研究人員可以用深度學(xué)習(xí)模型直接從原始代碼中學(xué)習(xí)漏洞相關(guān)特征，減少人工的參與。例如，使用長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）遍歷代碼token序列，讓模型自主識(shí)別可能存在的潛在漏洞的語(yǔ)法模式或變量關(guān)系。同時(shí)，也可以利用卷積神經(jīng)網(wǎng)絡(luò)（CNN）在AST的鄰接矩陣上進(jìn)行卷積，自動(dòng)捕獲“危險(xiǎn)模式”，類似于讓模型自己總結(jié)漏洞的語(yǔ)言模式。實(shí)踐表明，深度學(xué)習(xí)能夠發(fā)現(xiàn)許多人工難以想到的特征組合，尤其對(duì)復(fù)雜漏洞（如多步邏輯錯(cuò)誤）的檢測(cè)效果更好。

安全補(bǔ)丁和漏洞描述分析。NLP還可以用于分析歷史安全補(bǔ)丁的文本、漏洞報(bào)告的描述等，從中抽取漏洞模式信息。例如，通過(guò)對(duì)大量漏洞補(bǔ)丁前后的代碼差異進(jìn)行文本對(duì)比，訓(xùn)練模型識(shí)別補(bǔ)丁修改的地方（如檢查長(zhǎng)度、增加驗(yàn)證等），利用這些知識(shí)幫助檢測(cè)未修補(bǔ)的相似漏洞。再如，將漏洞數(shù)據(jù)庫(kù)中的自然語(yǔ)言描述輸入大型語(yǔ)言模型，讓其提取出漏洞觸發(fā)條件、影響函數(shù)等關(guān)鍵信息，輔助靜態(tài)掃描工具進(jìn)行針對(duì)性檢查。這種“從文字中學(xué)習(xí)漏洞知識(shí)”的方式，實(shí)際上是將安全專家的經(jīng)驗(yàn)以數(shù)據(jù)驅(qū)動(dòng)形式傳遞給AI。

代碼評(píng)論和文檔分析。某些特殊的評(píng)論或文檔中可能潛藏危險(xiǎn)代碼，NLP模型可以解析這些人類的語(yǔ)言內(nèi)容，從側(cè)面提示可能的漏洞位置。此外，對(duì)開(kāi)源項(xiàng)目的問(wèn)題描述和提交記錄進(jìn)行情感分析，也可以有效識(shí)別高頻出現(xiàn)問(wèn)題的模塊，從而引導(dǎo)漏洞挖掘方向。

綜上所述，NLP技術(shù)使得AI能夠更深入地理解代碼語(yǔ)義，這對(duì)于挖掘依賴邏輯語(yǔ)義的漏洞（如認(rèn)證繞過(guò)、加密不當(dāng)）非常重要。隨著大模型在編程語(yǔ)言上的預(yù)訓(xùn)練取得進(jìn)展（例如OpenAI的Codex、CodeBERT模型），利用NLP助力漏洞挖掘的效果會(huì)進(jìn)一步提升?？梢灶A(yù)見(jiàn)，NLP與代碼安全的融合將成為未來(lái)AI漏洞挖掘領(lǐng)域的重要趨勢(shì)之一。

二、人工智能在漏洞挖掘中的應(yīng)用實(shí)踐和主要挑戰(zhàn)

大型科技企業(yè)、開(kāi)源項(xiàng)目和學(xué)術(shù)研究在AI應(yīng)用于漏洞挖掘方面已取得一些可喜的進(jìn)展，開(kāi)始邁向?qū)β┒吹?/span>“發(fā)現(xiàn)－修復(fù)”全流程自動(dòng)化的目標(biāo)。

（一）人工智能在漏洞挖掘中的應(yīng)用實(shí)踐

AI在漏洞挖掘中的應(yīng)用已開(kāi)始落地，涌現(xiàn)出一些工具和平臺(tái)。商業(yè)掃描器如靜態(tài)應(yīng)用安全測(cè)試（SAST）工具和動(dòng)態(tài)應(yīng)用安全測(cè)試（DAST）工具已嘗試引入AI，從而減少誤報(bào)并提高掃描深度。DeepCode是業(yè)界知名的基于機(jī)器學(xué)習(xí)的代碼審核工具，能夠通過(guò)訓(xùn)練所得規(guī)則檢測(cè)代碼中的錯(cuò)誤和安全漏洞，并提供修復(fù)建議。微軟、谷歌、英特爾等公司也在其開(kāi)發(fā)者工具鏈中加入了AI掃描功能，同時(shí)提供模糊測(cè)試平臺(tái)和漏洞檢測(cè)平臺(tái)。在國(guó)內(nèi)，源自清華系的華清未央推出了“機(jī)器語(yǔ)言大模型”（Machine Language Model，MLM），主打智能化的軟件逆向分析，以發(fā)現(xiàn)其中的安全風(fēng)險(xiǎn)。

與此同時(shí)，AI智能體驅(qū)動(dòng)的漏洞挖掘系統(tǒng)也開(kāi)始初露鋒芒。2024年11月，谷歌旗下的安全團(tuán)隊(duì)Project Zero宣布，其構(gòu)建的AI漏洞挖掘代理系統(tǒng)“BigSleep”首次在真實(shí)大型軟件中發(fā)現(xiàn)了一個(gè)此前未知的安全漏洞，該漏洞已潛伏了二十年之久。此案例表明，AI在補(bǔ)充現(xiàn)有漏洞挖掘手段的短板方面具有巨大的潛力。

AI在漏洞領(lǐng)域的應(yīng)用不僅限于漏洞發(fā)現(xiàn)，還開(kāi)始延伸至自動(dòng)修復(fù)領(lǐng)域。一個(gè)典型案例是GitHub Copilot結(jié)合CodeQL推出的“代碼掃描自動(dòng)修復(fù)”功能。2023年11月，GitHub宣布，CodeQL掃描發(fā)現(xiàn)漏洞后，可以調(diào)用大型語(yǔ)言模型（Copilot的后端GPT模型）自動(dòng)生成修復(fù)代碼，并通過(guò)拉取請(qǐng)求直接提供給開(kāi)發(fā)者參考與合并。GitHub聲稱，在初步測(cè)試中，該功能可自動(dòng)修復(fù)約三分之二的常見(jiàn)漏洞警報(bào)。2025年初，谷歌也發(fā)布了名為Jules的AI編碼助手，專注于自動(dòng)修復(fù)漏洞的能力。Jules基于谷歌最新的大型模型Gemini 2.0，能夠無(wú)縫集成到GitHub工作流中，用于分析復(fù)雜代碼庫(kù)，提出跨多個(gè)文件的綜合修復(fù)方案。與Copilot偏重單一問(wèn)題的改動(dòng)不同，Jules定位為更自主的代理，可以批量修復(fù)系統(tǒng)中的多處相關(guān)漏洞，更像一個(gè)AI工程師而非簡(jiǎn)單工具。在試用過(guò)程中研究人員發(fā)現(xiàn)，Jules能夠?qū)⒁恍┓爆嵉拇a重構(gòu)任務(wù)從原來(lái)耗時(shí)一周的時(shí)間，縮短到幾分鐘完成。

上述案例表明，盡管AI在漏洞挖掘中的應(yīng)用尚處于起步階段且效果有限，但隨著技術(shù)的不斷進(jìn)步，未來(lái)開(kāi)發(fā)者或許只需一鍵掃描，AI即可給出修復(fù)補(bǔ)丁，從而大幅縮短從漏洞發(fā)現(xiàn)到修補(bǔ)的時(shí)間窗口。這將對(duì)提升軟件生態(tài)整體安全水平產(chǎn)生深遠(yuǎn)的影響。

（二）人工智能在漏洞挖掘中的挑戰(zhàn)與限制

雖然AI在漏洞挖掘中展現(xiàn)了巨大潛力，但當(dāng)前仍存在很多局限和挑戰(zhàn)，需要理性認(rèn)識(shí)并進(jìn)行科學(xué)權(quán)衡。

一是存在檢測(cè)準(zhǔn)確性與誤報(bào)問(wèn)題。機(jī)器學(xué)習(xí)模型并非完美，可能會(huì)產(chǎn)生誤報(bào)（將安全代碼誤判為漏洞）和漏報(bào)（將漏洞代碼誤判為安全）。尤其在靜態(tài)分析場(chǎng)景下，模型可能因訓(xùn)練數(shù)據(jù)偏差，將某些安全慣用寫(xiě)法錯(cuò)誤地標(biāo)記為危險(xiǎn)，增加開(kāi)發(fā)者的負(fù)擔(dān)。此外，如果模型訓(xùn)練不當(dāng)，也可能引入新的誤報(bào)類型。許多深度學(xué)習(xí)模型屬于“黑箱”，當(dāng)它們報(bào)告某行代碼存在漏洞時(shí)，往往缺乏可解釋的原因，難以說(shuō)服開(kāi)發(fā)者接受修復(fù)建議。因此，需要在模型復(fù)雜度和可解釋性之間做好權(quán)衡。

二是要加強(qiáng)泛化能力提升跨項(xiàng)目適用性。當(dāng)前，大多數(shù)AI漏洞檢測(cè)模型仍局限于單一語(yǔ)言或單一項(xiàng)目訓(xùn)練。一個(gè)機(jī)器學(xué)習(xí)模型通常只能對(duì)它見(jiàn)過(guò)的數(shù)據(jù)類型表現(xiàn)良好，在跨語(yǔ)言、跨域泛化方面尚未突破。將模型應(yīng)用到全新項(xiàng)目或編程語(yǔ)言時(shí)，效果可能急劇下降。例如，跨項(xiàng)目的漏洞挖掘是一項(xiàng)挑戰(zhàn)性的課題，即不同項(xiàng)目可能使用不同的語(yǔ)言、框架、編碼規(guī)范，甚至漏洞分布特性也不同。為解決這一問(wèn)題，需要更多研究，如開(kāi)發(fā)能夠映射不同語(yǔ)言語(yǔ)義到統(tǒng)一表示的技術(shù)，或者通過(guò)遷移學(xué)習(xí)、領(lǐng)域自適應(yīng)等方法，使模型在新環(huán)境下保持良好的性能。

三是容易受到數(shù)據(jù)集質(zhì)量與偏差的影響。機(jī)器學(xué)習(xí)的成敗，很大程度取決于訓(xùn)練數(shù)據(jù)的質(zhì)量。漏洞數(shù)據(jù)具有稀疏且不均衡的特點(diǎn)——在海量代碼中，真正有漏洞的僅為少數(shù)。此外，公開(kāi)的漏洞數(shù)據(jù)大多偏重某些類型（如緩沖區(qū)溢出、SQL注入等常見(jiàn)漏洞），而邏輯缺陷、設(shè)計(jì)缺陷等類型的數(shù)據(jù)較少。這導(dǎo)致模型訓(xùn)練時(shí)容易聚焦于頻繁出現(xiàn)的模式，對(duì)于罕見(jiàn)但危害巨大的漏洞則無(wú)能為力。數(shù)據(jù)偏差還可能來(lái)自標(biāo)注錯(cuò)誤或漏標(biāo)，一些非漏洞樣本中可能潛藏漏洞，如果被誤標(biāo)為安全樣本進(jìn)行訓(xùn)練，會(huì)對(duì)模型產(chǎn)生誤導(dǎo)。因此，提高數(shù)據(jù)集質(zhì)量需要社區(qū)的協(xié)作：一方面，不斷匯總新的漏洞樣本，平衡各類漏洞比例，清洗標(biāo)簽錯(cuò)誤，并生成足夠的負(fù)樣本（安全代碼），避免模型過(guò)擬合。另一方面，合成數(shù)據(jù)也是一個(gè)方向，例如通過(guò)代碼混淆和變異技術(shù)自動(dòng)生成帶漏洞的樣本，豐富模型的學(xué)習(xí)數(shù)據(jù)。

四是要權(quán)衡計(jì)算資源與時(shí)間成本。訓(xùn)練和運(yùn)行AI模型，尤其深度學(xué)習(xí)模型，對(duì)計(jì)算資源和訓(xùn)練時(shí)間的要求較高。同時(shí)，目前一些AI掃描工具在大型項(xiàng)目上的運(yùn)行仍較緩慢，有時(shí)需要離線批處理，無(wú)法實(shí)時(shí)反饋，嚴(yán)重影響開(kāi)發(fā)者的使用感受。這限制了AI工具在快速迭代開(kāi)發(fā)中的采用。為了降低成本，研究者正在探索更高效的模型結(jié)構(gòu)，并應(yīng)用蒸餾、剪枝等模型壓縮技術(shù)，讓模型在保持準(zhǔn)確率的同時(shí)加快推理速度。另外一種思路是結(jié)合云服務(wù)，將重計(jì)算任務(wù)放到云端集中處理，客戶端只獲取最終結(jié)果。但對(duì)于敏感代碼，將數(shù)據(jù)上傳云端也帶來(lái)了數(shù)據(jù)安全的顧慮。如何在性能和資源之間取得平衡，是AI漏洞挖掘落地必須解決的問(wèn)題。

五是存在對(duì)抗攻擊風(fēng)險(xiǎn)。對(duì)抗樣本攻擊是近年來(lái)機(jī)器學(xué)習(xí)領(lǐng)域關(guān)注的重點(diǎn)，攻擊者可以通過(guò)對(duì)輸入數(shù)據(jù)進(jìn)行微小改動(dòng)來(lái)欺騙模型。在漏洞挖掘場(chǎng)景中，攻擊者或惡意開(kāi)發(fā)者有可能編寫(xiě)“對(duì)抗性代碼”繞過(guò)AI檢測(cè)。例如，通過(guò)改變變量命名或插入無(wú)關(guān)代碼等方式，使惡意代碼看起來(lái)與已知漏洞樣本不相似，從而瞞過(guò)模型的檢測(cè)。尤其隨著技術(shù)的發(fā)展，當(dāng)防御方普遍借助AI掃描時(shí)，攻擊者必然會(huì)研究其檢測(cè)模式并進(jìn)行針對(duì)性規(guī)避。此外，還有數(shù)據(jù)中毒攻擊的風(fēng)險(xiǎn)，如果AI模型在線學(xué)習(xí)或依賴社區(qū)提供的數(shù)據(jù)，攻擊者可以提交特制的代碼，誘使模型對(duì)某些漏洞“視而不見(jiàn)”或產(chǎn)生誤判。為防范這些風(fēng)險(xiǎn)，安全AI模型需要融入對(duì)抗防御機(jī)制，例如在訓(xùn)練過(guò)程中加入對(duì)抗樣本增強(qiáng)魯棒性，或?qū)δＰ洼敵龅牟淮_定性進(jìn)行分析，以識(shí)別可能被誤導(dǎo)的情況。

除了上述挑戰(zhàn)，AI在漏洞挖掘中的應(yīng)用還面臨合規(guī)要求、責(zé)任界定、開(kāi)發(fā)者的接受程度等問(wèn)題。總體來(lái)看，AI在漏洞挖掘中的應(yīng)用仍處于輔助增強(qiáng)階段，遠(yuǎn)未達(dá)到完全自動(dòng)化和無(wú)人值守的程度。因此，要正視其局限性，在實(shí)踐中不斷完善和改進(jìn)，將其與傳統(tǒng)方法結(jié)合形成互補(bǔ)，發(fā)揮AI的最大價(jià)值。

三、結(jié) 語(yǔ)

展望未來(lái)，人工智能在漏洞挖掘領(lǐng)域有多項(xiàng)值得期待的發(fā)展方向。隨著算力提升和算法進(jìn)步，AI模型將在代碼理解上達(dá)到新的高度，這將使AI能夠發(fā)現(xiàn)更加復(fù)雜、跨模塊的漏洞。AI的參與將提升開(kāi)發(fā)流程中的智能化安全管控能力，推動(dòng)DevSecOps理念的落地；AI驅(qū)動(dòng)的自動(dòng)化漏洞修復(fù)與自愈技術(shù)將更加完善，甚至發(fā)展出自主修復(fù)能力。

從攻防視角來(lái)看，AI將成為未來(lái)網(wǎng)絡(luò)空間軍備競(jìng)賽的重要組成部分：一方面，防御者將利用AI筑起更高的壁壘；另一方面，攻擊者也會(huì)開(kāi)發(fā)AI尋找漏洞并發(fā)動(dòng)攻擊。未來(lái)的安全領(lǐng)域很可能出現(xiàn)“AI vs AI”的場(chǎng)景，攻防雙方的智能化差異或?qū)⒅苯記Q定網(wǎng)絡(luò)空間沖突的勝負(fù)走向。

總體而言，AI在漏洞挖掘中的應(yīng)用已從理論探索邁入實(shí)踐落地階段，在一定程度上已經(jīng)改變了漏洞挖掘的游戲規(guī)則。作為“效率倍增器”，AI的價(jià)值日益凸顯，正朝著更加自動(dòng)化、智能化和主動(dòng)防御的方向發(fā)展?？梢灶A(yù)見(jiàn)，隨著技術(shù)的不斷積累，AI或?qū)⒊蔀榘踩I(lǐng)域的核心支柱，大幅提升對(duì)抗漏洞和未知威脅的能力。然而，我們也清醒地認(rèn)識(shí)到，現(xiàn)階段AI并不能完全替代人類專家。模型的局限性、數(shù)據(jù)的不足以及對(duì)抗威脅的存在，意味著AI工具仍需在人類監(jiān)督下使用。未來(lái)，隨著模型能力的提升與開(kāi)發(fā)流程的深度集成，AI有望實(shí)現(xiàn)從漏洞發(fā)現(xiàn)到修復(fù)的閉環(huán)，推動(dòng)軟件安全從“被動(dòng)應(yīng)對(duì)”轉(zhuǎn)向“主動(dòng)防御”。在這一進(jìn)程中，技術(shù)創(chuàng)新、數(shù)據(jù)質(zhì)量、倫理規(guī)范與人才培養(yǎng)缺一不可。唯有持續(xù)探索與協(xié)作，方能構(gòu)建更安全的數(shù)字生態(tài)。

（本文刊登于《中國(guó)信息安全》雜志2025年第2期）