導(dǎo)讀:今年以來，隨著ChatGPT和其他工具的出現(xiàn)，生成式人工智能技術(shù)已經(jīng)獲得了近似病毒式的狂熱傳播。軍事機(jī)構(gòu)既希望獲得大型語言模型等生成式人工智能能力，同時(shí)也對(duì)該項(xiàng)技術(shù)的獲得采取謹(jǐn)慎態(tài)度。以下是對(duì)訓(xùn)練生成式人工智能在軍事應(yīng)用中的風(fēng)險(xiǎn)分析。

生成式人工智能需要大量的數(shù)據(jù)來進(jìn)行訓(xùn)練和生成結(jié)果。利用該技術(shù)需要積極收集和處理國(guó)防領(lǐng)域相關(guān)的數(shù)據(jù)，以提供給生成式人工智能系統(tǒng)進(jìn)行訓(xùn)練和應(yīng)用。在收集和輸入的過程中，存在數(shù)據(jù)泄露和數(shù)據(jù)真實(shí)性兩大關(guān)鍵風(fēng)險(xiǎn)。

安全隱患和隱私泄露

在軍事機(jī)密網(wǎng)絡(luò)信息安全方面，生成式人工智能有能力生成模擬的攻擊模型和攻擊策略。ChatGPT可用于對(duì)特定的目標(biāo)生成網(wǎng)絡(luò)攻擊代碼，包括關(guān)鍵的國(guó)家基礎(chǔ)設(shè)施、軍事設(shè)施和政府機(jī)構(gòu)。也可以解密通信、情報(bào)數(shù)據(jù)、講話和圖像，增強(qiáng)攻擊者的能力并危及通信安全，同時(shí)增加情報(bào)泄露的風(fēng)險(xiǎn)。這些能力對(duì)軍事安全構(gòu)成重大風(fēng)險(xiǎn)，因?yàn)樗箰阂庑袨檎吣軌颢@得攻擊軍事基地或關(guān)鍵基礎(chǔ)設(shè)施的建議，從而對(duì)軍事安全構(gòu)成威脅。

在軍事人員隱私和安全方面，大型模型可以分析和解析個(gè)人數(shù)據(jù)和照片，以獲取大量敏感信息，包括個(gè)人身份、位置和移動(dòng)軌跡。這些信息可被用來跟蹤、追蹤和監(jiān)視軍事人員，從而導(dǎo)致隱私侵犯和人身安全威脅。此外，先進(jìn)的生成式人工智能技術(shù)可以通過生成真實(shí)的假人和虛假信息來欺騙和提取高級(jí)軍官和高級(jí)官員的敏感數(shù)據(jù)，從而帶來軍事安全風(fēng)險(xiǎn)。

鑒于生成式人工智能的訓(xùn)練和應(yīng)用可能涉及到敏感信息和技術(shù)，因此，國(guó)防部門可能要采取措施來確保相關(guān)的安全和隱私保護(hù)。他們可能需要制定相關(guān)政策和規(guī)定，以確保生成式人工智能系統(tǒng)的使用符合法律和道德標(biāo)準(zhǔn)。

雖然開放人工智能、谷歌、微軟和其他公司制造的公共訪問模型已經(jīng)存在，但五角大樓敦促部隊(duì)不要將政府信息輸入其中。

2023年9月29日，因數(shù)據(jù)安全風(fēng)險(xiǎn)，美國(guó)太空部隊(duì)在編人員已暫停在政府電腦上使用ChatGPT等基于網(wǎng)絡(luò)的生成人工智能工具，包括大型語言模型，除非得到太空部隊(duì)首席技術(shù)與創(chuàng)新官的正式批準(zhǔn)。太空部隊(duì)首席技術(shù)與創(chuàng)新官辦公室已經(jīng)與五角大樓其他辦公室組成了一個(gè)生成式人工智能任務(wù)小組，考慮以“負(fù)責(zé)任和戰(zhàn)略性”的方式使用這項(xiàng)技術(shù)。預(yù)計(jì)會(huì)在后續(xù)發(fā)布關(guān)于太空部隊(duì)使用生成式人工智能的更多指導(dǎo)。

2023年10月30日，拜登政府發(fā)布行政令，命令制定國(guó)家安全備忘錄(National Security Memorandum)以指導(dǎo)人工智能和安全方面的進(jìn)一步行動(dòng)，由國(guó)家安全委員會(huì)和白宮辦公廳主任制定。該文件將確保美國(guó)軍事和情報(bào)界在其任務(wù)中安全、合乎道德且有效地使用人工智能，并將指導(dǎo)美軍采取行動(dòng)反擊對(duì)手對(duì)人工智能的軍事使用。

數(shù)據(jù)集的真實(shí)可靠性

生成式人工智能模型可能會(huì)無意中納入來自其訓(xùn)練集的錯(cuò)誤數(shù)據(jù)。虛假情報(bào)數(shù)據(jù)的產(chǎn)生和傳播對(duì)軍事安全構(gòu)成重大威脅。包括創(chuàng)建一些關(guān)于軍事戰(zhàn)略目標(biāo)、部隊(duì)位置和行動(dòng)計(jì)劃方面的虛假信息，制作一些虛假的圖像、視頻和文本，用于冒充和軍事欺騙。如果指揮官依賴這些基于虛假情報(bào)做出的評(píng)估和決策，就會(huì)導(dǎo)致錯(cuò)誤的行動(dòng)和不良后果。因此，必須警惕虛假情報(bào)的存在，以保護(hù)軍事行動(dòng)的準(zhǔn)確性和有效性。

美國(guó)國(guó)防部已經(jīng)明確表示不信任目前市場(chǎng)上的商業(yè)產(chǎn)品，這些產(chǎn)品已經(jīng)暴露出問題，它們時(shí)而會(huì)產(chǎn)生機(jī)器“幻覺”并提供一些不準(zhǔn)確的信息——這是一種大型語言模型本質(zhì)上編造不真實(shí)信息或虛假事實(shí)的現(xiàn)象，這些信息或事實(shí)并非植根于實(shí)際的真實(shí)數(shù)據(jù)或事件。

美國(guó)國(guó)防部負(fù)責(zé)關(guān)鍵技術(shù)的副首席技術(shù)官梅納德·霍利迪(Maynard Holliday)表示，國(guó)防部不會(huì)在實(shí)例中部署像ChatGPT這樣的商用現(xiàn)貨技術(shù)，而是將基于國(guó)防部自己的數(shù)據(jù)，使用這些大型語言模型，根據(jù)國(guó)防部的數(shù)據(jù)進(jìn)行定制，根據(jù)數(shù)據(jù)進(jìn)行訓(xùn)練，然后根據(jù)國(guó)防部的云計(jì)算或本地計(jì)算，以獲得加密效果，并從根本上分析它的反饋，盡可能地獲取真實(shí)可掌控的數(shù)據(jù)訓(xùn)練的模型。也有可能未來可能會(huì)與業(yè)界和學(xué)術(shù)界合作對(duì)相應(yīng)的技術(shù)進(jìn)行裁剪，以滿足軍事需求。

技術(shù)擴(kuò)散

ChatGPT的出現(xiàn)點(diǎn)燃了全球人工智能領(lǐng)域的技術(shù)競(jìng)賽。生成模型在先進(jìn)軍事裝備的設(shè)計(jì)和優(yōu)化中起著至關(guān)重要的作用，為軍事戰(zhàn)略和能力提供了見解和模擬。然而，如果沒有適當(dāng)?shù)谋O(jiān)管和限制，這些模型可能會(huì)被利用，導(dǎo)致先進(jìn)軍事技術(shù)的快速發(fā)展和廣泛傳播，也可能刺激新武器系統(tǒng)和軍事技術(shù)的發(fā)展，從而加劇國(guó)家間的軍備競(jìng)賽，并最終導(dǎo)致國(guó)際軍事關(guān)系緊張和不穩(wěn)定的加劇。

小結(jié)

總而言之，生成式人工智能的軍事應(yīng)用發(fā)展過程中機(jī)遇和風(fēng)險(xiǎn)并存，為了有效應(yīng)對(duì)這一挑戰(zhàn)，圍繞人工智能技術(shù)制定法規(guī)和控制措施，以促進(jìn)其安全使用和標(biāo)準(zhǔn)化發(fā)展，已經(jīng)迫在眉睫。