從數(shù)字廣告到熱門手游,從真主黨的對講機到自動駕駛汽車,從內容推送算法到ChatGPT,貌似“人畜無害”的消費技術的武器化對國家安全的威脅甚至超出了關鍵基礎設施漏洞。
近年來,隨著數(shù)字化和人工智能技術的快速滲透發(fā)展,隱私和人工智能安全(例如訓練和交互數(shù)據(jù)泄漏)逐漸成為網(wǎng)絡安全領域的重要討論話題。然而,這些“消費技術”的影響不僅局限于商業(yè)領域。
最近,熱門手游Pokémon Go(精靈寶可夢)母公司Niantic的工程師自曝其地理空間數(shù)據(jù)可能被政府和軍方購買用于軍事用途。該研究揭示了一個令人擔憂的趨勢:熱門消費技術正在以我們始料未及的方式改變全球安全格局,可能給國家安全帶來新的隱患,其危害甚至不亞于關鍵基礎設施漏洞。
消費技術武器化:從數(shù)字廣告到游戲掃描數(shù)據(jù)
早在2020年,美國國家安全局(NSA)被曝光通過數(shù)字廣告經(jīng)紀人收集個人數(shù)據(jù),用于追蹤幾乎任何使用智能手機的目標(包括軍事人員和政府工作人員)。該事件讓人們意識到,大規(guī)模的消費級數(shù)據(jù)采集與分析不僅能服務于市場營銷,還可能成為監(jiān)控與情報工作的強大工具。而今,類似的擔憂從數(shù)字廣告擴展到新興的空間計算(Spatial Computing)技術和增強現(xiàn)實(AR)游戲中。
在11月14日的Bellingcat調查記者大會上,Niantic工程副總裁布萊恩·麥克倫登(Brian McClendon)發(fā)表了關于空間計算技術的演講,提出了一個可能的場景:政府和軍方可能會購買基于Pokémon Go玩家生成的掃描數(shù)據(jù)開發(fā)的人工智能模型。這一模型被稱為“大型地理空間模型(Large Geospatial Model,簡稱LGM),能夠通過分析大量實地數(shù)據(jù)生成高精度的地理空間映射模型。
麥克倫登明確表示,盡管LGM的初衷是服務消費者或研究機構,但如果其用途轉向軍事領域,特別是用于“增加戰(zhàn)爭強度”,這將是一個“顯然的問題”。他并未排除將LGM或相關數(shù)據(jù)出售給政府或軍方的可能性。
Niantic的LGM項目依賴于玩家掃描的真實世界數(shù)據(jù),例如Pokémon Go中的“AR映射任務”和“Pokémon Playgrounds”功能。這些功能激勵玩家掃描公共場所,生成大量獨特的地理數(shù)據(jù)。
“Niantic的LGM建立在其Lightship視覺定位系統(tǒng)(VPS)之上,該公司表示,該系統(tǒng)“已掃描全球1000萬個位置,其中超過100萬個位置已激活并可通過我們的VPS服務使用。我們每周收到大約100萬張新掃描,每張都包含數(shù)百張離散圖像。”麥克倫登說道。
這些數(shù)據(jù)從步行視角獲取,與傳統(tǒng)車輛導航系統(tǒng)(如Google Street View)有顯著不同,甚至包括常規(guī)導航系統(tǒng)無法覆蓋的步行路徑。軍方一旦獲取這些高精度、低成本的數(shù)據(jù),將顯著提高其偵察與規(guī)劃能力,因而具有極高的戰(zhàn)術價值。
對國家安全的潛在威脅
更為令人擔憂的是,Niantic的LGM技術不僅可應用于游戲領域,在商業(yè)領域和科技發(fā)展方面也充滿潛力,是未來AR眼鏡、機器人、內容創(chuàng)建和自主系統(tǒng)等多個領域的基礎技術。因此,這種技術的武器化勢必會引發(fā)廣泛而影響深遠的倫理和國家安全問題。
雖然Niantic稱其掃描功能基于用戶自愿且“完全可選”,并且強調數(shù)據(jù)的應用僅限于增強用戶體驗的AR功能。然而,大規(guī)模數(shù)據(jù)采集與分析的風險在于,這些技術可能被重新利用于超出公司初衷的用途。正如麥克倫登所提到的,政府和軍方已經(jīng)對這類消費技術表現(xiàn)出濃厚興趣,可能會將其用于軍事戰(zhàn)略、偵察和情報工作。
Pokémon Go的案例提醒我們,熱門應用程序和游戲可能成為數(shù)據(jù)采集和監(jiān)控的強大工具。尤其是玩家在不知情的情況下為公司和潛在第三方生成了關鍵的地理空間數(shù)據(jù)。這種數(shù)據(jù)的規(guī)模和深度使其成為對抗性用途(例如軍事沖突或跨國監(jiān)控)的理想目標。
Niantic的LGM項目引發(fā)了外界對于科技公司如何處理用戶數(shù)據(jù)以及這種數(shù)據(jù)如何被利用的更多質疑。這也讓我們不得不思考以下問題:
-
消費技術出口的倫理邊界在哪里?如果消費技術可以被用于軍事用途,是否應該受到更嚴格的審查?
-
隱私與透明度如何平衡?用戶是否有權明確了解他們的(游戲和隱私)數(shù)據(jù)可能的應用方向?
-
法律監(jiān)管的空白和盲區(qū)是否需要填補?在科技快速發(fā)展的背景下,政府是否應該加快制定相關法規(guī)?
結語:警惕消費技術的武器化
從數(shù)字廣告到熱門手游,從真主黨的對講機到自動駕駛汽車,消費技術正在以我們始料未及的方式影響著全球安全格局。熱門手游Pokémon Go的案例說明,消費者數(shù)據(jù)在無意中可能被轉化為軍事資源或國家安全資產(chǎn)。這不僅是科技公司需要審慎面對的問題,更是政府、監(jiān)管機構和公眾必須共同思考的議題。
我們進入了一個“空間計算”逐漸成為操作系統(tǒng)的時代,LLM將與多模態(tài)模型交互,而多模態(tài)模型又將與LGM通信。這些系統(tǒng)協(xié)同工作,將(幫助AI)以任何單一模型都無法實現(xiàn)的方式理解世界。這種互聯(lián)互通是空間計算的未來——感知、理解和作用于物理世界的智能系統(tǒng),也就是“空間智能”。
在人工智能從文本LLM、多模態(tài)模型到“空間智能”邁進的過程中,任何新興消費技術的廣泛應用都需要重新評估和平衡創(chuàng)新與安全的需求。在追求技術進步的同時,確保國家安全和個人隱私不受威脅。