2023年11月14日,美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局(CISA)發(fā)布第一版人工智能路線圖,旨在為安全開發(fā)和實(shí)施人工智能的相關(guān)項(xiàng)目提供指導(dǎo)。據(jù)了解,本次發(fā)布的路線圖是拜登政府10月底發(fā)布行政命令以來一系列人工智能治理政策的一部分,為CISA及其上級(jí)機(jī)構(gòu)美國國土安全部(DHS)提出了五個(gè)明確的重點(diǎn)工作方向,并依此制定具體工作計(jì)劃。
-
工作重點(diǎn)1:負(fù)責(zé)任地使用 AI 來支持工作任務(wù)CISA將使用支持人工智能的新一代工具來加強(qiáng)網(wǎng)絡(luò)防御,并支持其關(guān)鍵基礎(chǔ)設(shè)施保護(hù)任務(wù)。CISA 將確保AI技術(shù)的采用能夠負(fù)責(zé)任、合乎道德和安全地使用——符合憲法和所有適用的法律和政策,包括涉及聯(lián)邦采購、隱私、公民權(quán)利和公民自由的法律、政策。
-
工作重點(diǎn)2:評(píng)估和測試 AI 系統(tǒng)CISA將評(píng)估和協(xié)助各種利益相關(guān)者采用基于人工智能的安全設(shè)計(jì)軟件,包括聯(lián)邦政府機(jī)構(gòu)、私營部門公司;以及州、地方、部落和地區(qū)(SLTT)政府組織,同時(shí)將通過制定安全和有彈性的人工智能開發(fā)和實(shí)施指南來建立保障,包括制定生成式人工智能紅隊(duì)的計(jì)劃。
-
工作重點(diǎn)3:保護(hù)關(guān)鍵基礎(chǔ)設(shè)施免受 AI 的惡意使用CISA 將與開發(fā)、測試和評(píng)估 AI 工具的各類機(jī)構(gòu)組織合作,評(píng)估并建議緩解美國國家關(guān)鍵基礎(chǔ)設(shè)施面臨的 AI 威脅。作為這項(xiàng)工作的一部分,CISA將建立專門委員會(huì),促進(jìn)圍繞與 AI 系統(tǒng)相關(guān)的威脅、漏洞和緩解措施的工作協(xié)同溝通。
-
工作重點(diǎn) 4:與國際性組織和機(jī)構(gòu)就關(guān)鍵的 AI 工作進(jìn)行協(xié)作和溝通CISA將為美國國土安全部領(lǐng)導(dǎo)的跨部門工作提供服務(wù),包括為美國政府在網(wǎng)絡(luò)安全和人工智能方面的總體國家戰(zhàn)略制定政策方法,并支持國土安全部在基于人工智能的軟件政策問題上采取整體方法。這還包括與國際合作伙伴協(xié)調(diào),以推進(jìn)全球人工智能安全最佳實(shí)踐和應(yīng)用。
-
工作重點(diǎn) 5:加強(qiáng)建設(shè)具有人工智能專業(yè)知識(shí)的人才隊(duì)伍CISA將繼續(xù)加強(qiáng)教育內(nèi)部員工了解人工智能軟件系統(tǒng)和技術(shù),并將繼續(xù)積極招聘具有人工智能專業(yè)知識(shí)的研究人員和專業(yè)人才。CISA將確保通過內(nèi)部培訓(xùn)讓所有員工了解基于人工智能的軟件應(yīng)用法律、道德、政策以及技術(shù)方面知識(shí)。
國土安全部部長Alejandro N. Mayorkas表示:“DHS在推進(jìn)AI的負(fù)責(zé)任使用方面擔(dān)負(fù)著重要領(lǐng)導(dǎo)角色,而這份人工智能發(fā)展路線圖將是我們未來工作的一個(gè)重要組成部分。美國政府正在嘗試構(gòu)建一個(gè)安全和有彈性的數(shù)字生態(tài)系統(tǒng),促進(jìn)創(chuàng)新和技術(shù)進(jìn)步。路線圖闡明了DHS在如何安全利用AI方面所要采取的步驟。”
CISA局長Jen Easterly表示:“人工智能是一種強(qiáng)大的技術(shù),也帶來了巨大的風(fēng)險(xiǎn)。本次發(fā)布的AI路線圖聚焦于人工智能、網(wǎng)絡(luò)防御和關(guān)鍵基礎(chǔ)設(shè)施安全的交叉點(diǎn),提出了一個(gè)全局性計(jì)劃,有利于促進(jìn)AI技術(shù)的安全利用?!?