黨的二十大報告提出，推進國家安全體系和能力現(xiàn)代化，堅決維護國家安全和社會穩(wěn)定。人工智能是引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，同時也具有明顯的“雙刃劍”特征。一方面，人工智能賦能網(wǎng)絡攻防、開源情報等國家安全相關領域，是筑牢國家安全屏障的有力抓手；另一方面，人工智能因其脆弱性、不穩(wěn)定性、不可解釋性等特點，在與經(jīng)濟社會深度融合應用的過程中，極易引發(fā)國家、社會、企業(yè)和個人等層面的安全風險。在席卷全球的人工智能浪潮中，如何應對人工智能風險、把握發(fā)展戰(zhàn)略主動、有效維護和保障國家安全，是國家治理的重要議題。

　　近年來，國家高度重視人工智能安全發(fā)展，逐步完善相關政策法規(guī)。國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》提出面向2030年我國新一代人工智能發(fā)展的指導思想、戰(zhàn)略目標、重點任務和保障措施，部署構(gòu)筑人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設創(chuàng)新型國家和世界科技強國。面向算法治理，出臺《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等。面向人工智能合成技術(shù)的快速突破，出臺《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等。在全球數(shù)字經(jīng)濟激烈競爭格局下，科學把握風險防范的尺度至關重要。2023年7月24日中共中央政治局會議強調(diào)“促進人工智能安全發(fā)展”，體現(xiàn)了堅持統(tǒng)籌發(fā)展和安全、堅持發(fā)展和安全并重的理念，釋放了以人工智能技術(shù)激發(fā)數(shù)實融合新動能、打造高質(zhì)量發(fā)展新引擎的積極信號。

　　推動人工智能產(chǎn)業(yè)快速發(fā)展，要把保障數(shù)據(jù)安全放在突出位置。

　　第一，數(shù)據(jù)是數(shù)字經(jīng)濟時代的關鍵生產(chǎn)要素，保障數(shù)據(jù)安全是促進人工智能安全發(fā)展的重要基礎。我國2022年數(shù)字經(jīng)濟規(guī)模逾50萬億元，總量穩(wěn)居世界第二，占GDP比重41.5％，數(shù)據(jù)量呈爆發(fā)式增長態(tài)勢。隨著數(shù)據(jù)要素規(guī)模不斷擴大，以人工智能為代表的數(shù)字技術(shù)將實現(xiàn)知識與數(shù)據(jù)雙輪驅(qū)動，數(shù)據(jù)價值得到進一步釋放，生產(chǎn)資源配置、生產(chǎn)運營邏輯以及生產(chǎn)、分配、流通和消費關系等得以重塑，生產(chǎn)方式和生產(chǎn)關系發(fā)生變革，賦能傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級，助力數(shù)字經(jīng)濟快速發(fā)展。同時，也伴隨著數(shù)據(jù)泄露、虛假信息、算法歧視等數(shù)據(jù)安全新問題。只有筑牢數(shù)字安全屏障，才能為人工智能發(fā)展保駕護航。

　　第二，人工智能產(chǎn)業(yè)快速發(fā)展過程中顯現(xiàn)出數(shù)據(jù)安全領域的風險挑戰(zhàn)。當前，人工智能進入快速發(fā)展期，應高度關注并有效應對隨之而來的問題。例如，神經(jīng)網(wǎng)絡具有“黑盒”特點，導致人工智能存在不可解釋性；深度學習對訓練樣本過度依賴，導致學習結(jié)果的不可判定性；神經(jīng)網(wǎng)絡前向推進的不可逆，導致結(jié)果的不可推論性。此外，漏洞、后門等引發(fā)的問題交織疊加，使得人工智能應用系統(tǒng)的數(shù)據(jù)安全問題變得更加復雜。針對IT行業(yè)領導者進行的一項關于ChatGPT等大模型的調(diào)查顯示，安全性是受訪者最關心的問題，71％的受訪者認為生成式人工智能會給企業(yè)的數(shù)據(jù)安全帶來新的風險。為了防止敏感數(shù)據(jù)外流，微軟、亞馬遜等科技公司已相繼限制或禁止其員工使用生成式人工智能工具?？梢?，全面加強人工智能數(shù)據(jù)安全保障體系和能力建設已成為應對新形勢新挑戰(zhàn)的必然之舉。

　　人工智能時代的數(shù)字安全威脅到底有多大？一方面，人工智能系統(tǒng)自身面臨多維度安全風險。技術(shù)內(nèi)生風險和系統(tǒng)衍生風險交織疊加，使得人工智能時代的安全問題異常復雜。數(shù)據(jù)安全風險方面，人工智能依托海量數(shù)據(jù)發(fā)展，有敏感信息泄露風險，且人工智能平臺收集的原始數(shù)據(jù)與衍生數(shù)據(jù)的歸屬權(quán)、控制權(quán)和使用權(quán)目前在法律上尚難界定；算法模型安全方面，安全風險貫穿數(shù)據(jù)采集、預處理、模型訓練、模型微調(diào)、模型部署應用等人工智能模型構(gòu)建的全生命周期；外部攻擊安全方面，數(shù)據(jù)投毒、模型后門、對抗樣本、數(shù)據(jù)泄露、模型竊取、軟件漏洞等安全隱患屢見不鮮。

　　另一方面，人工智能技術(shù)濫用帶來數(shù)字安全威脅。當前，生成式人工智能的發(fā)展標志著人工智能正在從專用智能邁向通用智能，進入了全新發(fā)展階段。大部分傳統(tǒng)人工智能模型的安全風險仍然存在，同時生成式人工智能也有一些特有的問題：技術(shù)軟肋難以避免，易培育假信息“溫床”；使用方式簡單便捷，易形成失泄密“陷阱”；新興技術(shù)尚難監(jiān)管，易成為信息戰(zhàn)“武器”。

　　因此，亟需加強人工智能發(fā)展的潛在風險研判和防范，確保人工智能安全、可靠、可控。

　　（來源：經(jīng)濟日報；作者：單志廣 國家信息中心信息化和產(chǎn)業(yè)發(fā)展部主任、國家大數(shù)據(jù)發(fā)展專家咨詢委員會秘書長）