【編者按】3月27日，以“人工智能+安全：數智驅動轉型 安全賦能未來”為主題的2025BCS政企數字化轉型及數據安全專題研討會在湖北武漢舉行。會上，中國互聯網協會專家咨詢委員會常務副主任、工業和信息化部原總工程師趙志國圍繞“人工智能+”時代數智轉型與安全保障做了主題演講。趙志國提出，要堅持“四個面向”的戰略定位，重點處理好內生安全和應用安全、國際安全和國內安全、有為政府與有效市場“三對關系”。針對當前挑戰，趙志國建議：夯實AI安全技術底座，完善數據安全管理制度，加快安全產業創新發展，積極參與國際治理。
以下為演講全文。
統籌推進“人工智能+”時代的數智轉型與安全治理
趙志國
當今世界正處于由智能技術驅動的歷史性變革浪潮中，人工智能作為引領新一輪科技革命和產業變革的戰略性力量，正在深刻重構全球創新版圖與發展范式。黨中央、國務院高度重視人工智能發展，強調加快關鍵核心技術攻關，開展“人工智能+”行動，促進人工智能與實體經濟深度融合，推動人工智能健康有序發展。深入貫徹落實黨中央、國務院關于推動人工智能發展的決策部署，必須深刻認識人工智能發展和安全一體兩翼、辯證統一的關系，統籌兼顧、同步推進，以技術創新驅動數智化轉型，以安全保障筑牢未來發展根基。
聚焦“四個面向”，明確人工智能發展的戰略定位
2020年9月11日，習近平總書記主持召開科學家座談會，提出新時代我國科技事業發展要堅持“四個面向”的戰略導向，面向世界科技前沿、面向經濟主戰場、面向國家重大需求、面向人民生命健康，不斷向科學技術廣度和深度進軍，為我國科技事業發展擘畫了清晰的路徑。人工智能是新興科技重大革新的成果，是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的“頭雁”效應。推動人工智能發展要錨定“四個面向”的戰略定位，搶抓歷史性機遇，構筑我國競爭優勢。
面向世界科技前沿，打造人工智能新高地。從科技發展規律看，沒有面向世界科技前沿的前瞻性基礎研究、引領性原創成果的重大突破，就很難產生開創性、顛覆性成果。當前，人工智能被視為科技創新的下一個“超級風口”，受到世界各國的高度重視。誰占據了人工智能的研發優勢，誰就能引導經濟和其他領域的戰略優勢。例如，ChatGPT全面加速了大模型的技術創新和產業應用步伐，進一步鞏固了美國在相關領域全球競爭的領先地位；DeepSeek的開源策略吸引大量開發者參與優化，不僅促進了模型擴散和廣泛應用，更通過社區貢獻強化中國在AI倫理等領域的規則制定權。總體來看，我國人工智能發展成績斐然，智能芯片、通用大模型、工業機器人等創新成果不斷涌現，特別是在推理、數學等專項能力上，國內模型的追趕速度更為迅猛。但同時也要清醒認識到，我國基礎模型技術仍處于跟隨狀態，對于原創技術、顛覆性路線的布局比較薄弱。我們必須錨定全球人工智能技術突破關鍵期，多維發力搶占制高點，抓住未來3-5年，讓大模型算法、智能芯片研發、人機協同生態構建等核心領域實現從“跟跑”到“領跑”的跨越，推動我國實現從“應用創新高地”到“基礎創新策源地”的躍升，為新一輪科技革命貢獻“東方智慧”。
面向經濟主戰場，激活產業升級新引擎。我國經濟已由高速增長階段轉向高質量發展階段，正處于轉變發展方式、優化經濟結構、轉換增長動力的攻關期，迫切需要新一代人工智能等重大創新添薪續力。人工智能具備典型通用技術特征，是培育和發展新質生產力的重要引擎。從數字產業化來看，人工智能發展有助于培育數字產業新發展勢頭。工業和信息化部有關數據顯示，我國人工智能核心產業鏈上企業超4700家，覆蓋從基礎層、框架層、模型層到應用層的完整產業體系；專精特新“小巨人”企業中，屬于人工智能產業領域的數量占比約為8%。從產業數字化來看，大模型產業為數實融合提供新動能。尤其在新型工業化領域，人工智能、5G與工業互聯網融合，全方位、深層次賦能“智改數轉網聯”，已培育421家國家智能制造示范工廠，“5G+工業互聯網”項目數超過1.7萬個。從數據價值化來看，人工智能與數據緊密相連、相互支撐，大模型通過挖掘與分析海量數據中更深層次的模式和關聯，激活“沉睡數據”的經濟價值。但同時也要看到，人工智能賦能經濟創新還存在一些堵點難點，比如與各行業融合仍處于早期階段，應用生態較為單一，供需對接存在卡點等，需要進一步加強創新鏈和產業鏈對接，以科技創新引領產業創新，促進新舊動能平穩接續轉換，加快發展新質生產力。
面向國家重大需求，筑牢安全發展新屏障。科技興則民族興，科技強則國家強。人工智能作為第四次工業革命的核心驅動力，其影響不僅限于經濟效率的提升，更通過技術路徑的分化、安全邊界的重構、國際規則的爭奪，重塑全球秩序。2022年底，隨著OpenAI引爆AIGC浪潮，美國針對中國高科技的遏制更加聚集在AI領域，尤其是AI芯片的供給上。2025年1月，美國國防部、國會等部門等相繼禁止在政府官方設備上使用DeepSeek，美國政府還調查DeepSeek是否通過第三國繞過美國的出口限制，采購對華禁售的英偉達GPU。此外，人工智能技術快速突破，也對網絡空間安全帶來前所未有的挑戰，大模型加持下網絡攻擊手段不斷升級，數據泄露與投毒、大模型“幻覺”等新型脆弱性凸顯，AI嵌入更多關鍵核心領域威脅基礎設施底層安全，迫切需要我們加快芯片、算法等“卡脖子”突破，努力實現關鍵核心技術自主可控，構建適配我國經濟社會發展的大模型安全基座，確保人工智能健康有序發展。
面向人民生命健康，構建美好生活新圖景。科技的本質是以人為本，提升人的生活品質，讓人的生活更美好。人工智能的發展要堅持人民至上、生命至上，不斷提升人民生活品質，滿足人民日益增長的美好生活需要。堅持通過發展人工智能提高人民的幸福感，加強人工智能同醫療診斷、智能養老設備等民生需要結合，從保障和改善民生、為人民創造美好生活的需要出發，推動人工智能在人們日常工作、學習、生活中的深度運用，創造更加智能的工作方式和生活方式。堅持通過發展人工智能提高人民的獲得感，利用智能化手段促進產業技術變革和產業模式轉變，緩解不同地方經濟發展不平衡不充分的問題；通過人工智能技術協助消除獲取學習機會和資源的障礙，彌合數字鴻溝。堅持通過發展人工智能提高人民的安全感，將人工智能廣泛應用于社會治理和公共服務，提升對公共安全事件和自然災害的應急響應能力；利用人工智能賦能反詐、騷擾電話治理等能力提升，保障人民群眾生命財產安全。
堅持辯證思維，統籌人工智能安全有序發展的三對關系
人工智能的發展和應用是把“雙刃劍”，技術躍遷釋放價值紅利的同時也帶來多方面風險挑戰，并且，隨著技術持續突破、產品應用爆發式增長，安全風險向多主體多環節蔓延，治理復雜性不斷提升，需要統籌處理好三對關系，推動人工智能安全有序發展。
一、 統籌內生安全和應用安全，推動技術硬實力與制度軟約束協同治理
回顧人類科技發展史，我們可以清晰地認識到，一種技術從原始創新到產業化應用必然伴生著安全風險問題。人工智能作為一種典型的通用目的技術，既有其自身技術脆弱性導致的內生安全問題，也有其使用場景復雜性帶來的應用安全問題，兩者相互聯系、彼此作用。
內生安全是風險的源頭，治理依賴自身技術突破。現階段人工智能技術創新仍然是以數據、算法、算力三要素的共同驅動，數據的依賴性、算法的復雜性、算力的集中性等內在屬性，導致了數據投毒、算法黑箱、模型幻覺等特有安全風險。比如，很多大模型在數字比大小時存在幻覺，認為3.9小于3.11。智能網聯汽車使用的人工智能算法易遭受對抗樣本攻擊，可能導致自動駕駛誤判或失控。這些內生安全問題需要突破算法可解釋性、系統自主可控等關鍵技術，才能實現相關風險消解。
應用場景是風險的場域，治理需要外部制度設計。人工智能應用安全往往是人工智能技術在應用于經濟社會各領域的過程中，因不當使用甚至惡意利用而導致內在風險問題放大、泛化。例如，今年兩會熱議的深度合成技術，雖然技術設計本身是中立的，但是被惡意應用于生成的高仿真音視頻、仿冒網站及智能詐騙程序，危害廣大人民群眾切身利益。根據奇安信的報告，僅2023年基于AI的深度偽造欺詐激增了30倍，基于AI的釣魚郵件增長了10倍。人工智能應用安全風險無法單純通過技術手段化解，更有賴于治理制度設計，進一步劃定應用邊界、明確權責關系、構建制衡機制。2025年3月，網信、工信、公安和廣電等部門聯合出臺的《人工智能生成合成內容標識辦法》，通過賦予相關服務提供者內容標識義務，實現信息內容的全流程追蹤，既保障了技術應用活力，又防范虛假信息傳播風險。
兼顧內生安全突破與應用安全規范，實現動態均衡。技術硬實力是內生安全治理的“手術刀”，可以通過技術突破直接修復系統缺陷，從根源上壓縮風險發生概率，但無法解決價值觀沖突、社會公平分配等非技術性風險。制度軟約束是應用安全治理的“防護網”，可以通過規則設計約束技術應用邊界，阻斷風險傳導鏈條，但依賴事后追責難以應對技術快速迭代。只有政府、企業與社會形成合力，推動技術硬實力與制度軟約束協同治理，才能實現技術進步與風險防控的“動態均衡態”。
二、 統籌國際安全和國內安全，推動開放合作與科技自立自強協同共進
安全是開放的而不是封閉的，人工智能安全發展既是國內治理課題，更是國際戰略博弈焦點。統籌國際和國內，立足開放環境，推動高水平科技自立自強，支撐構建人工智能領域穩固、強大的國際話語權，方可打造國際國內相互促進的安全發展新格局。
加強開放合作，在融入全球中筑牢安全根基。開放合作是提升人工智能技術創新力和國際話語權的必由之路。融入全球創新網絡，全方位、多層次吸引全球人才、技術、資金等創新資源，對突破技術封鎖有著不可替代的作用。面對國際AI治理“碎片化”態勢，我國積極支持聯合國框架下的國際人工智能治理，提高發展中國家參與度，在全球人工智能安全有序發展中發出中國聲音。
堅持自主創新，強化安全發展內在底座。自主創新是安全發展的根本保障，聚焦核心算法、芯片架構等關鍵領域攻堅突破，是防范技術斷供、數據主權風險的必然選擇。例如，在核心算法方面，面對國外大模型的迅速迭代，國內科技企業和研究機構抓緊自主研發，通義千問等國產大模型的快速發展增強了我國在自然語言處理、計算機視覺等領域的自主創新能力，提高我國人工智能發展的自主可控性。
以國內安全促國際合作，以開放合作促國內發展。人工智能安全發展需統籌開放合作與自主創新。一方面，以開放合作推動自主創新，在深度參與國際技術競合與治理規則制定中，構建技術發展與治理的“中國方案”，實現從跟隨者向引領者的躍升。另一方面，以自主創新支撐開放合作深化，聚焦我國數字基礎設施、垂直領域技術應用等方向，構筑“非對稱優勢”，以技術產業實力贏得國際話語權。
三、 統籌有為政府與有效市場，推動創新動能和安全能力同步提升
當今世界，國際科技競爭正日益演化為創新體系競爭，哪種創新體系能夠從根本上解決創新資源和力量分散、重復、低效的問題，就更能適應現代科技攻關需要。政府和市場是推動人工智能安全發展的“兩只手”，堅持有為政府和有效市場雙輪驅動，統籌創新資源集中攻堅，才能搶占科技競爭制高點。
發揮有為政府作用，強化戰略制度引領。人工智能發展涉及全局性、基礎性、前沿性技術變革，風險的復雜性、外溢性突出，需要政府承擔起統籌規劃、規則制定、風險防控的重要責任。我國政府一直高度重視人工智能發展的引導和規劃。2017年，國務院印發《新一代人工智能發展規劃》提出加強前瞻預防與約束引導，最大限度降低風險，確保人工智能安全、可靠、可控發展。2023年7月，國家網信辦聯合多部門印發《生成式人工智能服務管理暫行辦法》，對大模型風險治理提出要求。工信部在數據安全、人工智能產業綜合標準化體系建設等方面也出臺了多項政策規范，引導人工智能安全規范發展。
激發有效市場活力，推動技術創新和產業升級。市場是人工智能應用的主陣地，企業是技術突破的核心主體。市場需求為企業大膽探索AI應用場景提供動力，推動人工智能賦能各行各業轉型升級，助力科技創新和產業創新融合發展。例如，工業互聯網與AI大模型深度融合，引發從規劃設計到研發生產的產業全鏈條變革。我國AI企業已經成為技術創新的主力軍，以DeepSeek為代表的國內AI企業，憑借技術突破和商業模式創新，提升了我國在全球AI競爭中的地位。
發揮我國新型舉國體制優勢，推動有為政府和有效市場結合。新型舉國體制之“新”體現在政府和市場的有機結合，既繼承“集中力量辦大事”的傳統優勢，又注重發揮市場配置技術資源的決定性作用。進入新時代，新型舉國體制推動我國在載人航天、超級計算機、量子信息等領域取得重大創新成果。人工智能安全發展是當前國家重大科技任務之一，部分關鍵核心技術仍受制于人，處在不進則退的關鍵階段。要用好新型舉國體制這一法寶，面向人工智能安全發展的重大需求，深化政府和市場協同發力，凝聚產學研用各方資源力量，共同攻克“卡脖子”的技術難題，走出一條符合國情、引領趨勢的人工智能發展道路。
凝聚多方合力，把握人工智能安全發展的重點方向
習近平總書記強調，要做好風險防范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性。搶抓人工智能發展機遇，不僅要讓技術“跑得更快”，更要讓安全之盾“筑得更牢”，推動實現底座安全、數據安全、產業鏈供應鏈安全，積極貢獻人工智能安全發展中國方案。
夯實人工智能安全底座，筑牢安全可信發展根基。構建穩固的技術底座、模型底座和基礎設施底座，是確保人工智能安全發展的基礎。一是筑牢技術底座。聚焦深度學習框架、智能芯片等關鍵領域，集中突破可信算法、魯棒性增強等核心技術，加快自主創新步伐。構建防范對抗攻擊的防御體系，提高網絡安全防御的主動性和精準性。二是筑牢模型底座。構建通用與專用相結合的模型體系，針對不同安全場景需求，開發高適應性、高準確性的模型。建立覆蓋訓練、部署、應用的全流程安全評估與優化機制，加強模型的安全審計和驗證工作，確保人工模型的穩定性和可靠性。三是筑牢基礎設施底座。加快構建安全可靠、綠色高效的智能算力基礎設施，建設安全可控的算力調度平臺，強化芯片、服務器等底層硬件的自主保障能力，持續升級智能化安全監測預警系統、應急響應系統等。
完善數據安全體系，強化全鏈條數據安全保障。數據是人工智能的“血液”，隨著DeepSeek等大模型平權浪潮的興起，人工智能從“百模大戰”走向“應用戰場”，確保數據安全是人工智能安全發展的重中之重。一是完善數據安全管理制度。以數據安全法律政策為基礎，結合人工智能在重點行業領域應用情況，制定人工智能數據安全保護政策規范和標準指引，細化數據安全保護要求。二是創新數據流通安全機制。推動隱私計算、區塊鏈技術在數據要素市場的深度應用，構建“數據可用不可見”的新型交易范式，在保障權屬清晰的前提下推動數據要素安全流通。三是構建數據全生命周期防護體系。建立覆蓋采集、存儲、使用的動態監測體系，提升數據跨境流動風險預警能力，構筑防泄露、防篡改、防濫用的安全屏障。
加速發展安全產業，保障產業鏈供應鏈安全穩定。人工智能安全發展既依賴于穩定高效的產業鏈供應鏈支撐，又對提升產業鏈供應鏈韌性具有重要作用，必須加快構建自主可控、穩固可靠的安全產業體系。一是加強關鍵核心安全技術的攻關。鼓勵企業和科研機構聚焦智能算法漏洞檢測、深度偽造防御、隱私計算等“卡脖子”領域，加大研發投入力度，培育具有自主知識產權和核心競爭力的安全產品與解決方案。二是加強產業鏈上下游協同合作。建設培育安全產業園區，匯聚不同企業在技術研發、成果轉化、應用落地等方面的集群優勢，打造“安全技術研發-產品孵化-場景應用”全鏈條生態，提升產業整體競爭力。三是強化產業安全保障，建立完善的安全產業標準體系，加強對安全產品的質量檢測與認證，確保產品符合相關安全規范和標準。四是加快安全人才培養，設立“AI+安全”專項人才計劃，通過政策傾斜與資金支持，吸引全球頂尖人才參與關鍵領域技術攻堅。
積極參與國際治理，貢獻人工智能安全發展中國方案。人工智能治理攸關全人類命運，是世界各國面臨的共同課題，應積極參與和引領國際合作治理。一是推動建立人工智能能力建設平臺。落實聯合國未來峰會成果，深化人工智能產供鏈國際合作，開展基礎設施建設、研發和應用合作，協助發展中國家人才培養和教育培訓，促進人工智能技術公平獲取和安全使用。二是協助發展中國家加快人工智能治理能力建設。推動安全技術開源開放共享，積極分享在人工智能測試、評估、認證與監管方面的政策與技術實踐。通過國際標準化組織（ISO）、國際電工委員會（IEC）和國際電信聯盟（ITU）等平臺，圍繞關鍵術語等開展標準研究，共同探索國際互認的測試評估方法。三是推進公平普惠發展。推動人工智能數據語料庫平等多樣，消除種族主義、歧視和其他形式的算法偏見，促進、保護和保全語言和文明多樣性。
（作者系中國互聯網協會專家咨詢委員會常務副主任、工業和信息化部原總工程師）