進入新世紀以來，隨著云計算和大數據技術的發展，為人工智能提供了超強算力和海量數據，另外，以2006年深度學習模型的提出為標志，人工智能核心算法取得重大突破并不斷優化，與此同時，移動互聯網、物聯網的發展為人工智能技術落地提供了豐富應用場景。

算力、算法、數據和應用場景的共同作用，激發了新一輪人工智能發展浪潮，人工智能技術與產業發展呈現加速態勢。然而凡事有利有弊，隨著人工智能的快速發展，關于人工智能安全的擔憂也開始出現并引起注意。

三個角度定義人工智能安全

由于人工智能可以模擬人類智能，實現對人腦的替代，因此，在每一輪人工智能發展浪潮中，尤其是技術興起時，人們都非常關注人工智能的安全問題和倫理影響。從1942年阿西莫夫提出“機器人三大定律”到2017年霍金、馬斯克參與發布的“阿西洛馬人工智能23原則”，如何促使人工智能更加安全和道德一直是人類長期思考和不斷深化的命題。

當前，隨著人工智能技術快速發展和產業爆發，人工智能安全越發受到關注。一方面，現階段人工智能技術不成熟性導致安全風險，包括算法不可解釋性、數據強依賴性等技術局限性問題，以及人為惡意應用，可能給網絡空間與國家社會帶來安全風險；另一方面，人工智能技術可應用于網絡安全與公共安全領域，感知、預測、預警信息基礎設施和社會經濟運行的重大態勢，主動決策反應，提升網絡防護能力與社會治理能力。

基于以上分析，可以從三個角度來定義人工智能安全：一是降低人工智能不成熟性以及惡意應用給網絡空間和國家社會帶來的安全風險；二是推動人工智能在網絡安全和公共安全領域深度應用；三是構建人工智能安全管理體系，保障人工智能安全穩步發展。

三個維度構建安全體系架構

基于對人工智能安全定義的理解，可以從安全風險、安全應用、安全管理三個維度來構建人工智能安全體系架構。架構中三個維度彼此獨立又相互依存。其中，安全風險是人工智能技術與產業對網絡空間安全與國家社會安全造成的負面影響；安全應用則是探討人工智能技術在網絡信息安全領域和社會公共安全領域中的具體應用方向；安全管理從有效管控人工智能安全風險和積極促進人工智能技術在安全領域應用的角度，構建人工智能安全管理體系。

智能安防市場規模或超千億

隨著我國平安城市、天網工程、雪亮工程建設的不斷推進，安防行業快速發展。“十三五”期間，安防行業正逐步向規?；⒆詣踊?、智能化轉型升級，預計到2020年，安防企業總規?；蚪咏?000億元，年增長率達到10%以上。

與之相應的國內智能安防從2016年開始步入快速發展期，但受限于智能化產品價格偏高、場景應用局限性大等問題，大部分安防企業對人工智能還處在嘗試使用階段，超過90%的市場份額還是傳統安防占據，但隨著以公安、交通、金融為代表的社會治理領域進一步驅動智能安防快速應用，未來市場發展空間巨大。

目前看，國內安防市場競爭格局以人工智能創新型企業和傳統安防巨頭兩類企業為主。其中，基于人工智能的初創企業如云從科技、商湯科技和曠視科技等，依托在計算機視覺、數據深度分析等方面的技術積累，推出智能安防產品，進行產業布局；傳統安防巨頭海康威視、大華股份等近年來不斷加大研發投入，加強技術創新能力，并且對初創企業進行投資收購，逐步提升安防產品智能化水平。

預計到2020年，國內智能安防的市場份額將達到15%，2025年市場份額或將與傳統安防分庭抗禮。

以上數據及分析均來自于前瞻產業研究院《2018-2023年中國人工智能行業市場前瞻與投資戰略規劃分析報告》。

更多深度行業分析盡在【前瞻經濟學人APP】，還可以與500+經濟學家/資深行業研究員交流互動。