一、AI安全行业概述

人工智能(AI)已经在全球范围内对各个行业产生了深远影响，但随着其应用的广泛，AI安全问题也逐渐凸显。AI安全旨在保护人工智能系统的数据、算法和基础设施，防止其受到恶意攻击和误用。随着AI在金融、医疗、交通等关键领域的深入应用，AI安全的重要性日益提升。

AI安全是指在人工智能技术的开发、应用和管理过程中，保障人工智能系统的可靠性、可控性、可信赖性和可预测性，防止人工智能系统被恶意攻击、篡改或误用的一系列安全措施和技术。AI安全涉及数据安全、算法安全、系统安全、网络安全等多个方面，旨在确保人工智能系统的安全、可靠和可控。

网络空间安全如何快速适应新形势，更好地服务于国家需求、社会需求，是当前我国网络空间学科发展需要深入研究、科学规划的重大问题。

中国科学院院士尹浩在主题报告中指出，“5G网络与垂直行业业务应用深度融合后，新业务、新技术、新场景的特征带来了新的安全挑战。如部分行业对5G融合应用安全的风险意识不足，安全需求不明确、解决方案碎片化，行业安全需求与5G网络安全供给能力映射关系不清晰等”。对此，他认为需要进一步提升边缘计算、网络切片、网络开放、边界防护等5G融合应用关键技术安全，增强安全技术与应用的创新能力，准确识别垂直行业安全需求，制定定制化的安全服务能力，形成标杆化的安全解决方案推广应用。

二、AI安全市场规模

AI安全常见的分类方式是按照攻击方式分类，可以分为数据安全、算法安全、系统安全和网络安全等多个方面。数据安全涉及数据的保护和隐私保护，算法安全涉及算法的安全性和可靠性，系统安全涉及系统的安全性和可控性，网络安全涉及网络的安全性和可靠性。另一种常见的分类方式是按照攻击目标分类，可以分为数据安全、模型安全、系统安全和行为安全等多个方面。数据安全涉及数据的保护和隐私保护，模型安全涉及模型的安全性和可靠性，系统安全涉及系统的安全性和可控性，行为安全涉及系统的行为安全和可预测性。此外，AI安全还可以按照攻击主体分类，分为内部攻击和外部攻击;按照攻击时间分类，分为预防性安全和应急性安全。

从下游客户分布来看，据 IDC 预测，中国网络安全终端行业客户结构相对稳定，其中政府、 金融和电信行业占比最大;预计到 2026 年，三者合计支出规模将超 192.2 亿美元，占比超 中国网络安全总支出的 60%。我们认为，中国网安行业客户主要分布在政府、金融、电信 等关键领域，该类型客户受政策驱动因素影响相对较大。近年来，国家对于网络安全重视程 度显著提升，行业整体投入有望逐渐加大。

据市场研究报告，全球AI安全市场规模在持续增长。由于数据泄露、网络攻击等安全事件的频发，企业对AI安全的需求逐渐增强。预计未来几年，AI安全市场将以年复合增长率(CAGR)的态势持续扩大。

AI安全行业发展历程可追溯至AI技术的初期探索，起初，人们主要关注AI的性能提升和应用拓展，对安全性问题关注较少。随着深度学习的兴起和AI应用的蓬勃发展，人们开始认识到AI系统面临的安全挑战日益严重。2010年后，随着对抗性攻击和隐私泄露等问题的出现，AI安全逐渐成为学术界和产业界关注的热点。政府和组织开始制定相关政策和法规，推动AI安全的研究和实践。近年来，AI安全行业快速发展，涌现出众多专业公司和研究机构，致力于开发AI安全技术、解决隐私问题、应对对抗性攻击，以确保AI技术的稳健应用和可持续发展。

三、AI安全市场分析

竞争格局：目前，AI安全市场呈现多头竞争的格局，既有大型的科技公司如谷歌、微软、IBM等，也有专业的AI安全公司如Deepfence、Clarifai等。这些公司在数据保护、威胁检测、隐私保护等方面各有千秋。

用户需求：企业用户对AI安全的需求主要集中在数据保护、算法加固和基础设施防护等方面。同时，随着无代码/低代码开发的兴起，用户对简单易用的AI安全工具也提出了需求。

技术趋势：目前，AI安全技术主要包括深度学习模型保护、对抗性攻击与防御、隐私保护等方面。未来，随着技术的进步，AI安全将更加重视预防措施，例如通过无监督学习、迁移学习等技术提高系统的自适应能力

2022年我国AI安全行业市场规模约为633.24亿元，同比增长4.25%。预计未来三年，我国AI安全行业市场规模将保持超过10%的年复合增长率，到2025年市场规模将达到930亿元。

2022年我国AI安全行业头部企业市场份额排名前五的企业分别是：百度、阿里巴巴、腾讯、华为和小米，它们的市场份额分别为18.2%、16.7%、14.8%、13.7%和10.8%。，2023年H1我国网络安全市场头部企业市场份额排名前五的企业分别是：奇安信、北京君正、芯原股份、四维图新和芯片巨头。

从产品的形态来看，网络安全产品可分为硬件、软件、服务三大类。目前，国内网络安全的 主要产品仍以硬件为主。根据 IDC数据显示，2020 年，安全硬件在中国整体网络安全支出 中仍占据主导地位，占比高达47.2%;安全软件支出占比为 20.8%，安全服务支出占比为 32%。

看未来发展趋势，伴随云计算的快速发展，我国网络安全市场的软件化趋势在不断增强。据 IDC 预测，2021-2026 年期间，安全软件市场规模将以 25%的复合增速快速增长，安全软 件子市场中的信息和数据安全软件(Information and Data Security Software)，网络安全软 件(Network Security Software)，安全分析、情报、响应和编排(SAIRO)有望成为高速增长的主要技术领域，其中信息和数据安全软件作为软件最大的子市场，将以 29.9%的五年 CAGR 引领软件市场增长;安全硬件市场规模将保持 17.0%的复合增速;安全服务市场将 保持 21.6%的复合增速，其中托管安全服务(MSS)将达到 34.0%的五年复合增速。据 IDC 预测，2026 年安全软件市场将占国内网络安全市场总支出的 40%。

今年以来，以ChatGPT为代表的人工智能技术迅速发展，使人惊呼“未来已来”。当前，人工智能技术正广泛应用于金融、医疗、交通、制造业等领域，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。同时，也不能忽视其蕴含的潜在风险挑战，很可能在不久的将来深刻改变现有国家安全格局。数据投毒”风险。“数据投毒”是指在人工智能训练数据中投放恶意数据，干扰数据分析模型正常运行的行为。在智能汽车系统中“投毒”，可能导致交通事故;在舆论宣传中“投毒”，一些负面思想可以更加隐蔽地渗透到群众思想观念中。一方面，人工智能可被用在致命性自主武器(LAW)上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势;另一方面，人工智能可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广。

四、AI安全市场挑战

目前，网络安全服务市场主要由安全咨询服务、IT 安全教育与培训服务、托管安全服务、安 全集成服务四个子市场构成。 安全咨询服务：属于专业服务的范畴，主要包括安全战略与规划、合规与审计等多个咨询类 别; IT 安全教育与培训服务：IT 安全教育与培训服务是一套教育活动和过程，主要包括企业级 培训服务、教育认证、高校教育等子市场; 安全托管服务(MSS)：安全托管服务指服务提供商通过安全运营中心(SOC)进行全天候 远程管理或监控的 IT 安全服务。目前，除驻场类的安全服务外，远程托管服务效率更高、 成本更低，倍受中小企业青睐。未来，“驻场+远程”的云地结合模式有望成为主流。2021 年，我国托管安全服务市场规模较 2020 年实现了 61.2%的同比增长;

安全集成服务：安全集成服务指服务提供商通过规划、设计、实施、项目管理四个步骤形成 完整安全解决方案的服务，其涉及系统和应用程序的定制化开发、集成企业打包的安全硬件、 软件服务等; 据 IDC 报告显示，2021 年中国 IT 安全服务市场厂商整体收入约 28.61 亿美元(约合 184.6 亿元人民币)，厂商收入规模较 2020 年同比增长 41.7%。

AI安全面临的主要挑战包括对抗性攻击、数据泄露和模型窃取等。这些挑战需要强大的技术能力去解决。

另外，随着AI应用的普及，相关的法规政策也在不断完善。企业需要关注法规变化，避免在AI应用中触犯法律红线。

由于AI安全是一门交叉学科，人才短缺是行业面临的一大挑战。企业需积极培养和引进跨领域的专业人才。

报告显示，18-25岁的网络安全从业者占比达到31.4%，成为网络安全从业者的中流砥柱。而仅仅在两年前的2021年，这一数据仅为3.2%。三年来，Z世代迅速成长为“网络安全卫士”的主力。

此外，31-40岁的网络安全从业者仍是占比最高的群体，占比达到35.2%，但已远低于2022年的50.8%和2021的59.7%。26-30岁的从业者占比为20.8%，40岁以上占比12.6%。网络安全从业者逐渐年轻化，更多的年轻从业者涌入该行业，为行业的未来发展注入了新鲜的活力。

目前，我国网络安全人才培养加快。截至2023年3月，国内已有80所高校开设网络空间安全专业，132所高校开设信息安全专业，2所高校开设保密技术专业，17所高校开设信息对抗技术专业，28所高校开设网络安全与执法专业。同时，我国各高校正在逐步加强网络安全高层次人才培养力度。

2023年，受AI技术爆发的影响，智能化网络安全应用成为新热点。今年创新沙盒公布的十强企业中，有三家是通过智能技术应用来提升网络安全能力，应用方向分别为智能SOC、智能网络攻防和智能数据治理与隐私安全。

在网络安全行业，AI正在成为重要的辅助工具。报告显示，目前全球有340万网络安全职位正在招聘但未能找到相应人才。同时，报告通过问卷调研调查显示，73%的网络安全从业者每周工作时间超40个小时。其中，33.8%的从业者每周工作41-50小时，22.2%每周工作51-60小时。因工作性质原因，网络安全从业者需要时刻保持警惕，随时应对可能或已经发生的网络安全漏洞和风险，因此工作强度较高，加班情况较为普遍。

五、AI安全未来展望

《中华人民共和国数据安全法》于2021年9月开始实施，该法律规定，开展数据活 动，应当遵守法律、法规、尊重社会公德和伦理，遵守商业道德和职业道德，诚实 守信，旅行数据安全保护义务，承担社会责任，不得危害国家安全、公共利益，不 得损害个人、组织的合法权益。该法律为我国数据安全领域的基础性法律，其完善 了国家数据安全工作体制机制，标志着我国在数据安全领域有法可依，为各行业数 据安全提供监管依据。

数据安全是以数据为中心的安全体系。数据安全主要产品包括：数据安全治理、分类分级、 个人隐私保护、数据库安全、数据脱敏等。同时，《数据安全法》、《个人信息保护法》等法 律的出台也将驱动我国数据安全市场的发展。我们认为，数据安全相关的体系建设与规划、 数据分类分级等咨询服务有望迎来黄金发展期。 数说安全研究院指出，2021 年我国数据安全市场规模约为 53 亿元，同比增长 30.7%。

面对人工智能技术发展带来的新机遇和新挑战，如何应对人工智能风险并把握人工智能发展的战略主动，有效保障国家安全，是全球国家安全治理的重要议题。10月18日，习近平总书记在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中宣布，中方将提出《全球人工智能治理倡议》。《倡议》围绕人工智能发展、安全和治理三个方面系统阐述了人工智能治理的中国方案。我们要保持战略定力，增强战略信心，统筹人工智能发展与安全，稳妥应对各种风险挑战，为人工智能注入更多“安全基因”。　　近年来，随着人工智能技术的快速发展，AI安全问题日益突出，各国政府纷纷出台政策加强AI安全监管。我国政府也高度重视AI安全问题，出台了一系列政策和措施，以保障AI安全和可控。其中，2022年国务院发布的《新一代信息技术产业发展规划(2021-2025年)》明确提出要加强AI安全监管，强化AI安全技术研发和应用，加强AI安全风险防范。此外，工信部、公安部等部门也发布了一系列政策和指导意见，要求加强AI安全管理和监管，推动AI安全技术研发和应用，提升AI安全保障能力。

支持以人工智能技术防范人工智能风险，积极发展用于人工智能治理的相关技术开发与应用，贯彻敏捷治理和多维治理原则，积极构建多方参与的人工智能治理体系。

国家安全机关将强化科技赋能、数字赋能，不断推进国家安全体系和能力现代化，为应对人工智能的风险挑战筑牢国家安全屏障。

未来几年，AI安全市场将持续增长。随着技术的进步和法规的完善，AI安全将更加重视预防措施，实现从被动防御向主动预防的转变。同时，随着AI应用的深入，AI安全的需求将更加广泛和多样化，为行业发展提供更多机遇。企业需抓住机遇，加强技术创新和人才培养，以应对日益严峻的AI安全挑战。

未来，随着信息安全的边界不断延伸，AI安全行业产业需求将持续增长。我国AI安全行业市场规模持续增长，AI安全行业年复合增长率达到14.57%，市场规模从402.5亿元增长至528.4亿元。

AI安全行业研究报告旨在从国家经济和产业发展的战略入手，预测未来业务的市场前景，以帮助客户拨开政策迷雾，寻找行业的投资商机。AI安全行业报告在大量的分析、预测的基础上，研究了行业今后的发展与投资策略，为企业在激烈的市场竞争中洞察先机，根据AI安全行业市场需求及时调整经营策略，为战略投资者选择恰当的投资时机和公司领导层做战略规划提供了准确的AI安全行业市场情报信息及科学的决策依据。