全国政协委员、安天集团创始人肖新光：用好大模型这把“双刃剑”

　　根据中国电子报报道，人工智能大模型在推进产业变革和生活赋能的同时，也带来了新的安全风险；在带来安全风险的同时，又成为驱动网络安全技术创新升级的重要手段。全国政协委员、安天集团创始人肖新光在接受《中国电子报》专访时表示，大模型既带来了风险因素，也带来了安全助力。不论是提升网络安全防御的自动化、智能化水平，还是在大型防御体系中更好地实现对数据和信息的判断整合、对深度伪造的识别，大模型都有其应用之道。
　　三种风险因素与三种安全赋能
　　新兴技术在应用过程中，往往具有“双刃剑”的特征。肖新光向《中国电子报》记者指出，新技术往往与风险伴生而来，两者有三种耦合关系。一是新技术会对原有的风险产生加速作用。二是新技术的基础设施会成为攻击目标。三是新技术本身也会带来新型风险。
　　但新技术带来风险的同时，也会成为应对风险的重要手段。肖新光为记者举了互联网和云计算两个例子。互联网带来了安全威胁快速流动的风险，但也为安全能力的分发、安全运营的快速闭环构造了基础条件。云计算带来了针对其体系的攻击会导致整体崩溃的风险，但以云计算为基础，能够重构安全防护的支撑体系，从而构建更具弹性的防御机制。
　　大模型也不例外。
　　“大模型带来了上述三种风险，但也为应对每一种风险提供了相应的赋能。”肖新光说。
　　其一，虽然大模型可以被攻击者利用，提升了攻击的自动化水平和攻击能力，但也在防御侧改善安全运营的协同能力、提升运营的智能化和自动化水平；在赋能侧（安全企业）支撑更高质量的特征工程和知识工程体系，推进更为精准高效的安全能力生产；在监管侧改善研判决策能力。总之，大模型为在安全防护工作中，构建更敏捷高效的响应闭环提供了更好支撑。
　　其二，大模型基础设施一方面会成为网络攻击的目标，另一方面，其本身的建设也是IT基础设施的重构。在构建新型基础设施的过程中，可以将网络安全能力直接融入，成为具有强安全能力的新型基础设施。
　　其三，大模型带来了深度伪造等新型风险，从而使攻击者针对“人+机”系统的攻击点移到人一侧，但也同样可以用于相关攻击的检测。
　　“我们要更好地把人工智能技术和防御能力建设融合起来，加强网络安全企业自身的能力发展和赋能作用，提升监管侧的感知管理能力，提升关键信息基础设施和重要信息系统的运营自动化水平。”肖新光说，“做好这样的基础工作，既能实现大模型对于网络安全本身的助力，也会提升大模型自身的安全性。”
　　对于如何“舞”好新兴技术这把双刃剑，肖新光表示，一定要统筹安全与发展。
　　“新兴技术在发展初期，往往具备基础设施的相关属性。在构建新技术基础设施的过程中，就要融入安全的基本理念和方法框架，使它先天具有安全基因。”肖新光说，“在新技术的发展阶段，要合理分配安全所需的资源。同时，对于新技术的基础设施所面临的攻击风险，要做防御上的充分考量，统筹规划，同步推进，使新技术行稳致远。”
　　推进网络安全产业的分工协作
　　作为一位网络安全领域的“老兵”，肖新光也从产业维度关注着大模型对网络安全的影响。他认为，大模型的出现，有望进一步释放网络安全需求，并推动不同市场主体之间的分工协作。
　　“当前网络安全产业存在竞争过度、协同不足的问题。”肖新光指出。一方面，网络安全深度、系统、刚性的需求还没有充分释放，产业规模还不够大；但另一方面，市场主体已经来到一定的体量。因而相关企业往往不断拓展自己的产品赛道幅宽，在一个相对碎片化的市场上进行全口径的竞争。在他看来，这并不符合现代产业的特点。因为现代产业具有非常鲜明的大工业生产属性，既有基于共性技术和基础设施的分工协同，相互之间又有产品和品牌的竞争。
　　而大模型为产业带来了强有力的共性技术底座。相应的，网络安全领域也需要共性技术平台，形成市场主体间的有效分工协同。
　　“生成式AI和大模型不单是为产业构建了一个相对通用化的基础技术，也改变了产业主体的心态，为我们产业优化合作方式、构建更好的分工基础，带来了很好的机遇。”肖新光说。