atum@MiniMax % cat blog/ai-security-new-order-opportunities.md

旧秩序破碎之后:AI 冲击下的安全新秩序与从业者的新机会展望

当下的网络安全行业,正处在一个显著的结构性悖论之中。

一方面,在漏洞挖掘、渗透测试、安全运营与逆向工程等传统安全工作中,AI 的能力已经快速接近甚至超过人类,许多安全研究者与一线从业者对自身未来的角色定位感到迷茫;但另一方面,现实世界的安全态势却在多个维度上持续恶化:在 AI 加持下,攻防出现了严重的不对称,防守方无论怎么努力,都无法防御所有攻击。AI Agent 的引入挑战了既有权限体系的治理能力,各类凭证和敏感数据泄露事件频发。

为什么“安全岗位的替代危机”与“组织防线的系统性失守”会同时发生?

核心原因在于:支撑安全行业运转数十年的“旧秩序”,其底层假设已经失效。过去围绕这一稳态所建立的学术研究范式、商业模式、安全产品形态、企业防御策略乃至人才分工结构,都在经历一场深层的洗牌与重估。

当旧的均衡被打破,行业必然会向新的均衡演进。本文将从三个层面展开推演:首先,从安全一线的实践出发,剖析旧秩序的运转机制、失效原因,以及新秩序的核心基石与长期技术方向;其次,引入劳动与分工经济学的分析框架,拆解 AI 作为通用技术如何重塑任务边界,以及从业者应如何完成角色迁移;最后,回到哲学与“人”的尺度,探讨当工具理性被算法大规模替代之后,个体应当依靠什么确立自身的价值与定力。

要理解当下的失序,首先需要厘清过去几十年支撑整个安全体系运转的底层逻辑。

1. 安全行业的底层逻辑:旧秩序是如何运转的?

剥开繁杂的技术概念,安全行业归根结底只提供两类基础价值:安全与可信。

  • 安全: 本质上是围绕特定目标的攻防博弈。进攻方试图突破防线以达成目的(如窃取数据、干扰系统运转或牟取经济利益),防守方则致力于阻止对手,保障自身资产与业务的连续性。
  • 可信: 解决的是底层的确定性问题——如何证明身份的真实性(“你就是你”,即身份认证与授权),以及如何证明数据、代码或系统状态未被篡改(完整性与可验证性)。它是所有安全机制得以运转的信任基石。

这两类价值并不会孤立地停留在技术层面。安全对抗与可信建设始终发生在具体的“组织”(企业与机构)之中。围绕组织内外的真实需求与博弈,过去几十年的安全行业形成了一条上下游分工明确、环环相扣的价值链条。

第一环:基础安全与可信研究(安全实验室、高校)——提供底层原语与技术底座

高校与安全实验室位于价值链上游。它们并非真实攻防的主战场,核心职能是探索技术边界,为下游组织提供安全与可信的基础。为了检验机制的可靠性,上游研究通常以“攻击与防御”二元对立的方式演进,分别支撑上述两类核心价值:

  • 构建“可信”基础: 包括密码学研究(密码设计 vs. 密码分析)、协议安全研究(协议设计 vs. 协议分析与攻击),以及软件保护(代码混淆 vs. 解混淆与逆向)等。这类研究通过持续的安全性验证,为数字系统提供可靠的身份认证、加密通信与执行保护基础。
  • 推进“安全”技术发展: 包括漏洞研究(如漏洞挖掘 vs. 安全设计)、系统安全研究(漏洞利用 Exploit vs. 缓解机制 Mitigation)、恶意代码研究(如免杀 vs. 检测),以及针对新兴技术栈的风险研究(如 Prompt 注入攻击 vs. 防护机制)等。这类研究在机制层面预先推演攻防演化,为实战一线储备通用的基础能力。

第二环:组织中的安全与可信——安全价值落地的主战场

上游产出的技术能力,最终都要进入具体的组织才能兑现价值。由于高价值的数据、资金与业务流程都集中在组织中,真正的攻防对抗也必然围绕组织展开:

  • 一端是以目标为导向的进攻方: 无论是受经济利益驱动的黑灰产与勒索团伙,还是具备战略意图的国家级攻击组织(APT),他们都带着明确的目的——获取敏感数据、劫持业务流程、非法套利,或破坏关键系统的可用性。
  • 另一端是体系化运作的防守方: 面对外部威胁,组织会将上游的基础能力整合为一套标准化的防御范式:安全治理、合规与架构设计(确立基线与可信边界)→ 渗透测试与 SRC 运营(查漏补缺)→ 安全运营(威胁狩猎、事件监测、应急响应与漏洞修复)。

这套逻辑贯穿于组织运转的不同层面:在企业安全中,重点是将这套逻辑应用于企业安全架构、入侵检测与响应;在应用安全中,重点是应用安全设计、漏洞检测与修复;在业务安全中,则是围绕核心业务规则展开遥测设计、黑灰产检测与对抗。

无论具体场景如何变化,组织安全建设的目标始终一致:守住系统与交易的可信边界,并将攻击者的行动成本抬升至其预期收益之上。

第三环:安全厂商的商业逻辑(乙方产品与服务)——将组织防御需求标准化

由于大多数机构难以独立构建完整的安全能力,围绕甲方的这套防御范式,乙方安全厂商逐步演化出了两类成熟的商业模式:产品交付与专家服务。

  • 安全产品(治理、防护与检测): 除身份管理、加密与合规治理类工具外,大量防护与检测产品的核心运转逻辑都建立在“监测—响应”闭环之上:收集日志 → 基于规则或威胁狩猎生成告警与事件 → 安全人员介入应急响应(清理攻击者、修补漏洞)。这类产品大多还会搭配安全服务一起销售,如入侵检测类安全产品通常会搭配应急响应服务。
  • 安全服务(渗透测试与应急响应): 渗透测试的逻辑是由安全专家模拟攻击者,在真实攻击发生前定位系统的薄弱点,以查漏补缺——受限于商业服务的成本结构与授权边界,这一过程通常会谨慎使用,甚至根本不需要动用昂贵的 0-day 漏洞;而当防线被实际突破时,厂商则通过应急响应服务协助客户控制影响并恢复系统。

上游研究提供底层原语,甲方在组织内构建体系以应对真实威胁,乙方则围绕“日志告警驱动的检测产品”与“依赖专家经验的安全服务”完成商业闭环。这三环相互咬合,构成了过去几十年安全行业稳定运转的“旧秩序”。

2. 旧秩序的失效:底层假设瓦解与价值链断裂

这套旧秩序建立在三个隐含的前提之上:漏洞挖掘存在较高的人力和技术门槛,攻击执行存在天然的效率上限,系统的风险与信任边界相对静态。

前沿模型与自动化能力的演进,在短时间内同时打破了这三个前提。0-day 漏洞发掘成本的显著下降与 AI 自动化渗透能力的增强,使原有的攻防成本结构发生逆转,直接导致整条价值链出现断裂:

  • 漏洞挖掘与利用成本的下降导致威胁增加,基于检测与响应的安全流程无法有效运转。 过去高门槛的漏洞挖掘与利用生成被大模型大幅加速,未知风险的暴露速率开始系统性地超越人工修补速度。面对高频、规模化的 AI 攻击与持续涌现的 0-day 漏洞,“收集日志 → 触发告警 → 人工应急修补”的事后链条因固有的响应延迟而难以维系。当下的现实是,只要仍停留在被动响应的旧框架内,即便防守方引入 AI 辅助研判告警,依然难以抵御自动化攻击的突破。而市场上相当比例的安全厂商恰恰依赖检测与响应类产品维持营收,当这一底层防御逻辑失效时,其商业模式必然面临严峻阻力。
  • AI 引入的新型风险本身属于尚无明确解决方案的开放性难题(Open Problems),现有防守手段出现“代际脱节”。 例如,企业引入 AI Agent 后带来的动态权限滥用、各类凭证失控扩散、数据安全边界模糊,以及原有行为基线失效——传统的边界防火墙、WAF 与静态规则引擎在抽象层级上已无法适配这类新型系统。
  • 依赖人工交付的渗透服务面临客户价值重估。 表面上看,系统风险增多似乎会扩大测试服务需求,但深入分析便会发现其中的危机。一方面,传统的点状人工渗透无法穷尽和解决系统性的新型架构风险;另一方面,无论是漏洞挖掘还是渗透测试,技术门槛都在被大模型快速拉平——过去需要资深专家投入大量工时的任务,如今在很大程度上只需通过自然语言输入高层意图,即可由模型端到端自动完成。当客户能够直接借助模型,以极低的边际成本完成常规测试时,依赖专家工时交付渗透服务的商业模式必然面临核心价值的严峻挑战。

3. 新秩序的基石:默认安全、防御者先行与核心研究方向

当“事后监测补救”失去效力、“点状人工渗透”难以构成壁垒时,安全行业的新秩序应当建立在怎样的基石之上?

新秩序的核心,在于两项根本性的范式转移:Security by Default(默认安全与内生可信)与防御者先行(主动发掘风险并前置修复)。

  • Security by Default(默认安全与内生可信): 既然允许系统带着隐患上线、再依靠运行期监测与补丁修补的路径已难以为继,就必须在系统架构、通信协议与权限模型设计之初,将安全与可信确立为“默认属性”。通过确定性的安全架构、最小权限约束以及微隔离机制,减小企业在威胁下的暴露面和爆炸半径。
  • 防御者先行(抢在攻击者之前完成扫描与修复闭环): 既然 AI 大幅降低了漏洞挖掘与渗透测试的执行门槛,防守方就不能继续被动等待告警,而必须抢在攻击者之前行动——利用 AI 对自身代码库、基础设施与业务流进行持续、全量的自动化漏洞扫描、攻击推演与快速修复闭环。只有比攻击者更早发现并消除隐患,防守方才能重新掌握主动权,大幅减少上线后暴露的风险数量,基于检测和响应的安全运营体系才能继续运作。

围绕这两大基石,当前安全领域真正具备长期壁垒、值得持续深耕与研究的问题,主要集中在以下三个方向。

方向一:参与新秩序的建设

既然既有框架已经脱节,最紧迫的课题便是为组织建立适配 AI 时代的新秩序——包括求解一些开放问题,如构建全新的 Agent 治理体系、将 Security by Default 真正推进到企业安全与业务架构之中,以及在组织中落地防御者先行的策略。这里的主要难点并不在技术本身,而是像 FDE 一样,在充满矛盾和张力的组织中将新秩序落地。做这类工作的人既需要有过硬的专业能力,又需要有很强的协调能力,能够平衡各方利益,把事情做成。这个人可以是甲方企业的安全负责人,也可以是乙方企业中类似 AI 公司 FDE 的角色。

方向二:增强 AI for Security 的能力

利用 AI 落实主动扫描修复与新一代安全运营,在以下三个层面上有着截然不同的生命周期与竞争壁垒:

  1. 企业系统落地层(重构 AI-Native 的 SOC、SDLC 与红队): 在企业真实生产环境中跑通“防御者先行”闭环,将自动扫描、风险推演与自动修复深度嵌入研发流程(SDLC)与运营体系(SOC)。这一层与具体的业务、工程体系高度耦合,落地壁垒极高。
  2. 外围工具与中间层(开发漏洞挖掘或渗透类 Harness 及应用封装): 围绕漏洞挖掘、渗透测试等单点场景编排一套外部工作流,本质上是在构建通用型外围工具。我对这一方向的长期价值持谨慎态度:随着基座模型持续迭代,这类旨在弥补当前模型短板的“能力增强型外围框架”(Harness)生命周期往往很短。今天依靠复杂工程编排补齐的能力,往往在模型的下一次版本迭代中就会被原生内化;随着模型直接响应高层意图的能力不断增强,纯工具封装层的独立生存空间将持续受到挤压。
  3. 基座模型层: 这也是我目前从事的研究工作之一,即直接在模型内部提升 AI for Security 的原生推理与攻防能力。相较于外围工作流封装,模型层面的工作更为本质。我个人认为,这一类工作最好由在一线参与过真实攻防工作并理解安全本质的研究者主导推进。

方向三:增强 AI 系统的安全性与可控性

随着基座模型与 Agent 能力的持续增强,如何应对新型安全威胁(如 Prompt 注入)、确保 AI 系统可信且受控,乃至防止高能力系统失控并对人类社会造成危害,是新秩序下必须直面的核心命题。它同样包含三个层面:

  1. 应用治理层: 在企业内部约束 Agent 的权限范围与敏感数据访问边界,最终与组织层面的新一代安全治理体系汇合。
  2. 外部机制层: 通过设计外部沙箱(Sandbox)与访问控制机制,在安全和效率之间取得平衡。
  3. 基座模型层: 直接在模型内部解决安全性与可控性问题。它在技术栈上与 AI for Security 的模型层高度相通,核心重心在于安全对齐(Alignment),以增强模型的内生安全性。