安全研究员 James Kettle 通过实验挑战 AI 的黑客能力，发现尽管 AI 能高效执行漏洞扫描和攻击生成，但真正致命的攻击仍然需要人类专家在关键环节介入，利用专业知识进行决策和调整。这种"人机协同"模式可能成为未来最危险的网络威胁，也为防御方敲响了警钟。

当人们谈论人工智能在网络黑客攻击中的潜力时，脑海中常浮现"全自动攻击机器人"的图景。安全研究员 James Kettle 的最新实验给出了一个更为清醒的结论：AI 固然可以高效完成许多"体操动作"，但决定攻击成败的"大脑"仍然是人。他将这一过程称之为"人机协同"的黑客攻击模式——而这或许才是未来真正危险的方向。

一、把 AI 推向黑客能力的极限

James Kettle 是 PortSwigger 公司研究主管，以发现一系列严重 Web 安全漏洞而闻名。在近期的一次研究中，他尝试系统性地评估 AI 在漏洞利用中的能力边界。实验中，他让 AI 模型扮演攻击者的角色，提供目标环境的描述，并要求其生成可行的攻击路径。

结果显示，AI 确实能够快速生成大量漏洞扫描建议、利用代码片段甚至完整的攻击链，但在面对现实环境中复杂的业务逻辑和模糊上下文时，AI 往往会犯错，甚至产生幻觉，提出不存在的漏洞。

关键在于，这些错误并未使攻击完全失败。当一名经验丰富的安全研究员介入，向 AI 提供纠正和方向性提示后，AI 的表现出现了质的飞跃。Kettle 发现，AI 与人类专业知识结合后，不仅攻击效率大幅提升，而且能够探索出一些以往被忽视的攻击路径。这种"人类在环"（Human-in-the-loop）的模式，能够将攻击的精准度和创造力提升到全新高度。

“AI 与人类专业知识结合时，其威力远超任何单独一方。”——安全研究员 James Kettle

二、为什么"人类在环"仍然必要？

当前 AI 模型的局限性决定了它暂时无法成为完全自主的攻击者。一方面，AI 在训练时接触的漏洞模型大多基于公开数据，而真实系统的安全防御往往依赖私有协议、内部框架和特定配置，这些无法通过公开数据完全掌握。

另一方面，AI 缺乏对攻击后果的"感知"——它不知道哪些操作是越界的，也无法像人类专家那样根据目标反应实时调整策略。

更重要的是，高级攻击往往要求对多个漏洞进行组合利用，例如先通过社会工程学获取凭据，再利用应用层漏洞提升权限，最后横向移动至敏感系统。这需要攻击者具备全局思维和临场应变能力，而当前 AI 模型在处理这种长链路任务时，依然力不从心。因此，攻击者若想实现高影响攻击，仍然需要人类坐镇中央，指挥 AI 完成各项"战术动作"。

三、AI 攻击的行业背景

近年来，AI 在网络攻击领域的应用已从概念验证走向实践。从自动生成钓鱼邮件、编写恶意软件，到辅助侦察与漏洞分析，AI 工具正在显著降低攻击门槛。与此同时，防御方也在积极使用 AI 进行威胁检测和响应。

此次研究提醒我们，AI 攻击的真正威胁不在于 AI 单独作战，而在于它成为人类专家的"放大器"。对于企业安全团队而言，这意味着需要重新思考防御策略：不只是防范 AI 生成的恶意流量，更要警惕 AI 与专业攻击者协同发起的定向攻击。检测此类攻击可能需要将行为分析、威胁情报与人工审计结合起来，而不是单纯依赖自动化规则。

四、编者按

"人类在环"这一概念常被用于 AI 伦理讨论，但在此处，它揭示了 AI 时代网络攻击的底层逻辑。AI 并不会替代黑客，而是赋予他们更强大的工具。未来最危险的攻击者，很可能是那些善于利用 AI 提升技能的专业人士。对安全行业来说，这既是警钟，也是方向。

本文首发于赢政天下 (https://www.winzheng.com)，获取更多深度技术内容与资源，欢迎访问官网。