诱饵与安全AI黑客技术助网络防御者对抗AI驱动攻击

新加坡 – 人工智能可能正在帮助黑客把发动网络攻击所需的时间从数天或数周缩短至短短几分钟或几小时。但就目前而言，AI模型的“轻信”使 它们特别容易受骗 – 这已成为网络防御者日益采用的策略。

网络安全公司 Horizon3 首席执行官 Snehal Antani 在最近一次 10 月媒体简报会上表示：“如果你布置好精心设计的欺骗手段，并建立应对和遏制攻击的流程，你就可以让 AI 攻击者完全失效。”

他解释说，许多 领先科技公司的 AI 系统是基于公开的网络安全数据进行训练的，例如漏洞报告和研究。这些数据不如组织内部数据（如网络配置信息）有用。

基于公开数据训练的 AI 倾向于打开诱饵文件，例如虚假登录详情，因为这是它从训练数据中知道和记住的内容。当它这样做时，警报会通知组织，以便它们在攻击触及更重要系统之前尽早采取行动。

Horizon3 于 6 月发布的研究显示，21 个 AI 模型（包括来自 Anthropic 和 OpenAI 的模型）上当受骗的比例为78.5%，而人类黑客的这一比例为 37%。一些 AI 模型，包括前沿模型，上钩比例超过90%。

Antani 表示：“精心布置的欺骗是捕捉 AI 黑客最便宜、最快、最有效的方法。”他补充说，他预计 AI 模型的轻信将成为未来 12 至 24 个月内网络安全研究最热门的领域。

但他表示，能力强的攻击者仍可能识破欺骗，因此他敦促组织也要采取其他控制措施，如打补丁和限制系统访问。

专家还指出，AI 在攻击的每个阶段并非同样有效，这为网络防御者留下了反击威胁的空间。

网络安全公司 Ensign InfoSecurity 测试了 10 个前沿 AI 模型，包括来自 OpenAI 和 Anthropic 的模型。8月发布的研究结果显示，所有 10 个 AI 模型最初都突破了测试系统，Ensign 称这是一项“微不足道的任务”。

但在攻击的后期阶段，这些模型的可靠性较低。至少一半的模型在窃取登录详情和稳定地在系统间移动方面遇到困难。

在网络攻击加速之际，AI辅助攻击的局限性带来了一线希望。

网络安全公司 Fortinet 新加坡和文莱国家主管 Jess Ng 表示，组织在犯罪分子利用系统弱点之前，了解和修复该弱点的时间越来越少。

网络防御者面临前所未有的压力

最近 披露的 PHP 关键漏洞 是一个警钟，PHP 是一种支持全球约 70% 的网站运作的编程语言。这些漏洞是在 AI 的帮助下由网络安全公司发现的，在 10 月 21 日披露后，网络安全公司 Cloudflare 观察到 黑客尝试激增至数百万次。

Horizon3 亚太和日本区副总裁 Gareth Cox 表示：“组织不能假设在关键漏洞公开后还有数周时间来应对。”

虽然尚不清楚 PHP 利用尝试是否使用了 AI，但还有其他 AI 加速攻击的案例。科技巨头微软（Microsoft）于 10 月 1 日发布的一份全球报告称，通过使用 AI，黑客窃取数据、发现登录详情并深入渗透组织计算机系统的时间已从数天缩短至数分钟。

网络安全公司 Palo Alto Networks 于 9 月 2 日表示，它曾处理过一起事件，其中一名人类攻击者使用前沿 AI 在不到 10 小时内自主突破了企业网络 。如果由多名人类攻击者执行，该攻击将需要大约两周时间。

利用 AI，犯罪分子可以将发布的安全漏洞技术细节转化为更简单的术语。Fortinet 的 Ng 表示：“曾经需要经验丰富的专家完成的工作，现在可以在极短的时间内完成，而且由技术知识少得多的人完成。”

例如，AI 使编程知识有限的网络犯罪分子能够创建一个名为 EvilTokens 的平台，向其他黑客收费以开发电子邮件网络钓鱼策略。在微软和其他合作伙伴于9月干扰其运作之前，该平台运行仅六个月，就已影响了包括新加坡在内的 120 个国家的 10,000 个组织。

微软客户安全与信任副总裁兼副总法律顾问 Mike Yeh 表示：“AI 已……降低了入门门槛，使网络犯罪分子更容易运作。”

Palo Alto Networks 行业解决方案总监 Siddharth Deshpande 表示，黑客还可以使用 AI 代理自主将几个不太严重的漏洞拼接在一起，以制造重大攻击。

Deshpande 表示，这是一个问题，因为组织往往优先修复更严重的漏洞，而不是不太严重的漏洞，他补充说，不太严重的漏洞也需要认真对待。

资讯通信媒体发展局（Infocomm Media Development Authority）于 10 月 14 日宣布成立 新的前沿 AI 韧性与安全工作组（Frontier AI Resilience and Security Taskforce），旨在研究这些问题。

攻击速度极快，正给安全专业人员带来前所未有的压力。

Palo Alto Networks 亚太和日本区 Unit 42 副总裁兼管理合伙人 Philippa Cogswell 表示：“在时间极为紧迫、取证数据不完整的情况下被迫作出关键决策，安全专业人员面临创纪录水平的倦怠和决策瘫痪，因为他们匆忙确定发生了什么、哪些内容被访问、哪些内容被窃取，以及对组织和供应链的整体影响。”

用 AI 反击

信息安全专业人士协会（Association of Information Security Professionals）主席 Emil Tan 表示，网络防御现在必须更加主动。组织应预见可能遭受的攻击方式，并采取步骤防止或破坏攻击，他呼吁 在防御中使用 AI 和自动化。

Horizon3 使用 AI 安全地测试组织的网络防御，通过自主黑客攻击在黑客之前发现漏洞，并验证这些漏洞的修复情况。其客户之一是一家拥有 1,000 名员工的新加坡酒店业组织。

对此类工具的需求加速增长，凸显了投资者的兴趣。Horizon3 于 8 月表示，它已筹集 2.5 亿美元（3.2 亿新元）。其投资者包括新加坡经济发展局（Economic Development Board）的投资部门 EDBI。

这笔资金将帮助该公司将其于 8 月开始运营的新加坡办公室转变为其东盟（ASEAN）总部。这是为了满足东南亚组织日益增长的需求，以防御日益借助AI增强的网络攻击。

Horizon3 的 Antani 已经在展望未来：以机器速度自动修复漏洞是其公司正在探索的下一个前沿领域。