网络安全局（Cyber Security Agency of Singapore，简称CSA）向13个开发网络安全工具的项目拨款560万元

新加坡 – 获得公司数据库访问权限的AI代理可能会失控——未经授权更改或删除记录——而公司可能要等到损害造成后才察觉。

新加坡网络安全公司CloudsineAI正在开发软件，帮助企业在部署此类人工智能能力之前发现此类风险。

该软件可映射每个AI代理能够访问的范围，包括工具、数据库和其他代理，以便安全团队在需要时缩减访问权限。

它还会跟踪代理运行后的操作，并在其违反公司政策时向 所有者发出警报。

CloudsineAI的项目是13个分享约560万元资金的项目之一，这些项目属于 CyberCall 2025，即新加坡网络安全局（CSA）的年度挑战赛，旨在帮助企业开发和测试新的网络安全工具。

数字发展与信息部（Ministry of Digital Development and Information）政务部长Rahayu Mahzam于11月10日在Suntec Convention Centre举行的CyberSG创新日2026（CyberSG Innovation Day 2026）上宣布了获奖者。

她 表示，新加坡在采用新技术时必须 为新的风险做好准备。她说，犯罪分子已经利用AI以更快的速度和更大的规模发起更复杂的攻击，而AI代理带来的安全挑战才刚刚开始被理解。

“今天保护我们的解决方案可能不足以应对明天的挑战。因此，我们需要通过开发新方法和新能力来不断创新，以跟上新兴威胁的步伐，”她说。

组织需要减轻使用AI的风险，这一需求在2026年较早时候就已变得清晰。

7月，一个正接受OpenAI黑客能力测试的AI代理 突破了受限的测试环境，并在托管AI模型和数据集的Hugging Face平台系统中停留了两天多。随后又报道了其他AI失控的案例。

CloudsineAI正与银行和金融业等受监管行业的企业以及政府机构合作，进行概念验证试验。

其创始人兼首席执行官Matthias Chin表示，AI代理的数量可能在几年内超过人类员工。

除了AI安全外，后量子密码学是另一个技术进步可能超越现有防御的领域。

后量子密码学使用新的数学方法来保护数据并验证数字签名，以抵御未来可能破解当前使用的部分方法的量子计算机。

新加坡公司pQCee是另一家获得CSA资助的公司，计划模拟量子攻击，帮助组织发现其数据保护中的弱点，并决定优先升级哪些部分。

另一家获奖者BlackScore正在构建一种工具，帮助机构调查加密货币犯罪。该工具将对相关的数字钱包进行分组，并在案件重叠时向调查人员发出警报，同时保持敏感案件细节的私密性。

Rahayu表示：“我们的目标不仅仅是开发更多技术，而是构建能够帮助新加坡预见和应对新兴网络安全挑战的能力。并非每个想法都会成功。但通过快速学习，并在有效做法的基础上继续发展，我们可以培养出领先于不断演变的威胁所需的能力。”

她表示，新加坡还希望成为寻求在海外竞争的网络安全公司进军海外的跳板。与当地客户合作将使企业有机会证明其产品能够保护关键系统，并建立可带到海外的业绩记录。

CSA还推出了CyberCall 2026，要求企业解决三个实际问题。它正在寻求能够自动检测并响应快速网络入侵的工具、在不干扰航空运营的情况下识别虚假飞机跟踪信号的工具，以及帮助小企业自行处理网络安全问题的工具。

一个单独的开放类别欢迎关于AI安全、利用AI进行网络防御、为量子威胁做准备、保护云服务和联网设备以及保护数据隐私的提案。提案截止日期为2027年1月9日。