新加坡当局呼吁严格限制AI代理的自主权及对个人账户的访问

新加坡 – 在使用个人人工智能代理时，仅连接必要的应用程序，限制对敏感账户的访问，并明确规定在删除或共享文件前需获得许可。

这些预防措施出自新加坡网络安全局 (Cyber Security Agency of Singapore)、政府技术局 (Government Technology Agency) 和资讯通信媒体发展局 (Infocomm Media Development Authority) 于11月6日发布的建议，旨在帮助消费者安全使用个人AI代理。

与主要回答问题的聊天机器人不同，个人AI代理可以代表用户采取行动，例如浏览网站、管理电子邮件和进行预订。

该建议紧随Meta Muse在新加坡的推出，该公司将其宣传为全球首款专为消费者打造的个人AI代理。

该代理可以连接Gmail和Google Calendar等服务，帮助用户管理电子邮件和日程安排，并与购物及旅游平台协同工作。

但这种便利性也带来了隐私和安全风险。

建议指出，根据访问权限的不同，代理可能会泄露敏感信息、出现错误或采取超出用户意图的行动。

一些代理会在后台持续运行，而恶意网站或消息可能会诱骗它们采取有害行动。

“AI代理可以非常有用，但你不能像对待人类助手那样对待它们，给予它们同样的广泛信息访问权和毫无保留的信任，”该建议指出。

“相反，应授予范围狭窄的权限，保留对重大行动的控制权，并了解如何撤销访问权限。”

“你仍需对你如何使用AI代理负责，包括这些代理代表你采取的行动。根据具体情况和适用法律，你可能还需对这些行动承担法律责任。”

该建议概述了五项预防措施，首先是从限制代理可访问的内容开始。

用户应仅连接必要的应用程序和账户，并在可能的情况下限制对其中特定信息的访问。他们可以从较不敏感的材料开始，例如次要电子邮件账户，以了解代理的运作方式。

建议指出，应避免让代理访问银行、政府和医疗保健账户，并在连接工作账户前与雇主确认。

它还警告不要共享信用卡详情或身份验证凭据，包括密码和一次性密码 (OTPs)。这也适用于包含此类信息的文档、电子邮件或消息。

代理若连接到接收OTP的收件箱，可能会读取这些密码。用户可以考虑使用单独的电子邮件账户来接收敏感账户的身份验证消息。

第二步是保留对重要行动的控制权，在可能的情况下从有限或只读权限开始。

代理在采取具有重大后果的行动（如发送消息、删除或共享文件或公开发布）之前应寻求许可。用户应选择一次性批准而非“始终允许”选项，并对高风险交易仔细检查详情。

“不要仅依赖聊天指令来限制代理的行动，因为代理未必能始终如一地遵循这些指令，”该建议指出。

相反，用户应通过应用程序设置（包括代理访问的服务的设置）来设置权限。他们应定期撤销不必要的权限并检查活动记录，因为即使执行类似任务，代理的行为也可能不一致。

第三，用户应了解其信息的使用和存储方式。

直接共享或通过连接账户获取的信息可能会被代理提供商及其合作伙伴处理和存储。用户应检查收集了哪些信息、谁接收了这些信息、保留多长时间以及账户断开连接后会发生什么。

他们还应检查其信息是否用于训练AI模型或个性化广告，并调整可用设置。

“许多个人AI代理具有持久记忆，它们可以根据你的文件和互动创建你和联系人的个人档案，”该建议指出。

用户应删除不准确或他们不希望保留或使用的存储信息。

第四步是防范诈骗者和恶意行为者，他们可能会通过隐藏在网站、电子邮件、日历邀请、文档或图像中的指令来攻击代理。

这些指令可能会操纵代理进行购买、转账或泄露个人数据，而用户并未提出这些请求。

“最好的保护是限制你的代理可以看到或做的事情，”该建议指出。

用户应在代理代表他们浏览时进行监控，限制谁可以向代理发出指令，使用强身份验证，仅从官方来源下载代理，并仅使用受信任的第三方插件。

如果出现问题，他们应停止代理，断开受影响的账户，并留意并非由他们作出的变动，例如付款、设置更改或电子邮件转发规则变动。在删除可疑的记忆、插件或任务之前，他们应保存活动记录，并通知任何受影响的人。

最后，用户应考虑代理可能会遇到的其他人的信息。

电子邮件、消息和文件可能包含有关家人、朋友和同事的详细信息。用户应考虑这些人是否愿意让代理阅读或共享这些信息，并删除关于他人的不必要记忆。

他们应表明电子邮件或消息是由AI代理发送的，并且不要要求它绕过付费墙、登录要求或其他访问限制。

“尊重他人的信息，”该建议指出。“除非必要，否则避免共享关于他人的敏感信息。”