Meta的Muse AI代理：它能做什么，用户应采取哪些预防措施？

新加坡 – 从10月28日起，新加坡用户可从Apple App Store或Google Play Store下载Meta的Muse，使Muse成为首个专为大众消费市场设计的人工智能代理。

Muse在此地的推出紧随其9月8日在美国和加拿大的全球首发，以及10月23日在日本的后续发布。自发布以来仅40天，其下载量已突破1000万次，并在新加坡发布后数小时内成为新加坡Apple App Store上下载量最高的免费应用。

在使用Muse和其他AI助手之前，以下是您需要了解的信息。

1. Muse能做什么，与其他免费AI工具相比表现如何？

用户需要授予Muse访问Gmail、Instagram和Calendar中数据的权限，以便该AI助手代表用户执行任务或发送预约提醒。用户还可以将OpenAI的ChatGPT、Anthropic的Claude和Google的Gemini等其他AI工具连接到Gmail和Google Calendar等日常应用。

《海峡时报》（The Straits Times）的一项测试发现，这些AI工具的免费层级中，此类自主行动的程度各不相同。

起草和发送电子邮件等基本任务可由所有四种AI工具完成。在零售方面，所有四种工具都能推荐在新加坡销售的彩色隐形眼镜列表，但只有Muse能够准确提供特定度数的实时库存并完成购买。

当被要求规划与朋友的夜间活动时，所有四种AI工具都能推荐一个从看电影开始，随后是步行可达的晚餐地点和酒吧的日程安排。但Meta的Muse采取了进一步措施，拉取了多家影院的实时放映时间，查询了实时余座情况，并计算了不同票务选项的团体总价。

Gemini容易出现幻觉，提供了不准确的放映时间和隐形眼镜库存信息。Muse即使在未受指示的情况下也乐于提供帮助。在访问iPhone日历后，Muse能够察觉即将到来的海外旅行，并主动发送提醒，要求完成数字入境卡并申请商务旅行签证。

Muse可免费使用，但有每周使用限制，Meta表示，这足以满足人们的大部分需求。那些希望进行更复杂工作的用户可支付22元至139元不等的订阅计划费用，这些计划提供更多Muse令牌或积分。

但ChatGPT、Claude和Gemini的自主功能大多仅向付费订阅用户开放。

2. Muse等AI代理存在哪些风险？

新加坡用户将能够逐步将Muse连接到新加坡航空（Singapore Airlines）、Shopee、Lazada、Grab、ShopBack、Agoda、Trip.com和Klook等应用。

将Muse连接到这些应用将使代理能够找出商品和机票最具竞争力的价格，订购特定餐点所需的杂货，并根据个人偏好和假期计划预订旅行体验。

为了允许Muse进行支付，用户需要在第三方数字钱包Link by Stripe中保存其卡片详细信息。该钱包将为每次购买生成一个独特的单次使用卡号，以确保真实卡片详细信息保持私密。

AI安全测试公司AIDX Tech的创始人Yifan Jia表示，一种风险是提示注入。这是一种攻击者在AI代理读取的内容（如网站、文档和电子邮件）中嵌入恶意指令的技术。

“攻击者可以发送包含隐藏指令的电子邮件，指示代理检索机密文档并将其转发到外部地址，”Jia说。“负责整理用户收件箱的AI代理可能无法区分合法的用户指令与不可信的内容，从而无意中执行攻击。”

另一种风险是自动化偏差，即用户可能会逐渐停止检查AI代理的操作，就像许多人已停止检查银行对账单上的自动扣款一样。

“在大众市场推广应用方面，提供商负有特别重要的责任，（因为）大多数消费者不太可能理解复杂的安全设置或调整默认权限，”Jia说，并补充说责任在于提供商默认将安全性构建到产品中。

3. 使用AI代理时用户应采取哪些预防措施？

AI安全测试公司Resaro的联合首席执行官April Chin表示，应根据每项任务的要求授予访问外部应用和文档的权限。例如，管理用户日历的代理可能不需要访问用户的电子邮件收件箱。

“一次连接一个应用，并在明确代理允许和不允许执行的活动范围之前，暂缓提供银行和健康数据等敏感数据，”Chin说。

通常，用户可以授予AI助手对外部应用的只读访问权限。这可防止AI助手发送消息、修改文件或进行购买。

Chin还敦促用户定期检查AI助手的活动日志，并撤销不再需要的访问权限。

Jia表示，无法撤销的操作（如支付和发出的消息）应经人工批准，并补充说用户应避免不必要地共享密码、Singpass凭证、NRIC号码或财务信息。

尽管Muse在进行支付或发送电子邮件之前会寻求用户批准，但Jia警告不要授予AI助手额外的系统权限。“当代理请求额外的系统权限时，请保持谨慎，并了解为什么需要这些权限。”

4. 我应该将AI代理连接到我的工作电子邮件和系统吗？

Chin表示，未经管理层明确批准，个人AI代理不应连接到个人的工作电子邮件或文档，并补充说这可能会造成IT和安全团队无法看到或控制的盲点。

Jia表示，遭入侵且与工作账户关联的代理也可能为攻击者提供进入企业系统的直接途径。她补充说，雇主应制定明确的AI使用政策，实施访问控制和监控机制，进行安全评估，并为员工提供经批准的AI工具。

“员工无论是否有政策都会采用这些工具——所以真正的选择是在受控使用和不受控使用之间，”Jia说。