Meta 的 AI 助手 Muse 被曝可深度分析用户社交关系，并为每位联系人建立个人档案

AI 总结 • Meta 新款 AI 助手 Muse 已被数百万用户下载，近期有研究人员通过聊天界面提取其内部指令与系统提示词，揭示了该系统的运行逻辑。 • Muse 会为每位联系人单独建立个人档案，每小时运行一次以汇总家人、同事等社交关系信息，内容涵盖事实信息、过往经历及关系维护建议。 • 独立 AI 安全研究员卡兰·乔希指出，Muse 的设计意图是深度了解用户与现实世界中其他人的关系，这种类似“朋友”的介入方式引发了伦理担忧。 • Meta 方面强调 Muse 仅使用公开或用户选择分享的数据，采用专属虚拟机隔离数据，并可在执行操作前请求确认，用户也可随时清除记忆记录。 • 牛津大学学者卡里萨·贝利斯与民主与技术中心专家米兰达·博根认为，此类助手鼓励用户将全部生活数据接入，用户让渡的信息体量远超以往，存在数据急剧膨胀的风险。 【Meta AI助手 Muse 社交分析能力曝光】 IT之家 10 月 5 日消息，Meta 的全新个人助手 Muse 已经迅速走红，数百万用户下载了这款人工智能智能体，把它和自己的银行账户、消息软件或者健康数据进行绑定，交由它代为完成各项事务。 不过就在 Muse 在普通消费者群体当中迅速普及之际，来自应用内部的数据，也让外界得以窥见这款产品整理、向用户展示信息的运行逻辑。 【内部文件公开：Muse 为每位联系人建立个人档案】 据《连线》（WIRED）杂志报道，最近几天，多名研究人员提取出了 Muse 的内部文件，公开了该智能体的运行指令，让人们得以了解这套系统的搭建方式与行为特点。 Meta 方面始终表示，这些文件本就有意对外开放，目的是提升透明度；通过这些文件，人们也能够看到 Muse 如何回应用户的提示词与提问，例如面对高度政治化或者敏感话题时的处理方式。 独立人工智能安全研究员卡兰 · 乔希（Karan Joshi）成功提取了大量 Muse 的指令与系统提示词。他的做法就是直接使用普通聊天界面，让 Muse 复制并输出自身的软件文件。 Muse 的其中一条工作指令显示，该系统会为用户生活当中的每一个联系人单独建立一页档案。 相关流程每小时运行一次，指令写明，系统会汇总整理家人、伴侣、朋友、同事、“协作伙伴”以及用户所“关注”对象的各类信息。 这套设计的基本思路是，Muse 借助自身的“记忆”，也就是结构化文本文件，收集你的社交关系以及身边重要人物的相关资料。 之后它就可以给出建议：例如告诉你如何改善某一段人际关系，或是推荐适合带一位喜爱咖啡的朋友去吃早餐的地点。 【专家担忧：AI 像朋友 ...

该板块内容需要购买后才能完整浏览

立即购买