当前位置：万象系统之家 > IT快讯 > 详细页面

微软提醒 Win11 用户：AI 智能体可能出现 “幻觉” 现象

编辑：lihong 2025-12-01 16:35:12 来源于：ithome

【CAD/动画/媒体制作】Windows11 25H2 64位专业工作站版

大小：5.03 GB类别：Windows 11系统

　　万象系统之家 12 月 1 日最新消息，微软宣布 Win11 系统将迎来一次“agentic”（智能体式）大更新，但微软近日在官方发布博文称，Win11 系统的 AI 智能体功能可能出现“幻觉”现象。

　　据报道，用户在安装 Win11 Build 26220.7262 后，可以在“设置 > 系统 > AI Components”中看到一个新开关“实验性智能体功能”，启用后系统会弹出一个警告窗口，提醒用户相关功能仍处于实验阶段，可能会对电脑产生影响。

　　值得注意的是，目前黑客已经基于自主式智能体（autonomous agents）研发新型攻击方式，其中最为人所知的便是间接提示注入，不怀好意的人会将恶意指令隐藏在普通文档或网页元素中，让智能体遵循这些隐藏指令而非原本的任务，最终导致电脑被装上恶意软件，或是泄露支付信息。

　　不过微软表示，Win11 的智能体将被运行在一个专属工作区内，每个智能体都有一个限定范围、可审计的账户，并且所有操作记录都会被记录以供审查，具体工作原理类似沙盒，但智能体被设计可持续存在，并且能跨对话执行文件操作，这无疑扩大了潜在攻击面。

　　默认情况下，智能体会被授予 Downloads、Desktop、Documents 等用户文件夹的读写权限，虽然这些文件夹并非系统要害，但仍然有可攻击的漏洞，微软还是需要实施更强的安全措施才能避免黑客攻击。

　　万象系统之家注：AI 领域的“幻觉”指的是 AI 大语言模型生成出看起来合理但实际虚假或不准确的信息，这种现象之所以被称为“幻觉”，是因为模型会不知不觉地输出与事实不符的内容，产生原因多种多样，包括训练数据不足、有偏差或不完整、上下文理解有限、过度拟合等。

　　以上是万象系统之家提供的最新资讯，感谢您的阅读，更多精彩内容请关注万象系统之家官网。

标签微软

共0条

验证码

没有更多评论了

评论就这些咯，让大家也知道你的独特见解

以上留言仅代表用户个人观点，不代表万象系统之家立场