AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户
- 发表时间：2026-09-07 15:13:12
- 来源：
IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。
而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。
以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。
IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。
不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。
微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。
微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。
当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多
- 2026-09-08 00:55:53电动狂潮突遇悬崖：全球第四车企一夜蒸发1800亿，谁按下急刹车_市场_欧元_公司
- 2026-09-08 01:14:00英伟达大涨近8%！黄仁勋最新发声：加倍、再加倍⋯⋯_人工智能_支出_公司
- 2026-09-06 23:34:24大厂春晚营销激战24小时：豆包AI互动达19亿次，地方台将再上演“贴身肉搏”_节目_用户_生态
- 2026-09-08 11:39:09全球算力建设加速 中国变压器工厂订单排到2027年_我国_一家_广东
- 2026-09-07 05:03:14造车尚未成功，改造机器人？贾跃亭官宣FF人形机器人，新赛道来了_场景_Vehicle_商业化
- 2026-09-08 19:04:12中国AI？美国AI？_字节_***_Kling
- 2026-09-08 06:00:23马斯克母亲发帖用中文送春节祝福：新年快乐！恭喜发财_梅耶·_帖子_美国
- 2026-09-08 08:30:28“2分钟科幻片成本330元”：影视圈被Seedance 2.0 打懵了_***_Mia_镜头
- 2026-09-06 19:58:19月之暗面，被BAT阴影笼罩_巨头_技术_用户
- 2026-09-07 13:25:30不甘寂寞李国庆_贾国龙_***_婚礼
-
他用AI在情趣行业赚钱_李淋_娃娃_模型
为了实现记忆功能，李淋做了一个记忆模型，在用户收到娃娃开机的第一秒，这个娃娃就已经有自己的“人生经历”和由此产生的“性格特点”。 此外，一位对***行业调研过的投资人告诉《财经》，这个行业虽然赚钱，但目前… -
宇宙神秘“小红点”为何那么红？我国科学家提出新解释_星系_黑洞_尘埃
华中科技大学物理学院天文学系吴庆文教授团队创新性地提出了解释“小红点”的物理机制，即星系中心超大质量黑洞吸积盘***辐射波长正好落在可见光到近红外波段，由此说明“小红点”本身就很红，而非星际尘埃的“红化”效应。… -
微软等四巨头狂砸6600亿美元豪赌AI，市值却蒸发9500亿美元_亚马逊_Meta_企业
微软等四巨头狂砸6600亿美元豪赌AI，市值却蒸发9500亿美元_亚马逊_Meta_企业 -
小米是否准备进入美国市场？雷军回应_加州_车牌_同行
2月10日，雷军在微博发文： 前段时间，一辆YU7行驶在美国加州的高速公路上，挂着当地的测试车牌。 很多人问我，小米是不是准备进入美国市场？ 我回答一下：我们目前暂时没有进入美国市场的***。我估计，这辆YU7…
- 三星、苹果、华为部分机型降超2000元！小米、VIVO等暂未跟进_手机_产品_优惠
- 红包大战一声炮响，AI应用拐点已经到来？_中国_用户_模型
- 3万员工+亲儿子全卖！甲骨文血色梭哈，全押OpenAI_Cerner_Ellison_Larry
- 都反水了！ASML、荷兰光刻机供应商相继宣布，外媒：事情闹大了_中国_管制_设备
- 中国发现了大量的稀土，重量约800亿吨，令世界各国羡慕_***_我国_海域
- 全球为何争购中国变压器_电力_产业链_需求
- 李亚鹏宣布停播！直播带货超一亿，谢幕回归嫣然医院_公益_小雷_品牌
- 微信拦路元宝_用户_红包_字节
- 中国车企和特斯拉的下一战，战场已定_机器人_人形_Optimus
- 马云“腊八之约”畅谈AI，阿里狂甩“连炸”_教育_乡村_时代
- 一个月内，马斯克痛失三名华人最强大脑_Grok_Jimmy_模型
- 马云钦定的“平头哥”赶上市潮，真武芯片打前锋_阿里_通云_模型
- 电动车不给力、两场大火！福特汽车2025年业绩暴雷 巨亏81亿美元_盈利_关税_同比增长
- 3万员工+亲儿子全卖！甲骨文血色梭哈，全押OpenAI_Cerner_Ellison_Larry
- 马斯克或重组商业版图：SpaceX拟合并特斯拉或xAI_Grok_评估_卫星
- 146光年外，发现一颗潜在人类宜居星球_地球_研究_恒星
- 关于SpaceX在月球和火星上建城市，马斯克给出时间表_公司_企业_张江平
- 印度AI峰会尴尬一幕：两大AI巨头拒绝握手_OpenAI_山姆·奥尔特曼_达里奥·阿莫迪