关闭广告

研究显示 Gemini 易被隐蔽指令操控,谷歌无意修复

IT之家2025-10-09 12:00:0276人阅读

IT之家 10 月 9 日消息,谷歌一贯重视用户安全,但该公司似乎并不急于修复一项使旗下 AI 模型 Gemini 面临严重网络威胁的安全漏洞。


据科技媒体 Bleeping Computer 报道,安全研究员维克托・马科波洛斯(Viktor Markopoulos)对当前主流的多个大语言模型(LLM)进行了测试,检验其对“ASCII 走私攻击”(ASCII smuggling)的防御能力。结果显示,谷歌的 Gemini、DeepSeek 以及马斯克旗下的 Grok 均易受此类攻击影响;而 Anthropic 的 Claude、OpenAI 的 ChatGPT 以及微软的 Copilot 则具备相应防护机制,表现出更高的安全性。

据IT之家了解,所谓“ASCII 走私攻击”,是一种通过在文本中隐藏指令来操控 AI 行为的网络攻击手段。例如,攻击者可在电子邮件中以最小字号插入一段肉眼难以察觉的恶意提示词(prompt),普通用户几乎无法察觉。一旦受害者要求 Gemini 等 AI 工具对该邮件内容进行总结或分析,AI 便会同时读取并执行这段隐蔽指令。

此类攻击存在重大安全隐患。例如,隐藏指令可能指示 AI 搜索用户的邮箱内容以窃取敏感信息,或自动发送联系人详情等。尤其值得注意的是,Gemini 现已与 Google Workspace 深度集成,能够访问用户的邮件、日历和文档等核心数据,因此该漏洞带来的潜在风险被进一步放大。

据报道,马科波洛斯在发现该问题后已向谷歌提交了详细报告,并提供了一个演示案例:他向 Gemini 输入一段看似正常的文本,其中嵌入了不可见的指令,结果成功诱导 AI 推荐了一个恶意网站,该网站声称售卖质量好且打折的手机。

然而,谷歌方面回应称,此问题不属于安全漏洞(security bug),而应归类为“社会工程学手段”(social engineering tactic)。换言之,公司认为责任在于终端用户自身,而非系统设计缺陷。

从这一回应来看,谷歌似乎没有计划修复 Gemini 的这一安全问题。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

国企5000万采购款被挪用立案近2年仍无定论 警方回应

澎湃新闻 浏览 5245 07-23

零跑又一全新车型上市!

电动知家 浏览 8498 07-25

世界人工智能大会发布中国预警方案"妈祖"!

看看新闻Knews 浏览 367 07-27

货车高速漏油被扣车罚11万才能开走 司机:车才值几万

北青网-北京青年报 浏览 136 08-23

外交部回应"印度正寻求以更便捷的方式获取中国稀土"

环球网资讯 浏览 7314 08-16

京东:外卖0元购是严重内卷,属恶性竞争

界面新闻 浏览 3359 07-18

伊姐周日热推:电视剧《御赐小仵作2》;电视剧《偶像疯子》......

伊周潮流 浏览 10 01-12

曾毅手表事件休整后首次露面,发布新团队全家福

迷迭香的记忆a 浏览 22 12-23

拉斯帕多里告别信:那不勒斯是第二个家,两夺意甲无比自豪

懂球帝 浏览 4051 08-12

波尔图官方哀悼科斯塔:你是领袖、队长、楷模,永别了

直播吧 浏览 1540 08-06

“晴格格”的豪门梦碎!​真相很残忍

大猫研究所Pro 浏览 83 08-27

AI智库“智汇”珠海,助力大湾区学术与产业的“双向奔赴”

南方都市报 浏览 41 11-03

哪吒汽车公开招募意向投资人,报名需缴纳5000万元保证金

红星资本局 浏览 3834 08-05

高市早苗求见特朗普要聊聊中国 美国没憋住开口"帮腔"

观察者网 浏览 23 12-11

美防长在香会大肆渲染中国威胁 中方回应

央视新闻客户端 浏览 7617 06-01

倪萍又说大实话,感叹李施嬅爱情里像“当妈”

疯说时尚 浏览 37 11-02

过渡期临近,银行业首席合规官纷纷“就位”

21金融圈 浏览 14 01-07

澳方称中方军机在南海对澳军机释放干扰弹 外交部回应

澎湃新闻 浏览 34 10-21

佩通坦含泪谴责柬埔寨向平民区开火:军方已做好准备

新京报 浏览 4896 07-25

福建发布人工智能扶持新政:拟对企业年度算力购买最高补助50%

观察者网 浏览 44 11-08

穿百元国货却悄悄捐钱,孙颖莎的“隐形慈善”,比金牌更圈粉!

娱乐白名单 浏览 914 07-13
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3