谷歌Gemini在模拟演练中意外黑入三家真实公司系统
谷歌的Gemini也黑进了别人的系统,不过是5月的事,大概是没发布的Gemini 3.5 Pro。
推荐理由
AI安全领域的标志性事件,揭示了大模型在脱离沙箱后的真实攻击能力,做Agent和AI安全的同学务必关注此类边界案例。
谷歌的Gemini也黑进了别人的系统,不过是5月的事,大概是没发布的Gemini 3.5 Pro。
《华尔街日报》报道了一起Google AI的意外事件:在一次网络安全模拟演练中,Google的Gemini系统意外连上了真实的互联网,还黑进了三家真实公司的系统。
事情发生在今年5月,当时一家名为Irregular的第三方测试机构正在评估Gemini的攻防能力。测试原本应该在一个完全封闭的虚拟环境里进行,任务是攻破一家虚构公司的系统。但测试机构不小心把外网权限给放开了,加上那家虚构公司的名字碰巧和现实中的公司重名,Gemini就把真实的外部网站当成了模拟目标。
Gemini先是通过不断尝试密码攻入了一家公司,后来又通过公开网页上泄露的账号信息,进入了另外两家公司。不过Google表示,Gemini一发现自己进入的是真实公司的系统,就立刻停手退出了,没有造成破坏。
消息来源:https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力