Google DeepMind论文揭示视觉图形操纵多模态AI决策
AI 奇怪的视觉能力
推荐理由
揭示了多模态模型潜在的脆弱性与不可解释行为,对Agent安全与鲁棒性设计极具参考价值,建议相关研究者关注。
AI 奇怪的视觉能力
来自 Google DeepMind 的研究论文,探索了简单视觉图形如何悄悄操纵多模态 AI 的决策行为。
他们发现,多模态 AI 在看图时脑回路很怪,人类很难摸清一张无关的图片到底会对 AI 的判断产生什么隐蔽影响。
拿 Claude Opus 4.7、Gemini 3.1 Pro 和 GPT-5.4 做对照实验,在写代码、文字创作等任务里塞入红心、三角、箭头等 288 种基础彩色符号,或者用 Python 代码画画,观察 AI 行为变化并抓取它们内部的思考痕迹。
测试发现,一张看似毫无关联的红心图片,能直接让原本偏好循环写法的 AI 百分之百改用递归写法;圆圈则会诱导 AI 优先选择环形缓冲区。AI 则完全意识不到被影响了,它们在内部思考链里声称这纯属巧合或给出一堆看似专业的借口。两台 AI 互相用图画沟通时,往往会形成人类完全看不懂的怪异暗号,但彼此却能秒懂对方的意思。
论文:https://arxiv.org/abs/2610.36449
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力