单页污染即可误导LLM推荐：FORGE基准揭示GEO攻击脆弱性

搜索增强型大语言模型（LLM）通过检索实时网络内容，日益成为日常消费推荐的媒介。这带来了新的风险：LLM推荐系统可能会消费生成式引擎优化（GEO）操作者污染的网络内容，从而被误导。我们提出一个问题：它们在多大程度上会成为虚假产品的无意推广者？我们引入了FORGE（生成式环境中的虚假在线推荐），它在固定的检索网页集合中，将真实产品本地改写为虚假产品，并衡量LLM推荐虚假产品的频率，覆盖15个类别中的225个真实产品和5种消费场景。在12个商业和开源权重的LLM中，所有模型都易受影响：单个被污染的页面导致受骗率高达27%，而完整的前三替换则将其提升至73.8%。脆弱性因类别而异，当模型缺乏对产品的稳定先验知识时，脆弱性会增加。推理并不能缓解这种脆弱性；相反，它常常生成虚假的社会证明来为错误推荐辩护。四种防御措施均不充分：怀疑提示可能像推理一样加剧脆弱性，两种共识过滤器有压制合法产品的风险，而可信度重排序虽对每个模型都有帮助，但仅能移除六分之一的虚假内容。我们在https://github.com/leoluolol/forge-benchmark发布了FORGE基准和评估代码。