跳到主内容
@wquguru
精选88Rohan Paul论文研究

研究发现简短提示让小型开源LLM在NLI任务媲美复杂方法

This paper finds that a short, direct prompt with a few examples (In-Context Lea…

原文
发到 X
推荐理由

这篇论文揭示了小模型在特定任务上通过极简提示即可达到SOTA效果的规律,对优化小模型部署成本极具参考价值,建议工程同学关注其参数设置。

This paper finds that a short, direct prompt with a few examples (In-Context Learning) lets small open LLMs match more complex prompting methods on natural language inference.

本文发现,使用包含少量示例的简短直接提示(上下文学习),小型开源大语言模型在自然语言推理任务上能够媲美更复杂的提示方法。

The task, called NLI, asks whether one sentence follows from another, contradicts it, or is unrelated. Earlier LLM work on it leaned on complex prompting and sampling tricks, assuming more examples help.

该任务称为自然语言推理(NLI),要求判断一个句子是否从另一个句子中推导得出、与之矛盾或无关。早期关于此任务的大语言模型研究依赖于复杂的提示和采样技巧,并假设更多示例会有所帮助。

They tested 5 small open models, including Gemma 2 9B, Mistral 7B and Llama 3.1 8B, on 3 NLI datasets. Each got 1 short, direct prompt with 0 to 15 examples and no reasoning steps.

他们在3个NLI数据集上测试了5个小型开源模型,包括Gemma 2 9B、Mistral 7B和Llama 3.1 8B。每个模型均接收1个简短直接的提示,包含0到15个示例,且无推理步骤。

Mistral 7B beat the 63.4% MNLI accuracy that a published in-context sampling method got with the same model. Gemma 2, Llama 3.1 and Mistral scored about the same with 1 example or 15 on MNLI and SciTail.

Mistral 7B在MNLI上的准确率超过了此前使用该模型结合上下文采样方法所取得的63.4%。Gemma 2、Llama 3.1和Mistral在MNLI和SciTail数据集上,无论使用1个还是15个示例,得分大致相同。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件