ACL 2025：研究揭示大模型Prompt设计奥秘，科学设计可提升超50%推理性能

一项由英属哥伦比亚大学、纽约大学石溪分校和浙江大学合作的研究，首次提出了一种量化 Prompt 搜索空间复杂度的理论框架，为大型语言模型（LLM）的提示工程提供了科学基础。研究发现，Prompt 在 CoT 推理中扮演「信息选择器」角色，通过从模型隐藏状态中提取关键信息主导推理过程。实验表明，最优提示设计可显著提升 LLM 性能（超过 50%），而次优提示则导致性能下降。此外，尽管 CoT 变体如 ToT 和 GoT 能优化答案空间导航，但其效果受限于提示模板的质量。这一成果为未来科学化提示工程的发展奠定了重要基础。
来源：https://mp.weixin.qq.com/s/6iaW8OYSnruobcpDLUDxQQ