语言模型的表达能力上界

语言只能捕捉说话者之间构成意义的感知、直觉和意图的一部分。那么，语言的极限究竟在哪里？我们通过以下方式，尝试在大语言模型（LLM）中对此进行测量：针对一组概念，我们测量随着两个 LLM 的能力提升，每个概念在它们之间能够得到多准确的传递。这需要新的测量工具：（1）最优消息：我们提出了一种提示优化算法，在基准测试中比现有算法最多高出 14%，并能准确估计提示的性能上界。（2）传递度量：要求发送方对文本进行标注，然后由接收方尝试还原发送方的提示，并测量还原程度；我们发现，该度量与人类标注错误高度相关。借助这些度量，我们使用观测缩放定律，研究通过最优消息传达的概念，其可传递性如何随着发送方和接收方能力的增长而提高：其渐近极限位于某个阈值之下还是之上？通过测量八个领域中的 1,200 个概念，我们发现概念可分为三类：（a）能够被充分表达的概念，通常依赖局部模式，例如“笑话以出人意料的方式结尾”；（b）可能被未来更强大的模型表达的概念，依赖全文层面的结构模式，例如“故事世界观构建的连贯性”；（c）面临可表达性限制的概念，我们发现，这些概念的意义与身份认同及社会群体意识有关，例如“喜剧表达风格”。有趣的是，这些概念并非全都对人类构成挑战：在 LLM 难以处理的概念中，有 76% 的概念在人类判断中呈现中等至较高的一致性；我们发现，表达能力的限制因执行者而异。最后，我们刻画了各类情况下改进的性质：可还原的概念能够通过定义和解释来表达，而不可还原的概念即使借助示例也无法传递，可能需要新的学习机制。