七个LLM的狼人杀之夜

407e685d06c9dae12bc35561f66aa9b5.jpeg

深度学习自然语言处理 原创
作者:Winnie

在最新一篇论文中,研究团队让一群大语言模型(LLM)开了一局狼人杀游戏。通过多种Prompt方法集成,LLM不仅成功地参与了游戏,还涌现出了信任、欺诈和领导力等团体能力。

4b9fc05c13f1e2067d453048cd411668.png

Paper: Exploring Large Language Models for Communication Games: An Empirical Study on Werewolf
Link: https://arxiv.org/abs/2309.04658

进NLP群—>加入NLP交流群

问题定义

在这场狼人杀游戏中,七名LLM被分配了五种不同的角色,包括狼人、村民、女巫、守卫和预言家。游戏在白天和黑夜之间交替进行,每个阶段都有特定的活动和决策需要做出。

c052eeb4912433b4623d3ac86c8e96eb.png

Prompt方法

为了让LLM智能体能够更好地适应这种动态和策略性十足的游戏环境,研究团队运用了多种prompt方法来促进推理。对于每个LLM参与者,它的prompt如下图所示:

1a1232f760caba92e43b2d4e7683b476.png

研究人员为每个角色定义了一些基本问题。这些问题旨在回忆有用的信息。此外,它们还起到了指导LLM初始思维的作用。这些问题如下表所示。

790109c6c6c762b1c693a09bf2136287.png

实验结果

为了评估prompt方法,作者变体模型输出中提取了50个响应,进行了人工评估。在这个过程中,评注者需要判断每个输出的合理性,其中包括检查是否存在幻觉、是否忽视了其他因素的影响或是否采取了反直觉的行动。下图展示了方法的效果。结果清楚地表明,完整的prompt方法可以比其他任何变体产生更合理和更现实的响应。

7349a98bc3771c1904279b30362b0420.png

此外,游戏中观察到LLM在游戏规则或提示中表现出一些没有明确预编程的战略行为。这些行为分为四类,包括信任、对抗、伪装和领导。

结语

经过一系列游戏实验,LLM不仅展示了深刻的游戏理解力,还成功地模拟了人类玩家在游戏中可能展示的多元特质。这项实验不仅丰富了我们对LLM在策略游戏中的能力理解,还为未来的多LLM合作解决任务打开了新的可能性。


进NLP群—>加入NLP交流群

猜你喜欢

转载自blog.csdn.net/qq_27590277/article/details/132913767