Table of Contents
背景
大型语言模型（LLM）的竞赛通常聚焦于更大、更强的单一模型。但Hugging Face的Build Small Hackathon项目“Thousand Token Wood Sim v2”走了一条不同的路：它用多个不同实验室的小型模型（0.5B到20B参数）构建了一个多智能体经济模拟游戏，其中每个动物角色都运行着不同的模型，而玩家则扮演幕后金融家。这种“异质性”不是缺陷，而是产品设计的核心。
核心内容分析
从沙盒到游戏
v1版本是一个“天气之神沙盒”：五个森林动物在一个微调的0.5B模型上交易商品，玩家只能施加冲击观察泡沫和崩溃。这是一个有趣的玩具，但只能观看而非参与。v2彻底改造成了可操作的游戏：玩家成为森林的保护者（Patron），一个影子金融家——可以放贷收取利息、提供真假难辨的建议、做空市场、贿赂、操纵联盟，同时还要躲避治安官的追捕。动物们会记住你的对待方式并进行算计。
异构性是产品
通常实现多智能体协会的方法是“一个模型，多种提示”。但v2运行了四个不同的模型：gpt-oss-20b（OpenAI）、MiniCPM3-4B（OpenBMB）、Nemotron-Mini-4B（NVIDIA）以及一个微调的Qwen 0.5B。作者认为，市场只有在参与者真正不同时才有趣。这四个实验室的模型在不同数据上训练，采用不同的后训练方法，差异巨大。猫头鹰囤积的方式与狐狸投机的方式不同。协会是一个活生生的争论，而不是脚本。
工程挑战：服务层是主要瓶颈
将四个不同的模型部署在同一平台上，真正的教训是：摩擦几乎全部来自服务层，而不是模型层。当前vLLM（0.22.1）在加载时JIT编译内核，需要CUDA工具包（nvcc）。一个精简的基础镜像没有携带它，导致所有四个模型都报错“找不到nvcc”。解决方案是使用CUDA开发镜像。gpt-oss-20b使用原生MXFP4量化，在24GB L4 GPU上运行有余；MiniCPM3需要trust_remote_code；Nemotron则干净加载。每个模型都有各自的小坑，但只需一行配置即可解决。
关键的容忍层
使四个异构模型变得可行的关键，与v1中使单个模型可行的是同一个原语：一个容忍性的JSON解析和修复层。所有模型的输出都流经该层。不同的分词器和格式化习惯会产生不同的畸形输出；解析器丢弃无法修复的部分，模拟永远不会崩溃。构建这一层一次，就一劳永逸。
行业影响/专业点评
这项工作展示了小型模型在多智能体系统中的巨大潜力。通常认为需要统一模型才能协调智能体行为，但该实验证明，不同模型之间的差异可以产生更丰富的涌现现象。对于构建AI驱动游戏、经济模拟或多智能体协作系统，这提供了一种低成本、高真实性的方案。更重要的是，工程上的教训——服务层是瓶颈——提示未来需要更好的跨模型推理基础设施。
