指南最佳最差选择需求优先级偏好测量完整排序

十个需求必须完整排序吗?完整排名与最佳—最差选择怎么选

完整排序适合少量选项和只关心名次的任务;项目增多或中间项难分时,可用平衡的最佳—最差选择获得相对强度、并列与重测稳定性证据。

最近更新 2026年9月16日 9 分钟 阅读

把十个产品需求拖成从第一到第十,看起来一次就得到完整优先级。但参与者通常很容易识别最想要和最不想要的几项,真正困难的是把五个差不多的中间项硬拆成第 4、5、6、7、8 名。界面最终仍会交出一串没有并列的数字,数字的整齐不代表偏好真的有那么细。

选项少、差异清楚、决策只需要顺序时,完整排序最直接;选项多、中间项接近,或需要知道“第一比第二强多少”时,案例 1 最佳—最差选择(best–worst scaling,BWS)通常更合适。但 BWS 不是把十项随机分成几页、每页点一个最好和最差就结束。选项出现次数、共同出现次数、任务措辞、计分和质量检查必须一起设计。

先确定你要的是名次、强度还是实施优先级

完整排序只保证次序:A 在 B 前、B 在 C 前。它不会说明 A 与 B 几乎相同,还是 A 远高于 B。BWS 通过让每个项目在多个不同小集合中接受最好/最差判断,能够形成相对分数并允许多个项目得到相同分数,因此更适合研究偏好强度。

两种方法测到的仍然是参与者在给定措辞和集合中的相对偏好,不是产品路线图本身。“用户最想要”没有自动纳入开发成本、战略一致性、技术依赖、风险、覆盖人数和商业价值。若团队真正要决定先开发什么,应把偏好结果作为价值证据的一列,再与成本和约束合并,不能让研究分数代替治理决策。

完整排序什么时候反而是好工具

只有三到五项、项目含义清楚,而且必须选出先后顺序时,完整排序的解释成本低。比如工作坊已经筛到四个方案,委员会只需要提交一份可复核的顺序;或者招募环节要求参与者从三个可预约时段中给出偏好顺序。这时引入十几道 BWS 选择会增加流程而不一定增加决策价值。

排序也适合只使用榜首或榜尾的场景。若决策规则明确是“每人选出前三项进入讨论”,不必假装需要精确的项目间距离。但要允许参与者表达无法判断或并列,或明确说明强制顺序是任务规则;否则中段名次容易被过度解释。

为什么十项完整排名会在中间失真

十项完整排序隐含 45 个两两关系。参与者未必逐对思考,却要交出与 45 个关系一致的结果。第一和最后往往好判断,中间项则会受初始显示顺序、拖动成本、局部比较和临时参照影响。两个实际接近的需求一旦被放在第 5 与第 8,汇总报告很容易把三位名次差误写成显著价值差。

Liang、Glover 与 Hawkins 在 2026 年发表的三项实验中,让参与者对十种生活价值做重复排序或 BWS。个体层面的重复测量一致性用 Kendall tau 衡量,BWS 平均为 0.69,完整排序为 0.47;排序中第 6 名最常改变,81% 的第 6 名回答在重测时换了位置。这个结果直接支持“中间项难分”,但研究对象是英语参与者与生活价值,不能把 0.69、0.47 或 81% 当成所有产品需求研究的固定基准。

BWS 把一个大排序拆成重复的小选择

案例 1 BWS 每次呈现若干独立对象,让参与者选出“最重要”和“最不重要”。随后更换组合并重复。一个可靠设计应让每个项目出现次数相同,并尽量让每一对项目共同出现的次数相同。这样,某项目不会仅因为总与弱对手同组而得到虚高分数。

2026 年实验的十项 BWS 使用 11 个小集合,每个集合含 5 或 6 项;每项共出现 6 次,每一对共同出现 3 次。它不是随手抽签,而是平衡成对设计。研究中,BWS 和完整排序在总体顺序上大体一致,但 BWS 能让十项形成平均约 7 个分数档,保留“某些中间项无法可靠区分”的信息。

六个需求的可复算设计

下面是一个说明性设计与结果。六项依次记为 A 导出自动化、B 权限分层、C 批量编辑、D 主题外观、E 更多提醒、F 社交分享。每道展示三项,共十道:

  1. A、B、C
  2. A、B、D
  3. A、C、E
  4. A、D、F
  5. A、E、F
  6. B、C、F
  7. B、D、E
  8. B、E、F
  9. C、D、E
  10. C、D、F

在这组平衡不完全区组中,每项出现 5 次,每一对共同出现 2 次。假设一名参与者十道题的“最好/最差”次数依次为:A 3/0、B 3/1、C 2/1、D 1/2、E 1/3、F 0/3。简单标准化分数是(最好次数-最差次数)÷出现次数,得到 A 0.60、B 0.40、C 0.20、D −0.20、E −0.40、F −0.60。所有最好次数合计 10,所有最差次数也应合计 10,这是最基础的数据核对。

这个计数可以快速解释个人或汇总结果,但不是唯一分析方法。样本大、设计复杂或需要人群分层时,可用多项 logit、层级模型或潜在类别模型估计,并报告模型假设和不确定性。无论方法多复杂,都不能把相对分数解释为“开发后满意度会增加多少”。

四个设计错误会让漂亮分数失去含义

  • 出现不平衡:某项出现八次,另一项只出现三次,却直接比较净选择次数。
  • 对手不平衡:一个项目总与弱项同组,另一个总与强项同组;出现次数相同仍不公平。
  • 对象不在同一层级:把“更快导出”这种具体功能与“平台更专业”这种总体印象同列,参与者没有共同判断尺度。
  • 方向含糊:“最好”究竟是最重要、最想要、最需要改进还是最值得付费;方向变化会改变选择。

还应随机化集合呈现顺序,并在不破坏设计记录的前提下处理集合内位置。保留每个设计版本、集合 ID、项目 ID、展示顺序、最好和最差选择,才能检查位置、疲劳与重复模式。只保存最终分数会让质量审计和重新建模都无法进行。

不要只看总体榜单

总体净分会掩盖人群异质性。A 的总分接近零,可能代表所有人都无所谓,也可能代表一半人强烈选最好、另一半人强烈选最差。应同时看最好率、最差率、从未被选为极值的比例、个人层结果和预先定义的人群差异。若要做聚类或潜在类别,应验证样本量、稳定性和可解释性,不能看到几个算法分组就给用户贴标签。

重测是特别有用的预测试。给一小部分参与者在合适间隔后再次完成同一设计,比较个人顺序、分数和关键决策是否稳定;同时检查更换项目描述是否改变结果。2026 年实验发现,标签从抽象价值维度换成具体例子时,两种方法的一致性都明显降低,这提醒研究者:可靠性不只取决于交互形式,也取决于项目定义是否稳定。

从方法选择到问卷执行

先用访谈、开放回答或现有证据把候选项目写成同层级、互不重叠的短描述,再决定是否值得做 BWS。若只剩四项且差异明显,使用完整排序或直接选前三即可;若有十几项,应先删除无法行动的对象、合并同义项,不能用 BWS 掩盖糟糕的候选池。

问卷派可承载自定义交互、随机化和分版逻辑,但具体 BWS 组合应先由合适的实验设计工具或方法人员生成,再作为固定设计版本实现并小样本测试。不要依赖运行时完全随机抽取集合,因为完全随机不能保证出现与共现平衡。若当前项目无法核验所需交互、数据字段或移动端可用性,就先做可点击原型和导出测试,不把概念设计直接投入正式回收。

结果报告应附上候选项定义、判断方向、区组设计、每项出现与共现次数、题目顺序处理、计分或模型、样本与排除、重测证据和分群规则。最终路线图再把偏好证据与成本、战略、风险和依赖并列。BWS 能更诚实地告诉团队哪些偏好接近、哪些极端稳定;它不能替团队决定什么值得做。

排序与最佳—最差选择依据