Skip to content

熵权法 ​

方法速览 ​

  • 主要用途 根据当前方案在各指标上的差异计算权重。
  • 必要输入 至少两个方案,经处理的非负指标,以及可计算占比的有效列。
  • 适用条件 样本分布有代表性,指标差异主要来自实际差别。
  • 典型不适用情况 所有指标都无区分度,或差异主要由极端值、重复指标或测量噪声造成。
  • 最低限度的验证方式 检查列占比和权重和,再比较移除极端方案或改变预处理后的权重。

熵权法试图解决什么 ​

若每个方案都有多项数值指标,而希望区分度较高的列在后续评分中发挥较大作用,可用熵权法生成权重。它只用当下样本各列的分布。指标的变动可能来自真实差异,也可能来自测量误差。变动大不能直接说明决策重要。硬门槛先筛选,高度相关列先分析信息是否重复。

从列占比计算归一化熵 ​

设有 m>1 个方案,已确定非负输入 zij,且第 j 列总和为正。构造列内占比,再按归一化信息熵计算差异。

pij=zij∑izij,ej=−∑ipijln⁡pijln⁡m,dj=1−ej,wj=dj∑jdj.

约定 0ln⁡0=0。均匀分布使熵为 1,差异为 0。对所有方案相同的列可视为没有区分度,若经变换成全零,应跳过该列的比例计算。各列差异全为零时,方法不能识别差异权重。Shannon 熵公式,熵权计算步骤

两个方案的假设算例 ​

假设两方案已有可直接归一为比例的三项效益分。第一列是 (1,3),第二列 (2,3),第三列 (2,2)。占比分别为 (1/4,3/4)、(2/5,3/5)、(1/2,1/2),代入得三列熵约为 0.8113,0.9710,1。差异约为 0.1887,0.0290,0。以未四舍五入的结果归一化,得到权重约为 (0.8666,0.1334,0)。第三列对当前方案无法区分,但它依然可以作为事前的准入要求。

指标预处理会怎样改变结论 ​

单列全乘同一个正数,占比不变。平移则会改占比,所以处理负数时要说明偏移量和依据。正负方向会改变分布,方向转换与熵值计算的顺序应明确。两方案各列都做极差归一化时,任何变化列都会变成一项为零、一项为一,熵权于是相同。遇到这类场景,应考虑原始分值的含义、方案数与预处理是否适合问题。

比较不同年份时,若每年重算权重,分数的变化可能同时来自指标改善和评分规则变化。若目的是做年际横向比较,可以固定基准期权重和预处理规则,再单独分析权重更新带来的影响。

和主观赋权怎么取舍 ​

专家能够清楚给出偏好时,可用 AHP 或直接权重反映取舍。缺少偏好信息、但数据差异具有可比较的解释时,可用熵权作为一种数据驱动方案。对于差异可能含大量噪声的场景,等权可先做基线。若综合两种权重,应交代各占比的理由,并检查改动占比是否改变名次。

初次核对与常见错误 ​

核对方案数对应行数,确认每列的占比和约为 1、熵在 0 到 1 之间、有效权重和约为 1。保留零值的数学约定,别把舍入误差误解为负权重。去掉一个极端方案或替换一次预处理再算,比较名次和权重。小样本中单个极端方案主导某列时,先核查真实性和可代表性。

记录被删除的列及原因,便于复核差异权重是从哪些观测得到的。

双语言实验 ​

平移一个指标,熵权为什么会重新分配 ​

沿用两处站点的三项模拟效益分。对第一列 (1,3),列内占比为 (0.25,0.75),偏离等分。统一加 10 后占比变成 (11/24,13/24),接近 (0.5,0.5),因此归一化熵升高、差异系数减小。图上占比堆叠柱与 0.5 参考线的偏离反映这一机制;右图对比改动前后的权重。

任一列的差异系数也可直接写成

1−ej=∑ipijln⁡(mpij)ln⁡m.

分子是该列占比分布相对均匀分布的 KL 散度。对本例的两项占比分布,其中一项离 0.5 越远,这个量越大。若某列同时承载安全门槛等业务约束,应单独体现规则。

独立运行 ​

Python 在终端安装依赖 python -m pip install numpy matplotlib,下载文件后运行 python mmf_entropy_weight.py。MATLAB 将 mmf_entropy_weight.m 放入当前文件夹,在命令窗口运行 result = mmf_entropy_weight(),基础实验无需额外工具箱。两种脚本均输出数值并绘制图形。

下载 Python 源码 · 下载 MATLAB 源码

用列内占比计算归一化信息熵。第一列恒定,熵为 1,第二列含零占比,按极限令 0·log 0=0,权重为 [0, 1]。所有列恒定时不存在由差异导出的权重。

最简版依赖 Python:NumPy。MATLAB:基础功能,无需额外工具箱。

在源码所在目录运行 python mmf_min_entropy_weight.py

py
import json
import numpy as np

# 已同向的非负指标,各列和为正。第一列恒定,差异全部在第二列。
x = np.array([[2., 0.], [2., 1.], [2., 3.]])
shares = x / x.sum(axis=0)
terms = np.zeros_like(shares)
positive = shares > 0
terms[positive] = shares[positive] * np.log(shares[positive])
entropy = -terms.sum(axis=0) / np.log(len(x))

# 用 1-熵 表示指标的差异度。清掉浮点舍入导致的近零差异。
diversity = np.maximum(1 - entropy, 0)
weights = diversity / diversity.sum()
assert np.allclose(weights, [0, 1])
result = {"entropy": entropy.tolist(), "weights": weights.tolist()}
print("LAB_RESULT " + json.dumps(result, ensure_ascii=False))
下载当前源码

Python 用 np.divide(..., where=...) 在有效列处理除法,MATLAB 用逻辑下标挑出列和为正的列,零元素的 pln⁡p 都按数学极限处理。MATLAB 基础的 sum、log 足以实现公式。检查原始 weights≈[0.866606,0.133394,0]、平移后 shifted_weights≈[0.147225,0.852775,0]。脚本显式拒绝全部常量列的情形,因为差异总和为零。

参数练习与参考结论

把代码中“第一列加 10”改成“第一列乘 10”。分子、分母同时乘同一正数,列比例保持不变,两组权重应一致。将第一列改成 (0,3) 则第一列归一化熵为 0,差异系数为 1,权重升到约 0.9718。零分若实际代表缺失值,应先确定填补或排除规则才可解释结果。

关联文章 ​

MathModel FAQ · 数学建模知识库