香农公式是说信息传输里有个关键指标叫信息量，就像快递包裹大小一样算得清。公式是H=-Σp(xi)log2p(xi)，这里的H就是信息量，p(xi)是每个事件发生的概率。比如二进制信息量1比特，三进制0.631比特，概率越均等信息量越大。比如抛正面概率50%时信息量1比特，如果概率变成90%正面10%反面，信息量就变0.47比特了。

为什么这么算呢？因为信息量跟事件不确定性有关，不确定性越高信息量越大。比如天气预报说下雨概率10%，这个信息量就比一直下雨的0.322比特大。香农用概率分布算出每个事件的信息量，再加权平均得到整体信息量。比如三进制系统三个事件概率1/3时H=log23≈1.585比特，概率1/2和1/4时H=0.811比特。数据证明当事件等概率时信息量最大，比如六面骰子每个面1/6概率时H=log26≈2.585比特，比任何概率分布都大。所以公式用负号抵消对数负值，用log2让单位统一成比特。