实数系定理-实数系定理

在黑板上画一个庞大的等号，左边写一堆列向量，右边写一堆行向量，那一瞬间空气都凝固了。
这不是物理定律，也不是魔法，这是实数系定理，要么说更准地说是卡尔曼滤波的核心基石——那个号称在统计学与概率论森林里长出了参天大树的定理。它说的就是：当你的数据流真是无穷长的、平稳的、且彼此独立的时候，你的估摸量，也就是那个不断修正自己信念的“卡尔曼滤波器”，最终一定能收归到那个唯一的、最优的“先验分布”上。 大量人一听到实数系定理，第一反应是：“这如何跟高斯数学模型扯上关系？”这忒傲慢了。
实际上，卡尔曼滤波器最初出来的时候，它彻底不需求那个假设数据的分布是正态分布。
那个假设，是后来为了数学上撇脱和计算效率加上的“高斯假设”。
要是数据确实长这样，那么卡尔曼滤波器的结局就是绝对收敛的。但要是数据不是长这样呢？比如，数据里有大量的噪声，要么分布是非高斯的变体呢？这时候，卡尔曼滤波器依然有用，但它就不再是那个完美的“最优估摸”了，它可能会偏离真相忒远。
这就是为啥目前人们常说：卡尔曼滤波器是“近似最优”的，前提是数据服从高斯分布。 这就好比你在沙漠里迷路，手里只有一把手电筒。你知道前面有个峡谷，中间是个悬崖，后面是一片平坦的草原。
要是你不确定悬崖下面是不是全是石头，要么草原上有没有暗流涌动，你会如何选？你会不敢轻易跳下去。但你也知道，悬崖是个固定的形状，草原是固定的形状，哪怕你不知道具体有多深、多宽。
这就是马尔可夫性质，是实数系定理里的另一个睛犼。甭管你的光（估摸）在悬崖前多亮，甭管你在草原上飘得多远，你都不会忘记悬崖的轮廓，也不会忘记草原的底色。你只是在不断根据眼前的光线（新观测）来微调你对周围环境的认知。 要是数据确实服从高斯分布，那情况就好办多了。
这时候，卡尔曼滤波器不再是近似，它就是精度的极限。你能够把它想象成一场永不停歇的博弈，对手（噪声）用尽全力想把你打败，但对手实际上已经写好了规则：你的每次努力，必然会让你的状态更新得更准一点点。
只要你坚持走下去，你的估摸值就一定会慢慢逼近那个真正的、完美的状态。而那个“完美的状态”，本质上就是一个高斯分布。在工夫序列分析里，这往往对应着那个著名的 $X_t$ 服从高斯分布。
这意味着，你最终拿到的结论，不只是一个数值，而是一个概率密度函数。
这个密度函数的峰度、偏度，就连它的尾部厚度，全都由那个所谓的“先验分布”拍板。 自然，现实世界极少完美得像个数学题。在现实里，数据往往带着怪的尾巴，要么分布彻底没准。
这时候，你不得不承认，严谨的数学推导可能走不通，要么结局会变得挺琐碎。你或许只能换个思路。
既然高斯假设行不通，那你能够尝试把先验分布设定成别的啥形状，比如一个长得挺怪怪的“J 型”分布，要么一个平滑的“G 型”分布。
然后，你就得用一种更复杂的算法，要么说一种更坏的多项式拟合，去求那个最优解。
这时候，卡尔曼滤波器的公式别看还在，但它的内部逻辑，就连最终的输出结局，都变得面目全非。你会发现，它不再收敛到一个漂亮的、标准的正态分布，而是收敛到了一个与你的先验分布彻底一致的、贼复杂的分布。 这就引出了另一个残酷的现实：在复杂的工程系统里，你不可能做到完美的平稳性，也不可能做到完美的独立性。你挺难管住数据彻底符合高斯分布。便，工程师们就启动玩一个游戏：他们先假设数据是高斯的，然后用卡尔曼滤波器算出一个结局，哪怕这个结局在统计上实际上是有偏差的，但它在工程应用上，往往还是最“漂亮”的。出于一旦你换了分布，算法就得彻底重写。而卡尔曼滤波器的魅力，恰恰就在于它的鲁棒性——它对分布的具体形状不敏感，它只关心数据的统计特性是否知足马尔可夫性和平稳性。
只要这两个条件摆烂了，你就得重新想别的办法。 再往深里钻，你会发现，实数系定理实际上揭示了系统认知的本质。甭管你的系统多么复杂，甭管你的模型多么简陋，只要数据确实长这样，你的认知就一定会趋向于同一个方向。
那个方向，就是高斯分布所描绘的那个“最优”世界。
哪怕你最初设定的初始信念是错的，哪怕你对环境的全貌一无所知，只要你不断地观察、不断地更新，你的眼（估摸量）就会慢慢适应环境，最终看来，世界就是高斯分布。 这听起来挺玄学，实际上不然。它只是数学告诉我们要信任概率，要信任数据流的内在规律。它告诉我们要在不确定中建立秩序。别看在高斯假设面前，卡尔曼滤波器的精度是绝对收敛的，但在更广义的意义上，它依然是最有力的工具之一。出于它给了我们在没有完美数据、没有完美模型的时候，一种贼强大的自洽性。它准你在不完美的世界里，依然能找到那个“最优解”的承诺。只是，别忘了，那个承诺里藏着的前提：数据务必是“长”的，务必是“平稳”的，务必是“独立”的。一旦这些前提被打破，那个完美的收敛就不再形成，取而代之的，往往是某种令人头疼的震荡。 故此，当我们谈论实数系定理时，我们谈论的不只是是两个公式相等的漂亮等式，它是统计学、管住论和信号处理这门学科的幽灵，是那些试图用数学去驯服混乱世界的工程师们的救命稻草。它告诉我们，只要方向对了，甭管工夫多长，只要持续不断地更新，你的信念终将找到归宿。只不过，那个归宿，有时候不是数学上那个完美的正态峰，而是工程师们为了工程便利而妥协后的某种“近似最优”。但在那个近似最优的背后，依然流淌着那个关于收敛、关于概率、关于认知一致的真理。