张春成
V2
2022/06/02阅读:23主题:默认主题
条件概率的计算方式
条件概率的计算方式
这是之前遗留的小问题,记录如下。
鉴于多元随机变量的条件概率公式并不直观,将分析过程详述如下 多元高斯分布的概率密度函数为
其中, 代表随机向量的可能取值, 代表均值向量, 代表协方差矩阵。这样做(即,使用 符号)的原因是概率密度函数必然是归一化的,也既
因此,除了函数形状之外,我们无须过度关注常数项。 将上式进行简化可得替身函数
其中, 。 现在假设我们有未知函数
还有观测到的样本值
对于样本值,我们显然可以直接写出它的多元高斯分布概率密度函数的替身函数
样本替身函数的指数部分可以展开为
其中,为简单起见 用 来表示。
而如果我们将未知函数与样本值联立,使
则有新的替身函数
其中, 代表变量内协方差矩阵, 代表变量间的协方差矩阵。 函数替身函数的指数部分可以展开为
其中,为简单起见 用 来表示。 逐项展开可得
我们只对其中含有 的项感兴趣,其他项都可以最后归到常数项中,它总可以变换为新的二次型
因此,观测样本对未知函数均值的“贡献”为
此时使用条件概率公式
不难发现,条件概率的替身函数为
由于指数函数相除等价于指数相减,因此,我们可以利用替身函数的变换式,方便地得到新的均值向量和协方差矩阵
最后的工作就是如何将替身的协方差矩阵转换为真实协方差矩阵了,可以借用书中的推导结果
推导的依据为
作者介绍
张春成
V2