14. 变分推断

EM 和 VI的区别

目的不同：

EM是用来解决包含隐变量时模型参数估计的问题，并且其建立在隐变量的后验分布（的期望）是可计算的前提下。 VI不是用来参数估计的，而恰好是用来推断隐变量后验分布的。VI通常用在无法直接计算隐变量的（后验）条件概率的场景。 当然如果把模型参数当做隐变量（贝叶斯学派）来看到， VI也算作是求解模型参数的一种方式。