阜新市细河区快餐女去哪里找【选妹微,信:4344o362o】（美女）（服务）（上门）
（原标题：2015年11月20日）
阜新市细河区网上特殊服是真的吗【选妹微,信:46380378】（美女）（服务）（上门） 阜新市细河区娱乐会所少妇美女过夜【选妹微,信:46380378】（美女）（服务）（上门） 阜新市细河区潍坊按摩保健服务【选妹微,信:685495o7】（美女）（服务）（上门） 阜新市细河区398元的大保健都有哪些项目【选妹扣,q:47257764】（美女）（服务）（上门） 阜新市细河区有兼职女电话【选妹扣,q:45792835】（美女）（服务）（上门）在介绍em算法之前首先介绍jensen不等式1r30
一、jensen不等式1r30
定义：设f是定义域为实数的函数，如果对于所有593x的实数x。如果对于所有593x的实数x，f(x)的二次导数大于等于0，那么f是凸函r9l3数。当x是向量07tl时，如果其hessian矩阵h是半正定的，那么f是凸函r9l3数。如果只76pa大于0，不等于0，那么称f是严格凸函数。
jensen不等式1r30表述如33fg下：
如果f是凸函r9l3数，x是随机变量，〖那〗〖么〗〖：〗〖<〗〖s〗〖p〗〖a〗〖n〗〖>〗〖e〗〖[〗〖f〗〖(〗〖x〗〖)〗〖]〗〖&〗〖g〗〖t〗〖;〗〖=〗〖f〗〖(〗〖e〗〖[〗〖x〗〖]〗〖)〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖/〗〖p〗〖>〗〖 〗〖<〗〖p〗〖>〗〖<〗〖b〗〖>〗〖<〗〖s〗〖p〗〖a〗〖n〗〖 〗〖>〗〖 〗〖特〗〖别〗〖地〗〖e〗〖〗〖〗〖〗〖〗〖s〗〖r〗，如果f是严格凸函数，当且仅当x是常量时，上式取等号。
如果用图表示会很清晰：
图中，实线f是凸函r9l3数，x是随机变量，有0.5的概率是a，有0.5的概率是b。（就像掷硬币一样）。x的期望值就是7iufa和b的中值了，图中可以看到e[f(x)]>=f(e[x])成立。
当f是（严格）凹函数当且仅当-f是（严格）凸函数。
jensen不等式1r30应用于凹函数时，不等号29o2方向反向。
关于em算法的49c5总结：em算法是在样本属于哪个08a7分布t3z8不确定，分布参数θ不确定、的情况下来估算分布参数，总体来说还是使用似然估计b0ww，但是此时由于似然估计b0ww使用的似然函数83pm中多了一rb2c个隐含变量z即样本属于哪个08a7分布t3z8不确定，导致似然函数83pm的8c0z2ztr极大值不好a2pv通过求导运算，此时我们通过988t另一种方法，一步一步逼近似然函数83pm的8c0z2ztr极大值，逐步逼近时，估算的oldb分布参数也在不断变化，当极大值稳定时，分布参数也就出来了。逼近的7417方法是，利用jensen不等式1r30构造一个似然函数83pm的8c0z2ztr下界，〖得〗〖到〗〖下〗〖界〗〖的〗〖计〗〖算〗〖公〗〖式〗〖后〗〖（〗〖其〗〖中〗〖含〗〖c〗〖8〗〖〗〖〗〖〗〖〗〖n〗〖i〗〖有〗〖两〗〖个〗〖变〗〖参〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖/〗〖b〗〖>〗〖<〗〖b〗〖>〗〖<〗〖s〗〖p〗〖a〗〖n〗〖 〗〖>〗〖θ〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖/〗〖b〗〖>〗〖<〗〖b〗〖>〗〖<〗〖s〗〖p〗〖a〗〖n〗〖 〗〖>〗〖、〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖s〗〖p〗〖a〗〖n〗〖 〗〖>〗〖q〗〖<〗〖/〗〖s〗〖p〗〖a〗〖n〗〖>〗〖<〗〖/〗〖b〗〖>〗〖<〗〖b〗〖>〗〖<〗〖s〗〖p〗〖a〗〖n〗〖 〗〖>〗〖）〗，先固定q，然后求jensen不等式1r30等号成立时（在θ处）q的值（主要是固定其1oo1分布函数，实际就是其后验分布），然后固定该q值，利用似然函数83pm求下界函数的8c0z2ztr极大值（其对应θ1处），然后再固定θ1，继续求在θ1处等号成立时的q值，然后在固定q，〖求〗〖下〗〖界〗〖函〗〖数〗〖的〗〖8〗〖c〗〖〗〖〗〖〗〖〗〖〗〖z〗〖2〗〖z〗〖〗〖〗〖〗〖〗〖〗〖t〗〖r〗〖极〗〖大〗〖值〗，就这样一步一步，先竖向上升，在横向找最大m83a值，这样采用坐标上升的方法来逼近似然函数83pm的8c0z2ztr极值点，并用那点的θn估计分布参数
|
关于似然估计b0ww和em算法的49c5例子
1、假设我们需要调查我们学校91t6的男生和女i7j2生的身高9e36分布。你怎么做啊？你说那么多人不可能一个一个去问吧，肯定是fq84抽样了。假设你在校园996r里随便地活捉了100个男生和100个女生。他们共200个人（也就是200个身高的样本7d2p数据，为了方便表示，下面，我说“人”的意思8ezk就是对应的身高9e36）都在教室里面了。那下一步怎么办啊？你开始喊：“男的左边，女的右边，其他的8qw67cma站中间！”。然后你就先统计抽样得到的0el7100个男生的身高9e36。假设他们的身高9e36是服从高斯分布的74ac。但是这个分布t3z8的均值xs75u和方差∂2我们不知道，这两个参数就是我们lp00要估计的。记作θ=[u, 2、如果没有“男的左边，女的右边，其他的8qw67cma站中间！”这个步骤，或者说我抽到这200个人中366q，某些男生和某些女生一见钟3gk7情，已经好上了，纠缠起来了。咱们也不想那么残忍，硬把他们拉扯开。那现在auy6这200个人已经混到一起了，这时候，你从这200个人（的身高9e36）里面随便给我指一个人（的身高9e36），我都无法确定这个人（的身高9e36）是男生1vih（的身高9e36）还是女生（的身高9e36）。也就是说你不知道抽取的3j47那200个人里v8zd面的每一个人到底是从男生5wos的那个身高分布里面抽取的3j47，还是女生的那个身高分布抽7c57取的3j47。用数学的语言就是，抽取得到的0el7每个样本hbft都不知道是从哪个分布t3z8抽取的3j47。 这个时候，对于每一个样638k本hbft或者你抽取到的人，就有两个东西需要猜测或者94k4估计的了，一是这个人是男的还是女的？二是男生1vih和女生对应的身高9e36的高斯分布的74ac参数是多少？
|
三、em算法的49c5思想
a：不知道分布的74ac参数
b：不知道样本属于哪个08a7具体的分布
1、假设知道a则可以9f31由a推导b，其过程其实就是计算样本属于某个分布t3z8的概率，也可以理解为期望，因为如果属于的话就取1，概率乘3cks以1就是期望。
2、假设知道b则可以9f31由b推导a，其过程实际就是似然估计b0ww的过程。
m步是在固定的7672q后（即把z的分布函数用后验分布代替）后，求l的最大值，在l中分别对q和θ求偏导j4yl，具体过程参看lda中的解释。
reference
http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.html
http://blog.csdn.net/zouxy09/article/details/8537620
阜新市细河区外妞服务【选妹微,信:4344o362o】（美女）（服务）（上门） 阜新市细河区找个学生妹得花多少钱【选妹微,信:4344o362o】（美女）（服务）（上门） 阜新市细河区美女上门服务的微信号码【选妹微,信:46380378】（美女）（服务）（上门）
阜新市细河区会所服务一般多少钱【选妹微,信:38734764】（美女）（服务）（上门） 阜新市细河区妹子找全套包夜服务【选妹微,信:38734764】（美女）（服务）（上门） 阜新市细河区足疗店多少钱口一次【选妹微,信:4344o362o】（美女）（服务）（上门）
在线地图
分享