逻辑斯蒂回归模型

多项逻辑斯谛回归

最大熵原理是概率模型学习的一个准则，最大熵原理认为学习概率模型的时候，在所有可能的概率模型分布中，熵最大的模型是最好的模型。通常用约束条件来确定概率模型的集合，所以最大熵原理也可以表述为满足约束的模型集合中选取熵最大的模型。

逻辑回归、最大熵模型鬼节为似然函数为目标函数的最优化问题，通常通过迭代法求解，从最优化算法观点看，这时的目标函数有很好的性质。他是光滑的凸函数，因此各种优化方法都试用。
常用的改进有迭代尺度法，梯度下降法、牛顿法或者拟牛顿法。