摘要：给出了一种大规模核Logistic回归的并行学习算法.利用凸优化中的fenchel对偶定理,将核Logistic回归的优化原问题转换成对偶空间的优化问题,再利用块更新迭代方法,可以独立地在部分数据集上进行分类器训练.设计了一个简单的客户机–服务器并行计算模式,每个客户机对部分数据优化子问题,在一次优化结束后,服务器根据各客户机传递的信息修正各子问题目标函数.在标准数据集的实验结果表明了基于fenchel对偶的核Logistic回归并行学习算法的可行性.

摘要：基于凸优化中的对偶理论,提出了一种具有遗忘特性的在线学习算法框架。其中,Hinge函数的fenchel对偶变换是将基本学习问题由批量学习转化为在线学习的关键。新的算法过程是通过以不同方式提升含有约束变量的对偶问题实现的:(1)梯度提升;(2)贪婪提升。回顾了以往的相关研究工作,并指出了与之的区别与联系。人造数据集和真实数据集上的实验结果证实了算法框架的有效性。算法可以很好地处理数据流中的分类面漂移问题,为设计和分析新的在线学习算法提供了一个新的思路。