什么样的优化问题算是凸优化?

  数学 数值计算 最优化    浏览次数:2714        分享
0

在机器学习中老看到凸优化问题这个词,到底什么是凸优化?

 

MeganC   2017-03-20 10:57



   1个回答 
5

凸优化问题是一种特殊的优化问题。凸优化问题的形式是

$$\min_{x\in S} f(x),$$

其中$f(x)$是凸函数,可行域$S$是凸集

此外还有个等价形式

\begin{eqnarray*}&&\min_{x}f(x)\\ &\text{subject to}&g_i(x) \leq 0, \text{for }i=1,2,\cdots,k\end{eqnarray*}

其中$f(x)$和所有的限制函数$g_i(x)$都必须是凸函数。

凸优化问题有个很好的性质,它的局部最优解一定是全局最优解。(为什么?可以看这里


SofaSofa数据科学社区 DS面经 问答 实战

可爱多   2017-03-21 08:45



  相关主题

牛顿法是凸优化算法还是全局优化算法?   2回答

凸优化中局部最优解就是全局最优解吗?   2回答

非凸的目标函数还可以用随机梯度下降吗?   2回答

证明LogLoss是凸函数   1回答

怎么判断一个损失函数的凹凸性?   2回答

对函数进行log变换后,它的凹凸性会变吗?   2回答

凸优化中的仿射是什么意思   1回答

如果极小值就是最小值,那么这个函数就是凸函数吗?   2回答

两个凸函数相加,还是凸函数吗?   4回答

凸函数、凸集分别是什么意思?   2回答

逻辑回归的Log Loss是凸函数吗?   1回答

利用牛顿法求一个凸函数的最小值有可能出现发散的情况么?   0回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!