什么样的优化问题算是凸优化?

  数学 数值计算 最优化    浏览次数: 1339
0

在机器学习中老看到凸优化问题这个词,到底什么是凸优化?

 

MeganC   2017-03-20 10:57



   1个回答 
5

凸优化问题是一种特殊的优化问题。凸优化问题的形式是

$$\min_{x\in S} f(x),$$

其中$f(x)$是凸函数,可行域$S$是凸集

此外还有个等价形式

\begin{eqnarray*}&&\min_{x}f(x)\\ &\text{subject to}&g_i(x) \leq 0, \text{for }i=1,2,\cdots,k\end{eqnarray*}

其中$f(x)$和所有的限制函数$g_i(x)$都必须是凸函数。

凸优化问题有个很好的性质,它的局部最优解一定是全局最优解。(为什么?可以看这里


可爱多   2017-03-21 08:45



  相关主题

凸优化中局部最优解就是全局最优解吗?   2回答

证明LogLoss是凸函数   1回答

逻辑回归的Log Loss是凸函数吗?   1回答

凸函数、凸集分别是什么意思?   2回答

怎么理解roc convex hull?   2回答

凸优化中的仿射是什么意思   1回答

两个凸函数相加,还是凸函数吗?   2回答

牛顿法到底是一阶优化算法还是二阶优化算法?   2回答

RMSProp的直白解释   1回答

最速下降法与梯度下降法   1回答

随机平均梯度法(Stochasitc Average Gradient)和随机梯度下降(SGD)有什么区别   3回答

Adam优化算法   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!