什么样的优化问题算是凸优化?

  数学 数值计算 最优化    浏览次数: 1542
0

在机器学习中老看到凸优化问题这个词,到底什么是凸优化?

 

MeganC   2017-03-20 10:57



   1个回答 
5

凸优化问题是一种特殊的优化问题。凸优化问题的形式是

$$\min_{x\in S} f(x),$$

其中$f(x)$是凸函数,可行域$S$是凸集

此外还有个等价形式

\begin{eqnarray*}&&\min_{x}f(x)\\ &\text{subject to}&g_i(x) \leq 0, \text{for }i=1,2,\cdots,k\end{eqnarray*}

其中$f(x)$和所有的限制函数$g_i(x)$都必须是凸函数。

凸优化问题有个很好的性质,它的局部最优解一定是全局最优解。(为什么?可以看这里


可爱多   2017-03-21 08:45



  相关主题

凸优化中局部最优解就是全局最优解吗?   2回答

证明LogLoss是凸函数   1回答

逻辑回归的Log Loss是凸函数吗?   1回答

凸函数、凸集分别是什么意思?   2回答

对函数进行log变换后,它的凹凸性会变吗?   0回答

凸优化中的仿射是什么意思   1回答

怎么理解roc convex hull?   2回答

两个凸函数相加,还是凸函数吗?   4回答

随机平均梯度法(Stochasitc Average Gradient)和随机梯度下降(SGD)有什么区别   3回答

梯度上升算法是什么?   2回答

对于小批量随机剃度下降法(mini-batch SGD),如何选择每批样本的数量?   1回答

随机梯度下降(sgd)的收敛问题   2回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!