什么样的优化问题算是凸优化?

  数学 数值计算 最优化    浏览次数:11399        分享
1

在机器学习中老看到凸优化问题这个词,到底什么是凸优化?

 

MeganC   2017-03-20 10:57



   1个回答 
8

凸优化问题是一种特殊的优化问题。凸优化问题的形式是

$$\min_{x\in S} f(x),$$

其中$f(x)$是凸函数,可行域$S$是凸集

此外还有个等价形式

\begin{eqnarray*}&&\min_{x}f(x)\\ &\text{subject to}&g_i(x) \leq 0, \text{for }i=1,2,\cdots,k\end{eqnarray*}

其中$f(x)$和所有的限制函数$g_i(x)$都必须是凸函数。

凸优化问题有个很好的性质,它的局部最优解一定是全局最优解。(为什么?可以看这里


SofaSofa数据科学社区DS面试题库 DS面经

可爱多   2017-03-21 08:45



  相关讨论

非凸的目标函数还可以用随机梯度下降吗?

凸优化中局部最优解就是全局最优解吗?

牛顿法是凸优化算法还是全局优化算法?

如果极小值就是最小值,那么这个函数就是凸函数吗?

凸优化问题一定存在最优解吗?

凸函数、凸集分别是什么意思?

线性回归的目标函数是凸函数吗?

怎么判断一个损失函数的凹凸性?

利用牛顿法求一个凸函数的最小值有可能出现发散的情况么?

凸函数有鞍点吗?

  随便看看

python里的<<或者>>符号是什么意思?

去掉pandas DataFrame的index的名字

随机平均梯度法(Stochasitc Average Gradient)和随机梯度下降(SGD)有什么区别

seaborn.distplot直方图的y轴的数值是什么意思?

kappa statistic怎么理解?有什么意义?