凸优化难吗,凸优化基础

凸优化难吗,凸优化基础

1.优化问题很难解决，解决方案是折衷的（近似）。由于计算时间很长，或者问题的解决方案还没有找到。 2.因此，凸优化问题中的局部最优解也是全局最优解。简介凸优化（凸优化）是优化问题中非常重要的一类，也是一类已经被深入研究的类型。 对于机器学习来说，如果要优化的问题被证明是凸优化问题，则意味着问题可以得到比较好的解决。

╯ω╰ 这个问题的答案比较困难。我个人认为，简单来说，目前对这些非凸优化问题的salgorithm理论的突破，一般都归因于寻找这些非凸优化问题中的"凸"结构。 这就是为什么我们看QP问题，即成本函数是二次函数，这是最简单的凸优化问题。当我们将规划问题转化为二次优化问题时，有很多求解器可供我们选择。 问题解决了。 5.最小捕捉问题的闭式解

最近，我迷上了凸优化中的证明。今天我分享StephenBoyd的代表作《凸优化》关于凸集分离超平面定理。但我认为最重要的领域是机器学习（MachineLearning）。事实上，在机器学习中大多数问题（除了神经网络）最终都可以归因于凸优化问题。因此，确实很舒服从凸优化的角度学习机器学习。

╯＾╰ 由于神经网络损失函数是非凸的，因此可能存在多个局部极小值，因此优化它很困难。幸运的是，在实际应用中，梯度下降法找到的局部极小值在大多数情况下已经可以找到。 许多类型的凸优化问题都采用多项式时间算法，并且数学优化通常是NP难的。 凸优化用于自动控制系统、估计和信号处理、通信和网络、电子电路设计、数据分析和建模