凸函数

参考书 Boyd Convex Optimization

基本的概念和性质

什么是凸函数

\(f:\mathbf {R}^n \rightarrow \mathbf {R}, \quad \mathbf {dom} f\) 是个凸集，\(0 \leq \theta \leq 1\) \[ f(\theta x + (1-\theta)y)\leq \theta f(x) + (1-\theta)f(y) \] 严格凸就是不会取到等号

凹函数就是凸函数加个负号

仿射函数是比较特殊的，它既是凸函数又是凹函数，反过来也成立。相当于凹函数和凸函数的一个共有的临界的函数。

扩展值延伸

为了让凸函数在整个实数集上有定义，在定义域外令值为无穷，具体的为正无穷\(+\infty\)(相反，若为凹函数，则定义为负无穷\(-\infty\)) \[ \tilde{f}(x)=\left\{\begin{matrix} f(x) &x\in\mathbf{dom}f\\ \infty & x\notin \mathbf{dom}f \end{matrix}\right. \]

判定条件

一阶条件

假设 \(f\) 可微，对 \(\forall x,y \in \mathbf{dom}f\) \[ f(y) \geqslant f(x) + \bigtriangledown f(x)^T(y-x) \] 联系了局部信息和全局信息

严格凸及凹的情况略

二阶条件

假设二阶可微，其Hessian矩阵是半正定的

未完待续。。。。