4. 凸函数(2)

Convex Function(2)

1. Operation that preserve convexity

1. Positive weighted sum

   if $f_1,f_2,\cdots,f_n$ are convex, $\omega_1,\omega_2,\cdots,\omega_n\geq0$, then $f=\sum\omega_if_i$ is convex

非负加权求和，仿射变换的扩展

1. Composition with affine function

   if $f$ is convex, then $g(x)=f(ax+b)$ is convex

凸函数复合仿射函数是凸函数

1. Pointwise maximum

   if $f_1,f_2$ are convex, then $f(x)=\max{f_1,f_2}$ is convex

逐点最大操作保凸；
可以推广到无穷多个凸集（因为是(定义域)取交？）

1. Pointwise supremum

   if $f(x,y)$ is convex, then $g(x)=\sup f(x,y)$ is convex

逐点上确界操作保凸

1. Estabilishing by affine function

   $f(x)=\sup{g(x)}$ , $g$ is affine

由凸函数->仿射函数族的证明：做 $\textbf{epi}\ f$ 上的支撑超平面
仿射函数族->凸函数的证明：多个函数的逐点上确界保凸

保证了共轭函数是凸函数

1. Composition with scalar functions

   

标量函数复合：需满足的条件

1. Vector composition

矢量复合需满足的条件

1. Minimization

   if $f(x,y)$ is convex function and $\mathcal{C}$ is a convex set, then $g(x)=\underset{y\in\mathcal{C}}\inf f(x,y)$ is convex

$g$ 相当于 $f$ 在某个分量上的投影取 $\min$ (想像从y轴的平行方向看$t=f(x,y)$的投影，再把投影生成的面积取下界得到的仍然是凸函数)

1. Perspective

透视运算保凸

The conjugate function

• Define: $f^*(y)=\underset{x\in\mathbf{dom} f}{\sup}(y^Tx-f(x))$

  相当于这个仿射函数族遍历所有的斜率(斜率为x)，b取$-f(x)$

  对仿射函数族取逐点上确界的操作保证了$f^*(y)$ 的凸性，无论$f(x)$是否凸

2. Quasiconvex functions

• Define: $f$ is quasiconvex if $S_\alpha ={x\in\mathbf{dom}f\mid f(x)\leq\alpha }$ are convex for all $\alpha$

即定义域为凸，所有下水平集为凸

2.1 Properties

- Modified Jensen inequality

$f$ is quasiconvex $\Leftrightarrow$ $f(\theta x+(1-\theta)y)\leq\max{f(x),f(y}$

- In R

$f$ is quasiconvex $\Leftrightarrow$ $f$ 在 $c\in\mathbf{dom}f$ 左侧非增右侧非减，且 $f$ 非增非减

- First-order condition

$f$ is quasiconvex $\Leftrightarrow$[ $f(y)\leq f(x)\rightarrow\triangledown f(x)^T(y-x)\leq 0$]

梯度与 y-x 连线反向

3. Log-concave and log-convex functions

• Define: $f$ is log-convex if for all $x\in\mathbf{dom}f$ , $f(x)>0$ and $\log f$ is convex