算法复杂度的O到底是什么

以前在玩程序竞赛的时候。经常跟朋友讨论算法复杂度:

• “这个算法复杂度是$O(n^2)$，肯定爆掉了，这道题要用$O(n\log{n})$的算法”

类似的讨论非常多。但当时没深究过这个O到底是如何定义出来的，一直以为它跟数学分析里的高阶无穷小之类的是否有关系。上了大学课上的情报数学后，终于慢慢揭开了O的面纱。这里就来分享给还没学过的朋友。

定义1

对于函数$f:\mathbb{N}\rightarrow \mathbb{N},g:\mathbb{N}\rightarrow \mathbb{N}$ ，若满足

$\exist n_o \in \mathbb{N}, \exist c \in \mathbb{R}\quad s.t. \quad\forall n\in \mathbb{N} \\ n \geq n_o \Rightarrow f(n)\leq cg(n)$

则可写作

$f(n)=O(g(n))$

定理1

若$f(n)$是$k$次多项式，则$f(n)=O(n^k)$

证明：

可设$f(n)=\sum_{i=0}^{k}{a_in^i}$
有：
$\frac{f(n)}{n^k} = \sum_{i=0}^{k}{a_in^{i-k}}$
另设$b=\max_{i=0,\dots,k}{|a_i|}$，这时
$\forall n\geq 1, \left |\frac{a_{i}}{n^{k-i}} \right | \leq b$
所以
$\frac{f(n)}{n^k} = \sum_{i=0}^{k}{a_in^{i-k}}\leq \sum_{i=0}^{k}{b} = (k+1)b \\ f(n)\leq (k+1)bn^{k}$
这时只要设$n_0:=1,c:=(k+1)b$，根据定义1，定理1成立。

习题

试证明：

1. $2n=O(n)$
2. $n=O(n^k),k\geq1,k \in \mathbb{N}$
3. 若$f(n)=O(g(n)), g(n)=O(h(n))$，则$f(n)=O(h(n))$
4. $3^n\neq O(2^n)$ （提示：反证法）

来源：CSDN

作者：中梓星音※

链接：https://blog.csdn.net/ruanluyu/article/details/103595740