算法复杂度,时间复杂度,空间复杂度
算法复杂度:
算法在编写成可执行程序后,运行时所需要的资源,资源包括时间资源和内存资源。
其中时间资源对应时间复杂度,内存资源对应空间复杂度。
考察一个算法主要从时间复杂度
和空间复杂度
来衡量
时间复杂度
时间频度
一个算法执行所消耗的时间,与算法中语句执行次数成正比
,一个算法中语句执行次数称为语句频度,或时间频度,记为
。
时间复杂度
可以模糊的认为算法的时间复杂度是执行算法所需要的计算工作量。算法的时间复杂度是描述算法的时间频度 与问题规模n的变化规律,较准确的定义是:
一般情况下,算法中基本操作重复执行的次数是问题规模n的某个函数,用 表示,若有某个辅助函数f(n),使得当n趋近于无穷大时, 的极限值为不等于零的常数,则称 是 的同数量级函数。记作 ,称 为算法的渐进时间复杂度,简称时间复杂度。
另外,上面公式中用到的 Landau符号其实是由德国数论学家保罗·巴赫曼(Paul Bachmann)在其1892年的著作《解析数论》首先引入,由另一位德国数论学家艾德蒙·朗道(Edmund Landau)推广。Landau符号的作用在于用简单的函数来描述复杂函数行为,给出一个上或下(确)界。在计算算法复杂度时一般只用到大O符号,Landau符号体系中的小o符号、Θ符号等等比较不常用。这里的O,最初是用大写希腊字母,但现在都用大写英语字母O;小o符号也是用小写英语字母o, 符号则维持大写希腊字母 。
**$T (n) = Ο(f (n))$** 表示存在一个常数C,使得在当n趋于正无穷时总有 $T (n) ≤ C * f(n)$。简单来说,就是T(n)在n趋于正无穷时最大也就跟$f(n)$差不多大。也就是说当n趋于正无穷时**$T (n)$**的上界是**$C * f(n)$。**
其虽然对 没有规定,但是一般都是取尽可能简单的函数。例如,
,一般都只用
表示就可以了。注意到大O符号里隐藏着一个常数C,所以f(n)里一般不加系数。如果把T(n)当做一棵树,那么O(f(n))所表达的就是树干,只关心其中的主干,其他的细枝末节全都抛弃不管。
在各种不同算法中,若算法中语句执行次数为一个常数,则时间复杂度为O(1),另外,在时间频度不相同时,时间复杂度有可能相同,如 与 它们的频度不同,但时间复杂度相同,都为 。
在各种不同算法中,若算法中语句执行次数为一个常数,则时间复杂度为O(1),另外,在时间频度不相同时,时间复杂度有可能相同,如
与
它们的频度不同,但时间复杂度相同,都为O(*n*2)。 按数量级递增排列,常见的时间复杂度有:常数阶 ,对数阶 ,线性阶O(n), 线性对数阶 ,平方阶 ,立方阶 ,…, k次方阶 ,指数阶 。随着问题规模n的不断增大,上述时间复杂度不断增大,算法的执行效率越低。
常见的算法时间复杂度由小到大依次为:
计算时间复杂度
一般情况下,对一个问题(或一类算法)只需选择一种基本操作来讨论即可,有时也需要同时考虑几种基本操作,甚至可以对不同的操作赋予不同的权值,以反映执行不同操作所需的相对时间,这种做法便于综合比较解决同一问题的两种完全不同的算法。
找出基本语句:
算法中执行次数最多的那条语句就是基本语句,通常是最内层循环的循环体。
计算基本语句的执行次数的数量级;
只需计算基本语句执行次数的数量级,这就意味着只要保证基本语句执行次数的函数中的最高次幂正确即可,可以忽略所有低次幂和最高次幂的系数。这样可简化算法分析,并且使注意力集中在最重要的一点上:增长率。
用大Ο记号表示算法的时间性能。
将基本语句执行次数的数量级放入大Ο记号中。
如果算法中包含嵌套的循环,则基本语句通常是最内层的循环体,如果算法中包含并列的循环,则将并列循环的时间复杂度相加。
一般来说,只要算法中不存在循环语句,其时间复杂度就是Ο(1)。
空间复杂度
类似于时间复杂度的讨论,一个算法的空间复杂度(Space Complexity)S(n)定义为该算法所耗费的存储空间,它也是问题规模n的函数。渐近空间复杂度也常常简称为空间复杂度。
空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。
空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。一个算法在计算机存储器上所占用的存储空间,包括存储算法本身所占用的存储空间,算法的输入输出数据所占用的存储空间和算法在运行过程中临时占用的存储空间这三个方面。算法的输入输出数据所占用的存储空间是由要解决的问题决定的,是通过参数表由调用函数传递而来的,它不随本算法的不同而改变。存储算法本身所占用的存储空间与算法书写的长短成正比,要压缩这方面的存储空间,就必须编写出较短的算法。算法在运行过程中临时占用的存储空间随算法的不同而异,有的算法只需要占用少量的临时工作单元,而且不随问题规模的大小而改变,我们称这种算法是“就地\”进行的,是节省存储的算法,如这一节介绍过的几个算法都是如此;有的算法需要占用的临时工作单元数与解决问题的规模n有关,它随着n的增大而增大,当n较大时,将占用较多的存储单元,例如将在第九章介绍的快速排序和归并排序算法就属于这种情况。
如当一个算法的空间复杂度为一个常量,即不随被处理数据量n的大小而改变时,可表示为O(1);当一个算法的空间复杂度与以2为底的n的对数成正比时,可表示为 ;当一个算法的空I司复杂度与n成线性比例关系时,可表示为0(n).若形参为数组,则只需要为它分配一个存储由实参传送来的一个地址指针的空间,即一个机器字长空间;若形参为引用方式,则也只需要为其分配存储一个地址的空间,用它来存储对应实参变量的地址,以便由系统自动引用实参变量。