一.算法简介

1.1思想来源

粒子群算法（Particle Swarm Optimization，PSO）是1995年提出的一种全局搜索算法，同时也是一种模拟自然界的生物活动以及群体智能的随机搜索算法，因其概念简明、实现方便、收敛速度快而为人所知。

粒子群算法的基本思想是模拟鸟群随机搜寻食物的捕食行为，鸟群通过自身经验和种群之间的交流调整自己的搜寻路径，从而找到食物最多的地点。其中每只鸟的位置/路径则为自变量组合，每次到达的地点的食物密度即函数值。每次搜寻都会根据自身经验（自身历史搜寻的最优地点）和种群交流（种群历史搜寻的最优地点）调整自身搜寻方向和速度，这个称为跟踪极值，从而找到最优解。

1.2基本原理

粒子群算法通过设计一种无质量的粒子来模拟鸟群中的鸟。
粒子仅具有两个属性：
速度：代表移动的快慢
位置：代表移动的方向。

每个粒子在搜索空间中单独的搜寻最优解，并将其记为当前个体极值，并将个体极值与整个粒子群里的其他粒子共享，找到最优的那个个体极值作为整个粒子群的当前全局最优解，粒子群中的所有粒子根据自己找到的当前个体极值和整个粒子群共享的当前全局最优解来调整自己的速度和位置。

速度和位置更新是粒子群算法的核心，其原理表达式和更新方式如下:
id：代数
X:位置
V:速度
w:惯性权重
c1:个体可信度
c2:群体可信度
r:随机数

二.基本流程

粒子群基本流程的主要分为：
1.参数初始化
2. 产生初始粒子和速度
3、寻找个体极值
4、寻找全局最优解
5、修改粒子的速度和位置

三.涉及参数

种群数量：影响算法的搜索能力和计算量。虽然初始种群越大收敛性会更好，不过太大了也会影响速度；

迭代次数：太少解不稳定，太多浪费时间。对于复杂问题，进化代数可以相应地提高；

惯性权重：该参数反映了个体历史成绩对现在的影响

加速系数：一般取0~2，此处要根据自变量的取值范围来定，分为个体和群体两种；

空间维数：粒子搜索的空间维数即为自变量的个数。

位置限制：限制粒子搜索的空间，即自变量的取值范围，对于无约束问题此处可以省略。

速度限制：如果粒子飞行速度过快，很可能直接飞过最优解位置，但是如果飞行速度过慢，会使得收敛速度变慢，因此设置合理的速度限制就很有必要了。

四.代码验证

1.加速系数与惯性因子

2.种群数量和空间维度

4.1 Griewank函数

此实验为验证三个最优值为0的多维函数
运行10次，每次迭代1000代 取平均值找到以下值的较好搭配：

二维图绘制：

4.1.1加速系数与惯性因子的探讨

在这里其他的参数为定值：
迭代次数：maxgen=1000;
种群规模：sizepop=200;
适应度函数维度：dim=10;

1.1 c1,c2为定值，w线性递减
c1 = 1.49445;
c2 = 1.49445;
w=-0.0007x+0.9(其中x为迭代次数1000，w随迭代次数从0.9到0.2线性变化)

1.2 c1线性递减，c2线性递增，w为定值
c1 = -0.0007x+0.9(其中x为迭代次数1000，c1随迭代次数从0.9到0.2线性变化)
c2 = 0.0007x+0.9(其中x为迭代次数1000，c2随迭代次数从0.2到0.9线性变化)
w=0.8

1.3 c1线性递减，c2线性递增，w线性递减

小结
1.对于Griewank函数来说，以上三种情况下不论是从最有适应度还是运行时间与收敛的迭代次数来看，差别都不是很大。很可能是因为c1，c2即使是定值的时候也已经是一个较好的值了，所以差别不是非常大。如果c1,c2在之前没有用一个较好的值应该会有更明显的差别。

2.但是相对而言第二种情况，即随着迭代次数的增加c1线性递减，c2线性递增，w为定值0.8时运行速度最快，收敛的速度也最快，算法效果最好。

4.1.2种群数量和空间维度的探讨

在上述实验的基础上，采用c1,c2线性变化，w为定值不变的情况下
迭代次数为500

种群数量为200更改维度
2.1维度为10

2.2维度为20

2.3维度为30

小结
1.当维度增大时，运行时间会随着维度的增大而明显增大
2.当维度增大时，收敛代数也会明显增大
3.当维度增大时，解的空间范围变广，求解的难度变大，所以运算时间增大，收敛速度变慢
4.当维度在10-20之间，该函数的最优适应度值稳定在最优解

维度为10更改种群数量
2.1种群数量为100

2.2种群数量为150

2.3种群数量为200

小结
1.种群数量影响着算法的搜索能力和计算量
2.当种群数量增大时，计算量变大所以运行时间变长
3.当维度增大时，搜索能力增强所以收敛的代数变少，即收敛效率变高
4.当种群数量在150-200之间时候，该函数的最优适应度值稳定在最优解且运行效果较好

4.2 Rastrigin函数

二维图绘制：

4.2.1加速系数与惯性因子的探讨

在这里其他的参数为定值：
迭代次数：maxgen=1000;
种群规模：sizepop=200;
适应度函数维度：dim=10;

1.1 c1,c2为定值，w线性递减
c1 = 1.49445;
c2 = 1.49445;
w=-0.0007x+0.9(其中x为迭代次数1000，w随迭代次数从0.9到0.2线性变化)

1.2 c1线性递减，c2线性递增，w为定值
c1 = -0.0007x+0.9(其中x为迭代次数1000，c1随迭代次数从0.9到0.2线性变化)
c2 = 0.0007x+0.9(其中x为迭代次数1000，c2随迭代次数从0.2到0.9线性变化)
w=0.8

1.3 c1线性递减，c2线性递增，w线性递减

小结
1.对于Rastrigin函数来说,可以从图像看出有非常多的局部最优，所以算法在运行时也非常容易陷入局部最优，很难得到全局最小值。因为粒子群算法有随机性，所以总是过早的陷入局部最优，或者结果在最后仍然在震荡未趋于稳定。不论是这三种情况的哪一种，效果都不是非常理想。因为最终的最有适应度平均值最小也差1.69左右。

2.但是相对而言，也是第二种情况，即随着迭代次数的增加c1线性递减，c2线性递增，w为定值0.8时效果比其他两者好，虽然运行时间不是最短的，但是最优适应度函数是较其他两者优的。

4.2.2种群数量和空间维度

在上述实验的基础上，采用c1,c2线性变化，w为定值不变的情况下
迭代次数为500

种群数量为200更改维度
2.1维度为10

2.2维度为20

2.3维度为30

小结
1.无论维度为多少，在当前参数的情况下，迭代500次都无法获得最优解
2.当维度增大时，所求得的最优解越来越不准确
3.当维度增大时，运行时间没有明显的增大
3.当维度增大时，收敛的代数也越来越趋于不稳定

维度为10更改种群数量
2.1种群数量为100

2.2种群数量为150

2.3种群数量为200

小结
1.无论种群数量为多少，在当前参数的情况下，迭代500次都无法获得最优解
2.种群数量影响着算法的搜索能力和计算量
3.当种群数量增大时，计算量变大所以运行时间变长
4.当种群数量为200时，该函数在迭代500次左右仍然不能趋于稳定
5.该函数极容易陷入局部最优解

4.3 Schaffer函数

二维图绘制：

4.3.1加速系数与惯性因子的探讨

在这里其他的参数为定值：
迭代次数：maxgen=1000;
种群规模：sizepop=200;
适应度函数维度：dim=10;

1.1 c1,c2为定值，w线性递减
c1 = 1.49445;
c2 = 1.49445;
w=-0.0007x+0.9(其中x为迭代次数1000，w随迭代次数从0.9到0.2线性变化)

1.2 c1线性递减，c2线性递增，w为定值
c1 = -0.0007x+0.9(其中x为迭代次数1000，c1随迭代次数从0.9到0.2线性变化)
c2 = 0.0007x+0.9(其中x为迭代次数1000，c2随迭代次数从0.2到0.9线性变化)
w=0.8

1.3 c1线性递减，c2线性递增，w线性递减

小结
1.对于Schaffer函数来说,同第一个函数一样，三者的性能相差不大，该算法对次函数的优化效果较好。

2.相对而言，同样是第二种情况，即随着迭代次数的增加c1线性递减，c2线性递增，w为定值0.8时效果比其他两者好，在较快时间和更小的收敛速度下得到最优值。

4.3.2种群数量和空间维度

在上述实验的基础上，采用c1,c2线性变化，w为定值不变的情况下
迭代次数为500

种群数量为200更改维度
2.1维度为10

2.2维度为20

2.3维度为30

小结
1.当维度增大时，运行时间会随着维度的增大而增大，但是不如第一个函数明显
2.当维度增大时，收敛代数会减小，收敛的速度变快
3.当维度在10-20之间，该函数的最优适应度值稳定在最优解

维度为10更改种群数量
2.1种群数量为100

2.2种群数量为150

2.3种群数量为200

小结
1.种群数量影响着算法的搜索能力和计算量
2.当种群数量增大时，计算量变大所以运行时间变长
3.当维度增大时，搜索能力增强所以收敛的代数变少，即收敛效率变高
4.当种群数量在150-200之间时候，该函数的最优适应度值稳定在最优解且运行效果较好

五.与基于遗传算法的函数优化对比

粒子群算法和遗传算法(GA)都是优化算法，都力图在自然特性的基础上模拟个体种群的适应性，它们都采用一定的变换规则通过搜索空间求解。都是基于随机搜索的全局优化算法。 对高维复杂问题，往往会遇到早熟收敛和收敛性能差的缺点，都无法保证收敛到最优点。

5.1 Griewank函数的对比实验

当其他参数都在相对较优的情况下比较
维度相同且为20
种群数量为90
迭代次数为500
各运行十次后
算法与例子群优化算法的结果
1.遗传算法

2.粒子群优化

小结
1.从实验结果来看，在迭代500次后粒子群优化算法的收敛速度速度和精确度要优于遗传算法。可见在稍高维度和种群数量较大的时候，该函数更适合用粒子群优化算法进行求解。
2.粒子群优化编码技术和遗传操作比较简单，不需要编码，没有交叉和变异操作，粒子只是通过内部速度进行更新，因此原理更简单、参数更少、实现更容易。
3.对于两节课的整体实验调参来看，粒子群优化算法对初始化参数的设置没有遗传算法那么敏感.
4. 两次实验的整体对比来看，粒子群优化算法更容易陷入局部最优解。

六.总结

粒子群算法是一种随机搜索算法 。

粒子的下一个位置受到自身历史经验和全局历史经验的双重影响，全局历史经验时刻左右着粒子的更新，群体中一旦出现新的全局最优，则后面的粒子立马应用这个新的全局最优来更新自己，大大提高了效率，相比与一般的算法(如遗传算法的交叉)，这个更新过程具有了潜在的指导，而并非盲目的随机 。

自身历史经验和全局历史经验的比例尤其重要，这能左右粒子的下一个位置的大体方向，所以，粒子群算法的改进也多种多样，尤其是针对参数和混合其他算法的改进 。

总体来说，粒子群算法是一种较大概率收敛于全局最优解的，适合在动态、多目标优化环境中寻优的一种高效率的群体智能算法。