优化算法(二):遗传算法

一、什么是遗传算法

1.1 遗传算法的科学定义

遗传算法(Genetic Algorithm, GA)是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法。

其主要特点是直接对结构对象进行操作,不存在求导和函数连续性的限定;具有内在的隐并行性和更好的全局寻优能力;采用概率化的寻优方法,不需要确定的规则就能自动获取和指导优化的搜索空间,自适应地调整搜索方向。

遗传算法以一种群体中的所有个体为对象,并利用随机化技术指导对一个被编码的参数空间进行高效搜索。其中,选择、交叉和变异构成了遗传算法的遗传操作;参数编码、初始群体的设定、适应度函数的设计、遗传操作设计、控制参数设定五个要素组成了遗传算法的核心内容。

1.2 遗传算法的执行过程

遗传算法是从代表问题可能潜在的解集的一个种群(population)开始的,而一个种群则由经过基因(gene)编码的一定数目的个体(individual)组成。每个个体实际上是染色体(chromosome)带有特征的实体。

染色体作为遗传物质的主要载体,即多个基因的集合,其内部表现(即基因型)是某种基因组合,它决定了个体的形状的外部表现,如黑头发的特征是由染色体中控制这一特征的某种基因组合决定的。因此,在一开始需要实现从表现型到基因型的映射即编码工作。由于仿照基因编码的工作很复杂,我们往往进行简化,如二进制编码。

初代种群产生之后,按照适者生存和优胜劣汰的原理,逐代(generation)演化产生出越来越好的近似解,在每一代,根据问题域中个体的适应度(fitness)大小选择(selection)个体,并借助于自然遗传学的遗传算子(genetic operators)进行组合交叉(crossover)和变异(mutation)产生出代表新的解集的种群

这个过程将导致种群像自然进化一样的后生代种群比前代更加适应于环境,末代种群中的最优个体经过解码(decoding),可以作为问题近似最优解

1.3 遗传算法过程图解

二、相关生物学术语

  • 基因型(genotype):性状染色体的内部表现;

  • 表现型(phenotype):染色体决定的性状的外部表现,或者说,根据基因型形成的个体的外部表现;

  • 个体(individual):指染色体带有特征的实体;

  • 种群(population):个体的集合,该集合内个体数称为种群;

  • 进化(evolution):种群逐渐适应生存环境,品质不断得到改良。生物的进化是以种群的形式进行的。

  • 适应度(fitness):度量某个物种对于生存环境的适应程度。

  • 选择(selection):以一定的概率从种群中选择若干个个体。一般,选择过程是一种基于适应度的优胜劣汰的过程;

  • 复制(reproduction):细胞分裂时,遗传物质DNA通过复制而转移到新产生的细胞中,新细胞就继承了旧细胞的基因;

  • 交叉(crossover):两个染色体的某一相同位置处DNA被切断,前后两串分别交叉组合形成两个新的染色体。也称基因重组或杂交;

  • 变异(mutation):复制时可能(很小的概率)产生某些复制差错,变异产生新的染色体,表现出新的性状;

  • 编码(coding):DNA中遗传信息在一个长链上按一定的模式排列。遗传编码可看作从表现型到基因型的映射;

  • 解码(decoding):基因型到表现型的映射;

三、问题的引出与解决

3.1 现在我们要在[-1,1]的区间内找出如下函数的最大值:

我们可以很容易的看到,上面的函数存在很多极大值和极小值,而最大值是指定区间种极大值最大的那一个。从图像上具体表现为,极大值像是一座座山峰,极小值则是像一座座山谷。因此,我们可以把遗传算法的过程看作是一个在多元函数里面求最优解的过程。这些山峰对应着局部最优解,其中有一个山峰是海拔最高的,这个山峰则对应的是全局最优解。那么,遗传算法要做的就是尽量爬到最高峰,而不是困在较低的小山峰上。(如果问题求解是最小值,那么要做的就是尽量走到最低谷,道理是一样的)。

3.2 “袋鼠蹦跳”

既然我们把函数曲线理解成一个一个山峰和山谷组成的山脉。那么我们可以设想所得到的每一个解就是一只袋鼠,我们希望它们不断的向着更高处跳去,直到跳到最高的山峰。所以求最大值的过程就转化成一个“袋鼠跳”的过程。

下面介绍介绍“袋鼠跳”的几种方式。

  • 爬山算法:一只袋鼠朝着比现在高的地方跳去。它找到了不远处的最高的山峰。但是这座山不一定是最高峰。这就是爬山算法,它不能保证局部最优值就是全局最优值
  • 模拟退火:袋鼠喝醉了。它随机地跳了很长时间。这期间,它可能走向高处,也可能踏入平地。但是,它渐渐清醒了并朝最高峰跳去。这就是模拟退火算法。
  • 遗传算法:有很多袋鼠,它们降落到喜玛拉雅山脉的任意地方。这些袋鼠并不知道它们的任务是寻找珠穆朗玛峰。但每过几年,就在一些海拔高度较低的地方射杀一些袋鼠。于是,不断有袋鼠死于海拔较低的地方,而越是在海拔高的袋鼠越是能活得更久,也越有机会生儿育女。就这样经过许多年,这些袋鼠们竟然都不自觉地聚拢到了一个个的山峰上,可是在所有的袋鼠中,只有聚拢到珠穆朗玛峰的袋鼠被带回了美丽的澳洲。

四、大体实现过程

遗传算法中每一条染色体,对应着遗传算法的一个解决方案,一般我们用适应性函数(fitness function)来衡量这个解决方案的优劣。所以从一个基因组到其解的适应度形成一个映射。遗传算法的实现过程实际上就像自然界的进化过程那样。

下面我们用袋鼠跳中的步骤一一对应解释,以方便大家理解:

  1. 首先寻找一种对问题潜在解进行“数字化”编码的方案。(建立表现型和基因型的映射关系)
  2. 随机初始化一个种群(那么第一批袋鼠就被随意地分散在山脉上),种群里面的个体就是这些数字化的编码。
  3. 接下来,通过适当的解码过程(得到袋鼠的位置坐标)。
  4. 用适应性函数对每一个基因个体作一次适应度评估(袋鼠爬得越高当然就越好,所以适应度相应越高)。
  5. 用选择函数按照某种规定择优选择(每隔一段时间,射杀一些所在海拔较低的袋鼠,以保证袋鼠总体数目持平。)。
  6. 让个体基因变异(让袋鼠随机地跳一跳)。
  7. 然后产生子代(希望存活下来的袋鼠是多产的,并在那里生儿育女)。

遗传算法并不保证你能获得问题的最优解,但是使用遗传算法的最大优点在于你不必去了解和操心如何去“找”最优解。(你不必去指导袋鼠向那边跳,跳多远。)而只要简单的“否定”一些表现不好的个体就行了。(把那些总是爱走下坡路的袋鼠射杀,这就是遗传算法的精髓!)

由此我们可以得出遗传算法的一般步骤:

  1. 随机产生种群。
  2. 根据策略判断个体的适应度,是否符合优化准则,若符合,输出最佳个体及其最优解,结束。否则,进行下一步。
  3. 依据适应度选择父母,适应度高的个体被选中的概率高,适应度低的个体被淘汰。
  4. 用父母的染色体按照一定的方法进行交叉,生成子代。
  5. 对子代染色体进行变异。
  6. 由交叉和变异产生新一代种群,返回步骤2,直到最优解产生。

五、具体实现过程

5.1 编码

编码是应用遗传算法时要解决的首要问题,也是设计遗传算法时的一个关键步骤。编码方法影响到交叉算子、变异算子等遗传算子的运算方法,很大程度上决定了遗传进化的效率

迄今为止人们已经提出了许多种不同的编码方法。总的来说,这些编码方法可以分为三大类:二进制编码法、浮点编码法、符号编码法。下面分别进行介绍:

5.1.1 二进制编码

就像人类的基因有AGCT这4种碱基序列一样,不过在这里我们只用了0和1两种碱基,然后将他们串成一条链形成染色体。一个位能表示出2种状态的信息量,因此足够长的二进制染色体便能表示所有的特征,这便是二进制编码。如下: 1110001010111

它由二进制符号0和1所组成的二值符号集。它有以下一些优点

  1. 编码、解码操作简单易行
  2. 交叉、变异等遗传操作便于实现
  3. 合最小字符集编码原则
  4. 利用模式定理对算法进行理论分析

二进制编码的缺点是:对于一些连续函数的优化问题,由于其随机性使得其局部搜索能力较差,如对于一些高精度的问题(如上题),当解迫近于最优解后,由于其变异后表现型变化很大,不连续,所以会远离最优解,达不到稳定。

5.1.2 浮点编码法

二进制编码虽然简单直观,但明显的存在着连续函数离散化时的映射误差。个体长度较短时,可能达不到精度要求,而个体编码长度较长时,虽然能提高精度,但增加了解码的难度,使遗传算法的搜索空间急剧扩大。

所谓浮点法,是指个体的每个基因值用某一范围内的一个浮点数来表示。在浮点数编码方法中,必须保证基因值在给定的区间限制范围内,遗传算法中所使用的交叉、变异等遗传算子也必须保证其运算结果所产生的新个体的基因值也在这个区间限制范围内。如下所示:

1.2-3.2-5.3-7.2-1.4-9.7

浮点数编码方法有下面几个优点:

  1. 适用于在遗传算法中表示范围较大的数
  2. 适用于精度要求较高的遗传算法
  3. 便于较大空间的遗传搜索
  4. 改善了遗传算法的计算复杂性,提高了运算交率
  5. 便于遗传算法与经典优化方法的混合使用
  6. 便于设计针对问题的专门知识的知识型遗传算子
  7. 便于处理复杂的决策变量约束条件
5.1.3 符号编码法

符号编码法是指个体染色体编码串中的基因值取一个无数值含义、而只有代码含义的符号集如{A,B,C…}
符号编码的主要优点是:

  1. 符合有意义积术块编码原则
  2. 便于在遗传算法中利用所求解问题的专门知识
  3. 便于遗传算法与相关近似算法之间的混合使用

5.2 为我们的袋鼠染色体编码

在上面介绍了一系列编码方式以后,那么,如何利用上面的编码来为我们的袋鼠染色体编码呢?首先我们要明确一点编码无非就是建立从基因型到表现型的映射关系。这里的表现型可以理解为个体特征(比如身高、体重、毛色等等)。那么,在此问题下,我们关心的个体特征就是:袋鼠的位置坐标(因为我们要把海拔低的袋鼠给杀掉)。无论袋鼠长什么样,爱吃什么。我们关心的始终是袋鼠在哪里,并且只要知道了袋鼠的位置坐标(位置坐标就是相应的染色体编码,可以通过解码得出),我们就可以:

  1. 在喜马拉雅山脉的地图上找到相应的位置坐标,算出海拔高度。(相当于通过自变量求得适应函数的值)然后判断该不该射杀该袋鼠。
  2. 可以知道染色体交叉和变异后袋鼠新的位置坐标。

回到求一元函数最大值的问题。在上面我们把极大值比喻为山峰,那么,袋鼠的位置坐标可以比喻为区间[-1, 1]的某一个x坐标。这个x坐标是一个实数,现在,说白了就是怎么对这个x坐标进行编码。下面我们以二进制编码为例讲解。(如果以浮点数编码,其实就很简洁了,就一浮点数而已。)

我们说过,一定长度的二进制编码序列,只能表示一定精度的浮点数。在这里假如我们要求解精确到六位小数,由于区间长度为1 - (-1) = 2 ,为了保证精度要求,至少把区间 [-1,1] 分为2 × 10^6等份。又因为:

2^20 = 1048576 < 2*10^6 < 2^21 = 2097152

所以编码的二进制串至少需要21位。

把一个二进制串 $(b_0 \dots b_{19}b_{20})$ 转化为区间里面对应的实数值可以通过下面两个步骤:

  • 将一个二进制串代表的二进制数转化为10进制数:

  • 对应区间内的实数:

上面的编码方式只是举个例子让大家更好理解而已,编码的方式千奇百怪,层出不穷,每个问题可能采用的编码方式都不一样。

5.3 评价个体的适应度—适应度函数(fitness function)

前面说了,适应度函数主要是通过个体特征从而判断个体的适应度。在本例的袋鼠跳中,我们只关心袋鼠的海拔高度,以此来判断是否该射杀该袋鼠。这样一来,该函数就非常简单了。只要输入袋鼠的位置坐标,在通过相应查找运算,返回袋鼠当前位置的海拔高度就行。

适应度函数也称评价函数,是根据目标函数确定的用于区分群体中个体好坏的标准。适应度函数总是非负的而目标函数可能有正有负,故需要在目标函数与适应度函数之间进行变换

评价个体适应度的一般过程为

  1. 对个体编码串进行解码处理后,可得到个体的表现型。
  2. 由个体的表现型可计算出对应个体的目标函数值。
  3. 根据最优化问题的类型,由目标函数值按一定的转换规则求出个体的适应度。

5.4 射杀一些袋鼠—选择函数(selection)

遗传算法中的选择操作就是用来确定如何从父代群体中按某种方法选取那些个体,以便遗传到下一代群体。选择操作用来确定重组或交叉个体,以及被选个体将产生多少个子代个体。前面说了,我们希望海拔高的袋鼠存活下来,并尽可能繁衍更多的后代。但我们都知道,在自然界中,适应度高的袋鼠越能繁衍后代,但这也是从概率上说的而已,毕竟有些适应度低的袋鼠也可能逃过我们的眼睛。

那么,怎么建立这种概率关系呢?

下面介绍几种常用的选择算子:

  1. 轮盘赌选择(Roulette Wheel Selection):是一种回放式随机采样方法。每个个体进入下一代的概率等于它的适应度值与整个种群中个体适应度值和的比例,选择误差较大。
  2. 随机竞争选择(Stochastic Tournament):每次按轮盘赌选择一对个体,然后让这两个个体进行竞争,适应度高的被选中,如此反复,直到选满为止。
  3. 最佳保留选择:首先按轮盘赌选择方法执行遗传算法的选择操作,然后将当前群体中适应度最高的个体结构完整地复制到下一代群体中。

具体介绍一下轮盘赌选择:

轮盘赌选择又称比例选择方法。其基本思想是:各个个体被选中的概率与其适应度大小成正比

具体操作如下:

  1. 计算出群体中每个个体的适应度大小
  2. 计算出每个个体被遗传到下一代群体中的概率: $P(x_i) = \frac{f(x_i)}{\sum_{j=1}^{N}f(x_j)}$
  3. 计算出每个个体的累积概率: $q_i = \sum_{j=1}^{i}P(x_j)$
  4. 在[0,1]区间内产生一个均匀分布的随机数r;
  5. 若 r < q[1],则选择个体1,否则,选择个体k,使得:q[k-1]<r≤q[k] 成立;
  6. 重复4、5

5.5 遗传—染色体交叉(crossover)

遗传算法的交叉操作,是指对两个相互配对的染色体按某种方式相互交换其部分基因,从而形成两个新的个体。

适用于二进制编码个体或浮点数编码个体的交叉算子:

  1. 单点交叉(One-point Crossover):指在个体编码串中只随机设置一个交叉点,然后再该点相互交换两个配对个体的部分染色体。
  2. 两点交叉与多点交叉:(1) 两点交叉(Two-point Crossover):在个体编码串中随机设置了两个交叉点,然后再进行部分基因交换。(2) 多点交叉(Multi-point Crossover)
  3. 均匀交叉(也称一致交叉,Uniform Crossover):两个配对个体的每个基因座上的基因都以相同的交叉概率进行交换,从而形成两个新个体。
  4. 算术交叉(Arithmetic Crossover):由两个个体的线性组合而产生出两个新的个体。该操作对象一般是由浮点数编码表示的个体。

5.6 变异—基因突变(Mutation)

遗传算法中的变异运算,是指将个体染色体编码串中的某些基因座上的基因值用该基因座上的其它等位基因来替换,从而形成新的个体。

例如下面这串二进制编码:

101101001011001

经过基因突变后,可能变成以下这串新的编码:

001101011011001

以下变异算子适用于二进制编码和浮点数编码的个体:

  1. 基本位变异(Simple Mutation):对个体编码串中以变异概率、随机指定的某一位或某几位仅因座上的值做变异运算。
  2. 均匀变异(Uniform Mutation):分别用符合某一范围内均匀分布的随机数,以某一较小的概率来替换个体编码串中各个基因座上的原有基因值。(特别适用于在算法的初级运行阶段)
  3. 边界变异(Boundary Mutation):随机的取基因座上的两个对应边界基因值之一去替代原有基因值。特别适用于最优点位于或接近于可行解的边界时的一类问题。
  4. 非均匀变异:对原有的基因值做一随机扰动,以扰动后的结果作为变异后的新基因值。对每个基因座都以相同的概率进行变异运算之后,相当于整个解向量在解空间中作了一次轻微的变动。
  5. 高斯近似变异:进行变异操作时用符号均值为 $P$ 的平均值,方差为 $P^2$ 的正态分布的一个随机数来替换原有的基因值。

六、利用Python实现遗传算法解决上述问题

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from matplotlib.font_manager import FontProperties
import copy

class GA():
def __init__(self, a, b, init_num):
self.a = a # 区间左端
self.b = b # 区间右端
self.init_num = init_num # 初始个体数目
self.bin_length = 0 # 二进制编码长度

def initial(self): # 在给定区间上实现二进制编码
dec_num = (self.b - self.a) * 10 ** 6
for i in range(20, 30):
if dec_num >= 2**i and dec_num < 2**(i+1):
self.bin_length = i+1
break
return np.random.randint(0,2,(self.init_num, self.bin_length))

def decode(self, ss):
"""
:param ss: type(str)
:return: float
"""
return -1 + int(ss, 2) * (self.b-self.a) / (2**self.bin_length - 1)

def funcY(self, x):
return x * np.sin(10*np.pi*x)

def compute_fitness(self, lst):
code_string = ''.join([str(_) for _ in lst])
value = self.decode(code_string) # 十进制数值
return self.funcY(value)

def circle(self, array):
fitness = []
for i in range(array.shape[0]): # 计算每个个体适应度
fitness.append(self.compute_fitness(array[i]))
fitness = np.array(fitness)
fitness = np.e ** fitness
# 轮盘赌选择
f = fitness / np.sum(fitness)
q = np.cumsum(f)
rand = np.random.rand(array.shape[0])
rand_index = np.zeros(array.shape[0])
for r in rand:
for j in range(array.shape[0]):
left = 0 if j == 0 else q[j - 1]
if r > left and r < q[j]:
rand_index[j] += 1
rand_index = [i for i in range(array.shape[0]) if rand_index[i]] # 轮盘赌索引
next_array = np.array([list(array[i]) for i in rand_index]) # 选择后的个体矩阵

# 选择剩下的30%进行交叉
newgroup_num = next_array.shape[0]
for xnum in range(int(newgroup_num * 0.3)):
randnum1 = np.random.randint(0, newgroup_num)
randnum2 = np.random.randint(0, newgroup_num)
if randnum1 != randnum2:
individual1 = next_array[randnum1]
individual2 = next_array[randnum2]
midvar = copy.deepcopy(individual1[int(self.bin_length * 0.3):])
individual1[int(self.bin_length * 0.3):] = individual2[int(self.bin_length * 0.3):]
individual2[int(self.bin_length * 0.3):] = midvar
next_array[randnum1] = individual1
next_array[randnum2] = individual2

# 变异
for i in range(newgroup_num):
rand1 = np.random.rand()
if rand1 < 0.01:
next_array[i][int(self.bin_length * 0.8)] = 0 if next_array[i][int(self.bin_length * 0.8)] == 1 else 1

return next_array

def main(self):
init_array = self.initial() # 初始化
next_array = self.circle(init_array)
for ii in range(10):
next_array = self.circle(next_array)

X = []
Y = []
for ii in next_array:
X.append(self.decode(''.join([str(_) for _ in ii])))
Y.append(self.compute_fitness(ii))
return X, Y

if __name__ == '__main__':
ga = GA(-1, 1, 1000)
X, Y = ga.main()
print(X,Y)
rowX = np.arange(-1,1,0.01)
plt.plot(rowX, ga.funcY(rowX), linewidth=2)
plt.scatter(X, Y,c='r')
plt.show()

图示如下: