aiwa 发表于 2007-4-16 23:52:37

【原创】用遗传算法优化BP神经网络的Matlab编程实例

此文章首次在simwe公开发表,属于GreenSim团队原创作品,转载请注明!
更多原创程序,请访问GreenSim团队主页http://blog.sina.com.cn/greensim

由于BP网络的权值优化是一个无约束优化问题,而且权值要采用实数编码,所以直接利用Matlab遗传算法工具箱。以下贴出的代码是为一个19输入变量,1个输出变量情况下的非线性回归而设计的,如果要应用于其它情况,只需改动编解码函数即可。

程序一:GA训练BP权值的主函数
function net=GABPNET(XX,YY)
%--------------------------------------------------------------------------
%GABPNET.m
%使用遗传算法对BP网络权值阈值进行优化,再用BP算法训练网络
%--------------------------------------------------------------------------
%数据归一化预处理
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
%创建网络
net=newff(minmax(XX),,{'tansig','tansig','purelin'},'trainlm');
%下面使用遗传算法对网络进行优化
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隐含层节点数
S=R*S1+S1*S2+S1+S2;%遗传算法编码长度
aa=ones(S,1)*[-1,1];
popu=50;%种群规模
initPpp=initializega(popu,aa,'gabpEval');%初始化种群
gen=100;%遗传代数
%下面调用gaot工具箱,其中目标函数定义为gabpEval
=ga(aa,'gabpEval',[],initPpp,,'maxGenTerm',gen,...
'normGeomSelect',,['arithXover'],,'nonUnifMutation',);
%绘收敛曲线图
figure(1)
plot(trace(:,1),1./trace(:,3),'r-');
hold on
plot(trace(:,1),1./trace(:,2),'b-');
xlabel('Generation');
ylabel('Sum-Squared Error');
figure(2)
plot(trace(:,1),trace(:,3),'r-');
hold on
plot(trace(:,1),trace(:,2),'b-');
xlabel('Generation');
ylabel('Fittness');
%下面将初步得到的权值矩阵赋给尚未开始训练的BP网络
=gadecod(x);
net.LW{2,1}=W1;
net.LW{3,2}=W2;
net.b{2,1}=B1;
net.b{3,1}=B2;
XX=P;
YY=T;
%设置训练参数
net.trainParam.show=1;
net.trainParam.lr=1;
net.trainParam.epochs=50;
net.trainParam.goal=0.001;
%训练网络
net=train(net,XX,YY);


程序二:适应值函数
function = gabpEval(sol,options)
% val - the fittness of this individual
% sol - the individual, returned to allow for Lamarckian evolution
% options -
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隐含层节点数
S=R*S1+S1*S2+S1+S2;%遗传算法编码长度
for i=1:S,
   x(i)=sol(i);
end;
=gadecod(x);

程序三:编解码函数
function =gadecod(x)
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隐含层节点数
S=R*S1+S1*S2+S1+S2;%遗传算法编码长度
% 前R*S1个编码为W1
for i=1:S1,
    for k=1:R,
      W1(i,k)=x(R*(i-1)+k);
    end
end
% 接着的S1*S2个编码(即第R*S1个后的编码)为W2
for i=1:S2,
   for k=1:S1,
      W2(i,k)=x(S1*(i-1)+k+R*S1);
   end
end
% 接着的S1个编码(即第R*S1+S1*S2个后的编码)为B1
for i=1:S1,
   B1(i,1)=x((R*S1+S1*S2)+i);
end
% 接着的S2个编码(即第R*S1+S1*S2+S1个后的编码)为B2
for i=1:S2,
   B2(i,1)=x((R*S1+S1*S2+S1)+i);
end
% 计算S1与S2层的输出
A1=tansig(W1*P,B1);
A2=purelin(W2*A1,B2);
% 计算误差平方和
SE=sumsqr(T-A2);
val=1/SE; % 遗传算法的适应值


注意:上面的函数需要调用gaot工具箱,请从附件里下载!

[ 本帖最后由 aiwa 于 2007-4-16 19:20 编辑 ]

daocaoren 发表于 2007-7-17 19:43:28

为什么下载的文件中data.m文件打不开?是下载的问题还是文件本身的问题?

为什么下载的文件中data.m文件打不开?是下载的问题还是文件本身的问题?

daocaoren 发表于 2007-8-2 20:08:05

lz
里面的data1,data2文件为何打不开啊

ice.beauty 发表于 2007-8-17 20:58:37

问一下楼主,我运行过这个程序,可是出错了,=ga(aa,'gabpEval',[],initPpp,,'maxGenTerm',gen,...
'normGeomSelect',,['arithXover'],,'nonUnifMutation',);就是这句,错误提示说‘太多的输入变量’,不知能不能给解决一下?

男人 发表于 2007-8-27 21:10:35

楼主能否在百忙之中抽出点时间,针对你发的帖子细讲一下编解码和怎么预测方面的实现过程,比如说4个输入变量10个输出变量这样的情况又该怎么弄?能对照你的原程序对比解惑一下吗?对于新手是很有帮助的:P

liulan2000 发表于 2007-9-3 21:26:13

ice

把程序中的省略号去掉就可以了

liulan2000 发表于 2007-9-3 21:29:37

稻草人你好

lz
里面的data1,data2文件在哪里啊?我怎么没有看到阿?

liulan2000 发表于 2007-9-3 21:30:37

稻草人你好


lz
里面的data1,data2文件在哪里啊?我怎么没有看到阿?
能跟我说一下吗?
谢谢了

liulan2000 发表于 2007-9-3 22:21:58

gabp程序老是跳不出循环

xiaogui3200 发表于 2007-9-11 18:41:52

省略号码应该不会影响的 我运行了也有问题Eval 有问题

hero1_1985 发表于 2007-9-13 11:46:54

有两个问题是关于算法的,希望不吝赐教。
用这种算法是为了避免局部最优和提高收敛速度吧。
1。开始用GA训练BP权值,但这种权值在BP里的收敛速度比一开始就用随机数产生的权值训练是否有增大?
2。GA训练的权值再用BP训练,全局最优的概率是否变大?

hero1_1985 发表于 2007-9-13 11:53:15

希望大侠最好给出这种算法和matlab自带的算法的比较说明,我们才能放心的用啊。:lol

aiwa 发表于 2007-9-18 23:03:41

程序是没有问题的,不过我可能忘说了,就是程序里面有几处是需要修改,它们是
程序一:
net=newff(minmax(XX),,{'tansig','tansig','purelin'},'trainlm');
程序二:
S1=25;%隐含层节点数
程序三:
S1=25;%隐含层节点数

jevesn 发表于 2007-12-28 10:03:17

程序很多都运行不了啊,你说的这些要改什么,能不能说清楚点

jimmychaos 发表于 2007-12-29 12:00:18

看过姚新大侠的研究论文,采用进化算法对前馈网络的不只是权值调整,还有网络结构和训练规则都进行了基于进化的优化设计,没看过的建议看一下,受益匪浅

lvlv 发表于 2008-1-21 22:46:01

哈哈

有没有液压方面的呀

qiudh 发表于 2008-1-28 22:33:48

姚新大侠是谁啊,他的什么大作啊

看过姚新大侠的研究论文,采用进化算法对前馈网络的不只是权值调整,还有网络结构和训练规则都进行了基于进化的优化设计,没看过的建议看一下,受益匪浅

谁能给我讲讲他的什么论文啊,我好在网上找找,学习一下哦!

jimmychaos 发表于 2008-2-21 13:13:59

姚新这方面的代表论文:X. Yao, ``Evolving artificial neural networks,'' Proceedings of the IEEE, 87(9):1423-1447, September 1999。下载地址:点这里

wangyi2002598 发表于 2008-5-31 13:18:53

好想这个实现起来有点困难,楼主的例子算出来的适应度很不好啊。希望有知道的指点下啊,共同学习进步。

piaophone 发表于 2008-6-9 17:06:42

楼上各位的问题我也遇到了
现在解决的,程序可以运行
第一步:load data1;
然后就把GABPNET里的程序拿来粘贴运行就行了
function那一句不用,这是在编辑m文件必须定义的,在command windows窗口里是不能运行的

修改的那三个地方是自己应用时根据自己的数据该输入输出层隐层个数
测试源程序不用修改
页: [1] 2 3
查看完整版本: 【原创】用遗传算法优化BP神经网络的Matlab编程实例