基于改进生成对抗网络的多能计量特征数据生成方法及装置.pdf

《基于改进生成对抗网络的多能计量特征数据生成方法及装置.pdf》由会员分享，可在线阅读，更多相关《基于改进生成对抗网络的多能计量特征数据生成方法及装置.pdf（11页完成版）》请在专利查询网上搜索。

1、(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 201911086794.7 (22)申请日 2019.11.08 (71)申请人 国网天津市电力公司 地址 300010 天津市河北区五经路39号 申请人 国家电网有限公司天津大学 中国电力科学研究院有限公司 (72)发明人 董得龙李野李刚窦健肖杰 孔祥玉何泽昊杨光孙虹 刘浩宇卢静雅顾强张兆杰 乔亚男翟术然吕伟嘉季浩 白涛 (74)专利代理机构 天津盛理知识产权代理有限 公司 12209 代理人 王来佳 (51)Int.Cl. G06N 3/04(2006.01) G06N 3。

2、/08(2006.01) G06Q 50/06(2012.01) (54)发明名称 基于改进生成对抗网络的多能计量特征数 据生成方法及装置 (57)摘要 本发明涉及一种基于改进生成对抗网络的 多能计量特征数据生成方法及装置， 其技术特点 在于： 包括以下步骤： 步骤1、 利用卷积神经网络 构成生成网络和判别网络， 在判别网路的损失函 数中引入梯度惩罚机制， 训练产生多能计量数据 的改进型生成对抗网络； 步骤2、 使用训练好的改 进型生成对抗网络获得满足原数据分布关系的 新多能计量数据。 本发明能够在准确生成具有多 能计量特征的数据、 减少对数据特征的依赖的同 时提高神经网络训练的速度和稳定性。。

3、 权利要求书3页 说明书6页 附图1页 CN 111008692 A 2020.04.14 CN 111008692 A 1.一种基于改进生成对抗网络的多能计量特征数据生成方法， 其特征在于： 包括以下 步骤： 步骤1、 利用卷积神经网络构成生成网络和判别网络， 在判别网路的损失函数中引入梯 度惩罚机制， 训练产生多能计量数据的改进型生成对抗网络； 步骤2、 使用训练好的改进型生成对抗网络获得满足原数据分布关系的新多能计量数 据。 2.根据权利要求1所述的一种基于改进生成对抗网络的多能计量特征数据生成方法， 其特征在于： 在所述步骤1之前还包括对计量数据预处理的步骤， 具体方法为： 对多源计量。

4、 样本数据及包含噪声数据的训练数分别进行层归一化， 并且将处理过的数据分别输入生成 判别网络和生成网络。 3.根据权利要求2所述的一种基于改进生成对抗网络的多能计量特征数据生成方法， 其特征在于： 所述对多源计量样本数据及包含噪声数据的训练数分别进行层归一化， 并且 将处理过的数据分别输入生成判别网络和生成网络的具体步骤包括： (1)对输入某层神经网络的计量数据求和并除以该层神经元个数等到平均值 l： (2)然后根据如下公式求得标准差 l： (3)最后用输入到第i个神经元的计量值减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式为； 式中， l为某。

5、层神经网络， H为每层中隐藏神经元的个数。 4.根据权利要求1所述的一种基于改进生成对抗网络的多能计量特征数据生成方法， 其特征在于： 所述步骤1的具体步骤包括： (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； (2)利用卷积神经网络构成判别网络， 并将生成网络和判别网络进行零和博弈， 使得卷 积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数据一 致时， 则训练完毕； (3)在判别网路的损失函数中引入梯度惩罚机制， 使得生成网络和判别网络的损失函 数如式(4)、 (5)所示， 并对卷积神经网络进行训练， 获得已经学得样本数据特征的多能计量 数据的改。

6、进型生成对抗网络； 权利要求书 1/3 页 2 CN 111008692 A 2 式中， L(G)为生成网络的损失函数， 为生成网络生成的数据， Pg为 的分布， D()为判 别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1的随机数； 为 的分布。 5.一种基于改进生成对抗网络的多能计量特征数据生成装置， 其特征在于： 包括： 改进型生成对抗网络训练模块， 用于利用卷积神经网络构成生成网络和判别网络， 在 判别网路的损失函数中引入梯度惩罚机制， 训练产生多能计量数据的改进型生成对。

7、抗网 络； 多能计量数据模块， 用于使用训练好的改进型生成对抗网络获得满足原数据分布关系 的新多能计量数据。 6.根据权利要求5所述的一种基于改进生成对抗网络的多能计量特征数据生成装置， 其特征在于： 该基于改进生成对抗网络的多能计量特征数据生成装置还包括： 计量数据预 处理模块， 用于对多源计量样本数据及包含噪声数据的训练数分别进行层归一化， 并且将 处理过的数据分别输入生成判别网络和生成网络。 7.根据权利要求6所述的一种基于改进生成对抗网络的多能计量特征数据生成装置， 其特征在于： 所述计量数据预处理模块包括： (1)首先对输入某层神经网络的计量数据求和并除以该层神经元个数等到平均值 l。

8、： (2)然后求得标准差 l： (3)最后用输入到第i个神经元的计量值减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式为； 式中， l为某层神经网络， H为每层中隐藏神经元的个数。 8.根据权利要求5所述的一种基于改进生成对抗网络的多能计量特征数据生成装置， 其特征在于： 所述改进型生成对抗网络训练模块包括： (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； (2)利用卷积神经网络构成判别网络， 并将生成网络和判别网络进行零和博弈， 使得卷 积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数据一 致时， 。

9、则训练完毕； (3)在判别网路的损失函数中引入梯度惩罚机制， 使得生成网络和判别网络的损失函 数如式(4)、 (5)所示， 并对卷积神经网络进行训练， 获得已经学得样本数据特征的多能计量 数据的改进型生成对抗网络； 权利要求书 2/3 页 3 CN 111008692 A 3 式中， L(G)为生成网络的损失函数，为生成网络生成的数据， Pg为 的分布， D()为判 别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1的随机数； 为 的分布。 权利要求书 3/3 页 4 CN 111。

10、008692 A 4 基于改进生成对抗网络的多能计量特征数据生成方法及装置 技术领域 0001 本发明属于非监督深度学习技术和计量数据处理技术领域， 涉及在计量特征数据 生成应用中， 通过改进型生成对抗网络生成综合能源计量特征数据， 尤其是一种基于改进 生成对抗网络的多能计量特征数据生成方法及装置。 背景技术 0002 随着泛在电力物联网建设的推进， 对支撑营销业务发展的客户侧能源计量提出新 的要求， 非电计量的种类变的更为多样， 电能计量正在向着综合能源计量进行转变。 随着各 类新兴能源计量业务的不断发展， 对系统级模拟仿真建设提出迫切需求， 当前缺少大规模、 系统级、 复杂环境、 多信道融。

11、合的仿真环境。 0003 为进一步推动我国智慧能源服务体系建设， 亟需构建全面高效、 准确可靠的综合 能源计量仿真系统， 实现对各种场景的真实还原， 有效支撑各类能源计量新技术的探索研 究及推广实施。 而构建综合能源计量仿真系统的基础是准确生成具有多能计量特征的数 据。 0004 目前， 现有的数据生成方法主要为基于规则的数据生成方法和生成对抗网络方 法。 其中， 基于规则的数据生成方法是基于工作人员的经验对需要生成的数据进行定性描 述， 基于描述的规则生成数据。 但基于规则的方法对工作人员的要求较高， 且大部分数据规 则难以直接描述。 0005 生成对抗网络方法(generative adv。

12、ersarial networks， GAN)应用较多， 但是传 统的GAN存在训练不稳定的问题， 且难以处理离散数据的生成， 最近提出的基于瓦瑟斯坦距 离的GAN有效提高了训练时的稳定性， 但有时仍然只能生成质量较差的数据或在训练时发 生梯度消失或梯度爆炸导致无法收敛。 发明内容 0006 本发明的目的在于克服现有技术的不足， 提供一种基于改进生成对抗网络的多能 计量特征数据生成方法， 能够在准确生成具有多能计量特征的数据、 减少对数据特征的依 赖的同时提高神经网络训练的速度和稳定性。 0007 本发明解决其技术问题是采取以下技术方案实现的： 0008 一种基于改进生成对抗网络的多能计量特征。

13、数据生成方法， 包括以下步骤： 0009 步骤1、 利用卷积神经网络构成生成网络和判别网络， 在判别网路的损失函数中引 入梯度惩罚机制， 训练产生多能计量数据的改进型生成对抗网络； 0010 步骤2、 使用训练好的改进型生成对抗网络获得满足原数据分布关系的新多能计 量数据。 0011 而且， 在所述步骤1之前还包括对计量数据预处理的步骤， 具体方法为： 对多源计 量样本数据及包含噪声数据的训练数分别进行层归一化， 并且将处理过的数据分别输入生 成判别网络和生成网络。 说明书 1/6 页 5 CN 111008692 A 5 0012 而且， 所述对多源计量样本数据及包含噪声数据的训练数分别进行。

14、层归一化， 并 且将处理过的数据分别输入生成判别网络和生成网络的具体步骤包括： 0013 (1)对输入某层神经网络的计量数据求和并除以该层神经元个数等到平均值 l： 0014 0015 (2)然后根据如下公式求得标准差 l： 0016 0017(3)最后用输入到第i个神经元的计量值减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式为； 0018 0019 式中， l为某层神经网络， H为每层中隐藏神经元的个数。 0020 而且， 所述步骤2的具体步骤包括： 0021 (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； 0022 (2)。

15、利用卷积神经网络构成判别网络， 并将生成网络和判别网络进行零和博弈， 使 得卷积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数 据一致时， 则训练完毕； 0023 (3)在判别网路的损失函数中引入梯度惩罚机制， 使得生成网络和判别网络的损 失函数如式(4)、 (5)所示， 并对卷积神经网络进行训练， 获得已经学得样本数据特征的多能 计量数据的改进型生成对抗网络； 0024 0025 0026式中， L(G)为生成网络的损失函数， 为生成网络生成的数据， Pg为的分布， D ()为判别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计 。

16、量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1 的随机数； 为 的分布。 0027 一种基于改进生成对抗网络的多能计量特征数据生成装置， 包括： 0028 改进型生成对抗网络训练模块， 用于利用卷积神经网络构成生成网络和判别网 络， 在判别网路的损失函数中引入梯度惩罚机制， 训练产生多能计量数据的改进型生成对 抗网络； 0029 多能计量数据模块， 用于使用训练好的改进型生成对抗网络获得满足原数据分布 关系的新多能计量数据。 0030 而且， 所述基于改进生成对抗网络的多能计量特征数据生成装置还包括： 计量数 据预处理模块， 用于对多源计量样本数据及包含噪声数。

17、据的训练数分别进行层归一化， 并 说明书 2/6 页 6 CN 111008692 A 6 且将处理过的数据分别输入生成判别网络和生成网络； 0031 而且， 所述计量数据预处理模块包括： 0032 (1)首先对输入某层神经网络的计量数据求和并除以该层神经元个数等到平均值 l： 0033 0034 (2)然后求得标准差 l： 0035 0036(3)最后用输入到第i个神经元的计量值减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式为； 0037 0038 式中， l为某层神经网络， H为每层中隐藏神经元的个数。 0039 而且， 所述改进型生成对抗。

18、网络训练模块包括： 0040 (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； 0041 (2)利用卷积神经网络构成判别网络， 并将生成网络和判别网络进行零和博弈， 使 得卷积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数 据一致时， 则训练完毕； 0042 (3)在判别网路的损失函数中引入梯度惩罚机制， 使得生成网络和判别网络的损 失函数如式(4)、 (5)所示， 并对卷积神经网络进行训练， 获得已经学得样本数据特征的多能 计量数据的改进型生成对抗网络； 0043 0044 0045式中， L(G)为生成网络的损失函数， 为生成网络生成的数据， P。

19、g为的分布， D ()为判别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计 量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1 的随机数； 为 的分布。 0046 本发明的优点和积极效果是： 0047 1、 本发明基于改进的瓦瑟斯坦生成对抗网络生成多能计量特征数据， 依次经过 (1)计量数据预处理： 对计量数据进行层归一化， 并且将处理过的计量数据输入改进的生成 对抗网络； (2)训练产生多能计量数据的生成对抗网络， 在判别网路的损失函数中引入梯度 惩罚机制； (3)使用训练好的生成对抗网络获得满足原数据分布关系的新多能计量数据。

20、的 处理流程， 避免了传统数据生成方法对数据特征的依赖， 并提高神经网络训练的速度和稳 定性。 说明书 3/6 页 7 CN 111008692 A 7 0048 2、 本发明通过卷积神经网络生成包含多能计量数据的生成网络、 判别网络和对抗 网络， 避免了传统数据生成方法对数据特征的依赖。 0049 3、 本发明通过对输入生成对抗网络的计量数据进行层归一化处理， 提高生成对抗 网络训练的速度。 0050 4、 本发明通过在判断网络的损失函数中引入梯度惩罚机制， 可以使得训练过程更 加稳定， 避免梯度消失和梯度爆炸情况的发生。 附图说明 0051 图1是本发明的处理流程图。 具体实施方式 005。

21、2 以下结合附图对本发明实施例作进一步详述： 0053 一种基于改进生成对抗网络的多能计量特征数据生成方法， 如图1所示， 包括以下 步骤： 0054 步骤1、 计量数据预处理： 对多源计量样本数据及包含噪声数据的训练数分别进行 层归一化， 并且将处理过的数据分别输入生成判别网络和生成网络； 0055 由于描述不同能源计量的典型环境和运行工况的属性多样， 属性值范围各异,为 了提高生成对抗网络的训练速度， 需要采用层归一化法对数据进行归一化处理， 并且将处 理过的计量数据输入生成对抗网络。 0056 所述步骤1的具体方法为： 0057 对输入某层神经网络的计量数据求和并除以该层神经元个数等到平。

22、均值 l， 然后 求得标准差 l， 用输入到第i个神经元的计量值 减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式如式(1)-(3)所示； 0058 0059 0060 0061 式中， l为某层神经网络， H为每层中隐藏神经元的个数。 0062 步骤2、 利用卷积神经网络构成生成网络和判别网络， 在判别网路的损失函数中引 入梯度惩罚机制， 训练产生多能计量数据的改进型生成对抗网络； 0063 如图1所示， 所述步骤2的具体步骤包括： 0064 (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； 0065 (2)利用卷积神经网络构成。

23、判别网络， 并将生成网络和判别网络进行零和博弈， 使 得卷积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数 据一致时， 则训练完毕； 0066 (3)为了避免产生不稳定的情况即发生梯度消失和梯度爆炸， 在判别网路的损失 说明书 4/6 页 8 CN 111008692 A 8 函数中引入梯度惩罚机制， 使得生成网络和判别网络的损失函数如式(4)、 (5)所示， 并对卷 积神经网络进行训练， 获得已经学得样本数据特征的多能计量数据的改进型生成对抗网 络； 0067 0068 0069式中， L(G)为生成网络的损失函数， 为生成网络生成的数据， Pg为的分布， D (。

24、)为判别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计 量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1 的随机数； 为 的分布。 0070 步骤3、 使用训练好的改进型生成对抗网络获得满足原数据分布关系的新多能计 量数据。 0071 一种基于改进生成对抗网络的多能计量特征数据生成装置， 包括： 0072 计量数据预处理模块， 用于对多源计量样本数据及包含噪声数据的训练数分别进 行层归一化， 并且将处理过的数据分别输入生成判别网络和生成网络； 0073 改进型生成对抗网络训练模块， 用于利用卷积神经网络构成生成网络和判别网 络。

25、， 在判别网路的损失函数中引入梯度惩罚机制， 训练产生多能计量数据的改进型生成对 抗网络； 0074 多能计量数据模块， 用于使用训练好的改进型生成对抗网络获得满足原数据分布 关系的新多能计量数据。 0075 所述计量数据预处理模块包括： 0076 对输入某层神经网络的计量数据求和并除以该层神经元个数等到平均值 l， 然后 求得标准差 l， 用输入到第i个神经元的计量值 减去 l再除以l得到层归一化计量数据 并且将处理过的计量数据输入改进的生成对抗网络， 其计算公式如式(1)-(3)所示； 0077 0078 0079 0080 式中， l为某层神经网络， H为每层中隐藏神经元的个数。 008。

26、1 所述改进型生成对抗网络训练模块包括： 0082 (1)利用卷积神经网络构成包含多能计量数据特征的数据的生成网络； 0083 (2)利用卷积神经网络构成判别网络， 并将生成网络和判别网络进行零和博弈， 使 得卷积神经网络学到数据之间的映射关系， 当判别网络判断生成网络产生的数据与样本数 据一致时， 则训练完毕； 说明书 5/6 页 9 CN 111008692 A 9 0084 (3)在判别网路的损失函数中引入梯度惩罚机制， 使得生成网络和判别网络的损 失函数如式(4)、 (5)所示， 并对卷积神经网络进行训练， 获得已经学得样本数据特征的多能 计量数据的改进型生成对抗网络； 0085 00。

27、86 0087式中， L(G)为生成网络的损失函数， 为生成网络生成的数据， Pg为的分布， D ()为判别网络的输出， E为期望分布， L(D)为判别网络的损失函数， x为样本数据(多能计 量数据)， Pr为x的分布， 为惩罚系数， 取值为10的训练效果较好； 为0-1 的随机数； 为 的分布。 0088 本领域内的技术人员应明白， 本申请的实施例可提供为方法、 系统、 或计算机程序 产品。 因此， 本申请可采用完全硬件实施例、 完全软件实施例、 或结合软件和硬件方面的实 施例的形式。 而且， 本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机 可用存储介质(包括但不限于磁盘存储器。

28、、 CD-ROM、 光学存储器等)上实施的计算机程序产 品的形式。 0089 本申请是参照根据本申请实施例的方法、 设备(系统)、 和计算机程序产品的流程 图和/或方框图来描述的。 应理解可由计算机程序指令实现流程图和/或方框图中的每一流 程和/或方框、 以及流程图和/或方框图中的流程和/或方框的结合。 可提供这些计算机程序 指令到通用计算机、 专用计算机、 嵌入式处理机或其他可编程数据处理设备的处理器以产 生一个机器， 使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实 现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。 0090 这些计算机程序指。

29、令也可存储在能引导计算机或其他可编程数据处理设备以特 定方式工作的计算机可读存储器中， 使得存储在该计算机可读存储器中的指令产生包括指 令装置的制造品， 该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或 多个方框中指定的功能。 0091 这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上， 使得在计 算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理， 从而在计算机或 其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一 个方框或多个方框中指定的功能的步骤。 最后应当说明的是： 以上实施例仅用以说明本发 明的技术方案而非对其限制， 尽管参照上述实施例对本发明进行了详细的说明， 所属领域 的普通技术人员应当理解： 依然可以对本发明的具体实施方式进行修改或者等同替换， 而 未脱离本发明精神和范围的任何修改或者等同替换， 其均应涵盖在本发明的权利要求保护 范围之内。 说明书 6/6 页 10 CN 111008692 A 10 图1 说明书附图 1/1 页 11 CN 111008692 A 11 。