logo好方法网

一种基于知识库的深度学习模型训练和自动化调优方法及系统


技术摘要:
本发明实施例公开了一种基于知识库的深度学习模型训练和自动化调优方法及系统,所述方法包括:步骤1:选取可配置项,设定取值范围及权重;步骤2:设定固定项取值;步骤3:初始化;步骤4:进行一个epoch训练;步骤5:达到最大epoch次数,则执行步骤7;否则输出模型,执  全部
背景技术:
随着人工智能(AI)的不断发展,不断涌现出新的理论、方法和技术,为我国社会各 行各业均带来了积极的变化。作为AI领域的一个重要组成部分,机器学习,特别是深度学习 得到了广泛的关注和研究。针对于人类生产、生活中的实际问题,深度学习模型往往需要经 历反复的训练和优化过程。例如,为获得一个性能较高的深度学习模型,需要对网络结构、 学习率等多个方面进行不断地尝试和调整。然而,在该过程中,使用人工的调整方法需要消 耗大量的人力成本,是阻碍基于深度学习模型的AI技术实际应用的一个关键因素。
技术实现要素:
本发明实施例所要解决的技术问题在于,提供一种基于知识库的深度学习模型训 练和自动化调优方法及系统,节省深度学习模型优化过程中需要花费的大量人力成本。 为了解决上述技术问题,本发明实施例提出了一种基于知识库的深度学习模型训 练和自动化调优方法,包括: 步骤1:在已存在的AI知识库中输入待研究问题的检索词,通过自然语言处理进行检索 词理解,自动推荐出待研究问题深度学习模型训练的可配置项、取值范围及权重;若无推荐 数据,则根据已存在的AI知识库中的数据人工选取可配置项,并设定可配置项的取值范围 和权重;AI知识库初始为空,通过不断积累历史研究问题的数据进行扩展;AI知识库包含问 题描述、模型描述、可配置项列表、每个可配置项的权重和实际取值、在该组可配置项下相 应的模型训练结果;每次训练会依次基于可配置项的权重来进行调整,具有更高权重值的 可配置项将优先调整其取值; 步骤2:设定固定项的取值; 步骤3:将数据集划分为训练集、验证集和测试集,完成数据初始化,其中训练集是用于 训练深度学习模型的数据样本集合,验证集是用于初步评估深度学习模型性能的数据样本 集合,测试集是用于评估深度学习模型泛化能力的数据样本集合; 步骤4:基于固定项的取值以及可配置项当前取值对深度学习模型进行一个epoch训 练,其中一个epoch指数据集中所有数据在模型中完成一次正向和反向传递的过程; 步骤5:如果epoch训练次数已达到预设的最大epoch次数,则执行步骤7;否则输出深度 学习模型,然后执行步骤6; 步骤6:计算输出的深度学习模型在验证集上的损失,如果该深度学习模型在验证集的 损失收敛到预设程度,即上次epoch训练中输出的深度学习模型在验证集上的损失与本次 epoch训练中输出的深度学习模型在验证集上的损失的差值小于预设的阈值,则执行步骤 4 CN 111612141 A 说 明 书 2/5 页 7;否则执行步骤4; 步骤7:对最后一个epoch训练中输出的深度学习模型在测试集上进行测试,并计算出 深度学习模型在本次训练中的结果;其中训练结果包括损失、准确率、精确率、召回率、F1分 数中的一种或多种; 步骤8:保存本次训练中深度学习模型在训练集、验证集、测试集的结果及本次训练所 设定的可配置项取值; 步骤9:判断是否有可以调整取值的可配置项;若无可调整取值的可配置项,则结束所 有训练,执行步骤10;否则基于可配置项的取值范围、权重及历史训练结果调整可配置项的 取值,执行步骤3; 步骤10:保存本次训练的数据至AI知识库中,以供下个研究问题使用。其中数据包括问 题描述、模型描述、可配置项列表、每个可配置项的权重和实际取值、在该组可配置项下相 应的模型训练结果。 相应地,本发明实施例还提供了一种基于知识库的深度学习模型训练和自动化调 优系统,包括AI知识库、可配置项管理模块、数据预处理模块、训练模块及训练调整模块,其 中, AI知识库由历史研究问题的数据构成,每一条数据均包含问题描述、模型描述、可配置 项列表、每个可配置项的权重和实际取值、在该组可配置项下相应的模型训练结果。AI知识 库支持基于自然语言处理的检索和推荐; 可配置项管理模块用于选取可配置项,以及设定可配置项的值及其权重; 数据预处理模块用于构造数据集,包括训练集、验证集和测试集,并完成数据的预处 理; 训练模块基于固定项的取值以及可配置项的当前取值,将训练集数据、验证集数据和 测试集数据依次输入构造好的深度学习模型,完成深度学习模型的训练;在全部训练完成 后,保存及输出训练结果,并更新AI知识库; 训练调整模块在多轮训练中基于预设的可配置项取值范围及其权重,动态调整可配置 项的取值。 本发明的有益效果为:本发明可以根据历史训练结果自行调整可配置项(包括网 络结构),迭代地寻找较优解,从而节省大量的人力成本。 附图说明 图1是本发明实施例的一种基于知识库的深度学习模型训练和自动化调优方法的 流程图。 图2是本发明实施例的一种基于知识库的深度学习模型训练和自动化调优系统的 结构示意图。
下载此资料需消耗2积分,
分享到:
收藏