对比文件名称:1999-07-13_US5924086A_发明授权_US5924086A Method for developing a neural network tool for process identification
目标专利名称:345在多维范围上对包括可分离子系统的系统的评估CN105580031B
本次调用的模型名称:专利创造性评估模型
特征比对表格:
| 技术特征描述以及公开性判断结果 | 对比文件原文引用 | 公开性论述 |
| 技术特征A:包括:通过确定所述神经网络的第一群互连神经元的输入与第二群互连神经元的输出之间的单向依赖性来将所述神经网络串行化成所述第一群互连神经元和所述第二群互连神经元,《隐含公开》 | 说明书第[0025]段:“Processing units are often arranged in layers. In many applications the networks are constrained to be acyclic and the connections are constrained to lie between adjacent layers. A multilayer feed forward network of this type can realize any mapping from a multidimensional continuous input space to a multidimensional continuous output space with arbitrarily high accuracy.”<br>(处理单元通常被布置在层中。在许多应用中,网络被约束为无环的,并且连接被约束在相邻层之间。这种类型的多层前馈网络可以实现从多维连续输入空间到多维连续输出空间的任何映射,且具有任意高的精度。) | 根据目标专利说明书第[0051]-[0053]段及图5B,串行化是指基于子系统间的单向依赖性(如前馈连接)将网络划分为不同层或群。对比文件明确公开了神经网络由多层(layers)构成,并且网络是无环的(acyclic),连接仅存在于相邻层之间(lie between adjacent layers)。这种结构必然意味着存在单向依赖性:信息从输入层流经隐藏层到输出层,较低层的输出作为较高层的输入,而较高层的输出不影响较低层。这正是目标专利中“串行化”所基于的“单向依赖性”。虽然对比文件没有使用“串行化”这一术语,也未明确为“参数评估”目的而进行此划分,但其描述的多层前馈网络结构本身就隐含了基于单向依赖性的层级划分。因此,本领域技术人员可以从对比文件公开的网络结构毫无疑义地推断出存在这种单向依赖性关系,该特征被隐含公开。 |
| 技术特征B:所述单向依赖性是基于所述第一群互连神经元的输入不同于所述第二群互连神经元的输出来确定的《隐含公开》 | 说明书第[0025]段(同上)。<br>说明书第[0037]段:“Feed-forward networks, as used with back-propagation, comprise an input layer of processing units 32, zero or more hidden layers of processing units 33, and an output layer which may have only one processing unit 36.”<br>(与反向传播一起使用的前馈网络包括输入层处理单元32、零个或多个隐藏层处理单元33以及输出层,输出层可以只有一个处理单元36。) | 目标专利说明书第[0051]-[0053]段指出,串行化是确定“第一群互连神经元”(例如输入层)和“第二群互连神经元”(例如后续隐藏层),其中第一群的输入(如外部参数)不同于第二群的输入(如第一群的输出)。对比文件公开了网络包含输入层、隐藏层和输出层。输入层的输入是提供给网络的外部信号(例如过程输出样本,参见图6、7),而隐藏层的输入是其前一层(可能是输入层或其他隐藏层)的输出。这种“输入不同”是定义不同层(或群)的自然结果。虽然对比文件没有明确表述“基于输入不同来确定依赖性”,但其所描述的分层前馈网络结构已经隐含了不同层的输入来源不同,从而可以区分不同的神经元群。因此,本领域技术人员能够合理推断出该技术特征。 |
| 技术特征C:基于所述第一群互连神经元的第一输入参数是否影响所述第一群互连神经元来修剪所述第一输入参数《未公开》 | 说明书第[0033]-[0034]段:“It is assumed that the processes for which the system identification tool is intended can be modeled with appropriate accuracy for the intended use by the mathematical model, for some specific assignments of the model parameters. It is also assumed that ranges for all model parameters can be specified... The training data comprises examples of open loop responses to a step input given to the system model. Each example is generated with a unique set of parameter values, each value within the set being chosen from the range specified for the parameter.” | 目标专利说明书第[0056]-[0061]段及图6D、图7、图8详细描述了“修剪”操作:分析每个子系统(如并行化群集或串行化层)的参数,移除不影响该子系统输出的参数,以优化参数评估过程。对比文件仅描述了在生成用于训练神经网络的示例数据时,会为数学模型指定参数范围并生成具有不同参数值组合的示例(参见引用内容)。在整个训练和识别过程中,所有指定的参数(如τp, θ, Kp)都被用于生成训练数据或作为待识别的目标,从未提及或暗示在神经网络结构内部或评估流程中,会根据参数对特定神经元群(层)的影响进行有选择的“修剪”或移除。该操作是目标专利为提高参数扫掠效率而引入的特定优化步骤,对比文件未公开。 |
| 技术特征D:基于所述第二群互连神经元的第二输入参数是否影响所述第二群互连神经元来修剪所述第二输入参数《未公开》 | 说明书第[0033]-[0034]段(同上)。 | 理由同技术特征C。对比文件未涉及针对任何特定神经元群(无论是第一群还是第二群)进行输入参数修剪的概念或操作。所有参数在训练和识别阶段都是作为整体模型的一部分被考虑,而非被选择性应用于网络的不同部分。因此,该特征未被公开。 |
| 技术特征E:其特征在于,所述串行化和/或所述修剪至少部分地取决于存储器存储要求、存储器访问时间和/或计算时间《未公开》 | 无相关描述。 | 目标专利说明书第[0070]-[0071]段及图7、图8提出了一个优化函数(O(N)=α*(Te-Ta)-S),用于考虑子系统的计算时间(Te)、存储要求(S)和访问时间(Ta),以决定是否缓存输出。这是对串行化/修剪后系统进行硬件资源优化的进一步步骤。对比文件全文专注于神经网络的训练方法、识别精度和应用效果(如图8-11的误差测试),完全没有提及任何与存储器存储要求、访问时间或计算时间相关的优化考虑或权衡。该特征未被公开。 |
| 技术特征F:其特征在于,进一步包括基于以下各项来定义所述第一群互连神经元和所述第二群互连神经元:所述神经网络的连通性和/或监视所述参数扫掠的活跃性水平《未公开》 | 无相关描述。 | 目标专利说明书第[0065]段提到,除了基于网络连通性定义子系统外,还可以通过监视参数扫掠的活跃性水平来定义,例如当某层输出对于某个参数范围没有变化(退化)时,可以合并计算。对比文件虽然提到了网络的连通性(分层、前馈),但从未提及“参数扫掠”(parameter sweep)这一概念,更没有涉及在扫掠过程中监视神经元或子系统的“活跃性水平”以动态定义或重组神经元群。该特征是目标专利中特有的系统行为监测和优化方法,对比文件未公开。 |
| 技术特征G:其特征在于,进一步包括:对于所述扫掠的每一步骤,存储所述第一群互连神经元的输出和所述第二群互连神经元的所述输出《未公开》 | 说明书第[0040]段:“During the generation of training data via process model 40, each vector of 50 samples had one set of values of the parameters τp, θ and K associated with it. During the training of the network 30, each such vector of 50 samples had the respective value of the time delay θ associated with it, which in each case was the target value for adjusting the weights of the network.”<br>(在通过过程模型40生成训练数据期间,每个50个样本的向量都与一组参数值τp, θ和K相关联。在训练网络30期间,每个这样的50个样本向量都与相应的时延θ值相关联,这在每种情况下都是调整网络权重的目标值。) | 目标专利说明书第[0066]段说明,在参数扫掠的每一步之后存储每个子系统的输出,以便后续分析。对比文件在描述训练过程时,确实存储了用于训练的样本数据向量及其对应的目标参数值(延迟θ)。然而,这种存储是为了监督学习(提供输入-输出对),而非在“参数扫掠”的上下文中存储神经网络内部中间层(第一群、第二群神经元)的输出以供后续分析或优化。目的和上下文完全不同。对比文件没有公开为分析或优化目的而存储网络内部各层输出的步骤。 |
| 技术特征H:其特征在于,进一步包括评估所述神经网络的输出以确定期望的参数值集《直接公开》 | 说明书第[0037]段:“In the illustrated embodiment the output processing unit 36 outputs the process delay value θ computed by the network 30.”<br>(在所示实施例中,输出处理单元36输出由网络30计算出的过程延迟值θ。)<br>说明书第[0046]段:“After training, the network 30 was tested on new (also randomly generated) data. Tests were performed to determine the effectiveness of delay identification...”<br>(训练后,网络30在新的(也是随机生成的)数据上进行了测试。进行了测试以确定延迟识别的有效性...)<br>说明书第[0049]段:“FIG. 7 depicts how delay identifier 50 embodying the network 30 can be applied to a unit 52 which comprises a PID controller... The output of the network is subjected to some post processing... to obtain a delay estimate θest.”<br>(图7描绘了体现网络30的延迟标识器50如何应用于包括PID控制器的单元52...网络的输出经过一些后处理...以获得延迟估计θest。) | 目标专利说明书第[0068]段及图8指出,最终目标是评估神经网络的输出以确定期望的参数值集。对比文件的核心内容就是训练一个神经网络(如图3的网络30),使其能够根据过程输入/输出数据,输出对特定过程参数(如时间延迟θ)的估计值(参见引用内容)。训练后对网络进行测试以评估其识别效果,以及在图7的应用中将网络输出作为参数估计值用于控制器。这直接对应于“评估神经网络的输出以确定期望的参数值(集)”。虽然对比文件主要示例是单一参数(θ),但本领域技术人员能理解其方法可扩展至多个参数。因此,该特征被对比文件直接公开。 |
<<<a>>><<<b>>><<<H>>>