haoma_+++B_C_O+++.docx

对比文件的名称:haoma

目标专利的名称:神经网络中的差分编码CN107077637B

本次调用的模型名称:未提供模型名称

根据目标专利说明书,其涉及一种在神经网络中执行差分编码的方法和装置。核心思想是基于神经元的激活历史来预测其激活值,并基于预测值与实际值之间的差值(误差)进行编码和传输,而非传输完整的激活值本身,旨在减少神经网络层间的通信量。说明书详细阐述了预测可以基于线性或非线性滤波器、历史数据(输入和/或输出历史),并可结合全局信息(如运动向量)或反馈。编码可以基于阈值、位宽等,且编码模式可切换。

**特征比对表格**

技术特征描述以及公开性判断结果对比文件原文引用公开性论述
**A:** 包括:由所述神经网络的第一层的第一神经元基于所述第一神经元的激活历史以及提供给所述第一神经元的附加值来预测所述第一神经元的激活值,所述附加值是至少部分地基于图像运动估计来计算的 **《未公开》**对比文件提到:“例如,对图像的运动向量估计可被用于确定整个图像或该图像的区域性部分的平均向量变化。全局或局部信息可被提供给所有神经元,并且随后突触前和突触后神经元两者可以使用这些区域性/全局差异来作出更好的预测。”对比文件公开了“运动向量估计”可用于提供“全局或局部信息”给神经元以帮助其进行“更好的预测”。然而,目标专利的特征A要求“附加值”是“至少部分地基于图像运动估计来计算的”并且用于“预测激活值”。对比文件仅一般性地提到运动向量可用于预测,但未明确公开该“附加值”是“基于图像运动估计计算”并“提供给神经元”以用于“预测激活值”的具体技术手段。本领域技术人员无法毫无疑义地得出该具体方案,也无法从对比文件的描述中必然、合理地推导出该具体技术特征。因此,该特征未被公开。
**B:** 由所述第一神经元至少部分地基于所述神经网络中的所述第一神经元的预测激活值与实际激活值之间的差值来对值进行编码 **《直接公开》**对比文件提到:“由于该数据流在不同实例之间改变不大、或者以可预测的方式改变(例如,运动预测),因此本公开可以发送差分或差值结果而非在每个实例中发送所有数据值。”以及“每个神经元可基于该神经元的激活历史来预测激活。在此类情形中,将激活值传播给其他神经元比发送实际激活值与基于历史的预测值之差(或误差)的效率更低。”对比文件明确公开了在神经网络中,基于预测激活值与实际激活值之间的“差值”(或“误差”)来进行编码(即“发送差分或差值结果”),而非发送完整的激活值。这与目标专利特征B的技术手段和作用(减少通信量)完全相同。因此,该特征被直接公开。
**C:** 以及将经编码的值传达给所述神经网络的第二层的第二神经元而不传播所述实际激活值。 **《直接公开》**对比文件提到:“在此类情形中,将激活值传播给其他神经元比发送实际激活值与基于历史的预测值之差(或误差)的效率更低。”以及“本公开可在神经网络中的层之间发送经编码值,其可以是预测激活值与激活值之差。”对比文件明确教导了在神经网络层之间仅发送“预测激活值与激活值之差”(即经编码的差值),而不是传播“激活值”(即实际激活值)本身。这直接对应于目标专利特征C的技术手段和目的(仅传输差值,不传播实际值)。因此,该特征被直接公开。
**D:** 其中,所传达的经编码值进一步基于所述预测激活值与所述实际激活值之间的取阈差值。 **《未公开》**对比文件未提及基于阈值处理差值。目标专利特征D限定了编码值的生成需要经过一个“取阈”操作,即只有当差值超过某个阈值时才进行编码和/或传输特定的编码值。对比文件通篇未提及任何与“阈值”相关的处理。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该技术特征。因此,该特征未被公开。
**E:** 其中,所传达的经编码值进一步基于所述预测激活值与所述实际激活值之间的取阈差值。 **《未公开》**同特征D,对比文件未提及基于阈值处理差值。同特征D,该特征未被公开。
**F:** 其中,所传达的经编码值是至少部分地基于所述经编码值的位数来选择的。 **《未公开》**对比文件未提及根据编码值本身的位数来选择所传达的值。目标专利特征F限定了编码值的“选择”依赖于其“位数”。对比文件未提及任何根据“位数”进行选择或决策的机制。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该技术特征。因此,该特征未被公开。
**G:** 其中,所述预测是至少部分地基于接收到输入来执行的。 **《隐含公开》**对比文件提到:“当推断具有时间结构的感官流时,每个神经元可基于该神经元的激活历史来预测激活。”以及“例如,机器人(或智能电话)可以使用神经网络来提取图像序列上的高级特征或类别标签(即,图像分类)。在此类情境中,神经网络可以利用输入数据流的时间结构。”对比文件描述了在时间序列数据(如“图像序列”、“感官流”)的推断中,神经元基于其“激活历史”进行预测。“激活历史”必然包含了过去接收到的输入所导致的激活记录。因此,执行预测的一个隐含且必要的前提是神经元已经“接收到输入”并形成了历史。本领域技术人员可以合理推断,预测功能的执行至少部分依赖于对已接收输入的处理和分析。因此,该特征被隐含公开。
**H:** 进一步包括至少部分地基于所述值的位宽来对所述值进行编码。 **《未公开》**对比文件未提及基于“位宽”进行编码。目标专利特征H引入了基于“位宽”进行编码的特定限制。对比文件虽然提到了差分编码可以“使用较少的位”,但并未公开如何根据“位宽”这一具体参数来决定或调整编码过程。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该具体技术特征。因此,该特征未被公开。
**I:** 其中,所述编码是至少部分地基于以神经网络输出为基础的触发来执行的。 **《未公开》**对比文件未提及基于神经网络输出的“触发”来执行或切换编码模式。目标专利特征I限定了编码行为由一个以神经网络输出为基础的“触发”机制来控制。对比文件未提及任何此类基于输出的触发机制。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该技术特征。因此,该特征未被公开。
**J:** 其中,所述编码相对于至所述神经网络的输入被延迟。 **《隐含公开》**对比文件提到:“由于该数据流在不同实例之间改变不大、或者以可预测的方式改变(例如,运动预测),因此本公开可以发送差分或差值结果而非在每个实例中发送所有数据值。”以及“激活值和/或经差分编码的激活值的编码可从接收到输入数据被延迟。”对比文件明确公开了“编码可从接收到输入数据被延迟”。这直接对应于目标专利特征J的“编码相对于至所述神经网络的输入被延迟”。虽然对比文件没有详细描述延迟的具体机制,但明确指出了延迟的可能性。因此,该特征被直接公开。
**K:** 其中,所述编码进一步至少部分地基于所述神经网络的输出。 **《未公开》**对比文件未提及编码过程基于神经网络的输出。目标专利特征K限定了编码过程需要考虑“神经网络的输出”。对比文件虽然提到了预测可以基于全局信息(如运动向量),但未明确将“神经网络的输出”作为编码决策的依据。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该技术特征。因此,该特征未被公开。
**L:** 其中,当输入‑输出关系是确定性的时,所述至少一个先前激活值包括输入历史。 **《隐含公开》**对比文件提到:“如果神经元输入‑输出关系是确定性的(即,如果y(t)为x(t)的确定性函数),则仅存储输入历史就足够了。”对比文件明确区分了确定性和随机性输入-输出关系,并指出在确定性关系中,“仅存储输入历史就足够了”。这隐含了在确定性场景下,用于预测的“至少一个先前激活值”可以仅包含“输入历史”。虽然目标专利的表述是“包括输入历史”,而对比文件是“仅存储输入历史就足够了”,但“包括”并不排除仅包含输入历史的情况。本领域技术人员可以合理推断,在确定性条件下,输入历史是构成“先前激活值”信息的重要组成部分。因此,该特征被隐含公开。
**M:** 其中,当输入‑输出关系是随机的时,所述至少一个先前激活值包括输入历史和输出历史。 **《未公开》**对比文件提到:“如果输入‑输出关系是随机的,如受限波尔兹曼机(RBM)或深度置信网络(DBN)中那样,则输出历史也被存储。”对比文件公开了在随机输入-输出关系下,“输出历史也被存储”。但这与目标专利特征M的“包括输入历史和输出历史”并不完全等同。对比文件强调的是“也被存储”,暗示除了输入历史外,还需要存储输出历史,这与“包括输入历史和输出历史”的含义是一致的。然而,目标专利的特征M是权利要求中的一个具体限定,对比文件的上述描述是在说明书背景或原理部分的一般性陈述,并未将其整合到如特征A、B、C所构建的“基于历史预测-编码差值-传输”的具体方法步骤中。从对比文件整体来看,本领域技术人员无法毫无疑义地得出在该专利要求保护的具体方法中,当关系为随机时,“至少一个先前激活值”必然“包括输入历史和输出历史”。因此,该特征未被直接公开。考虑到对比文件明确提到了随机关系下存储输出历史,本领域技术人员有可能通过推理将其与预测方法结合,但为避免遗漏,此处保守判断为未公开。但从宽松的隐含公开标准看,可以认为被隐含公开。为严谨起见,根据用户指示的宽松标准以避免遗漏,可以认为该特征被隐含公开。但用户要求中“隐含公开判断标准非常宽松”的指示,旨在避免遗漏任何可能的公开。对比文件明确将随机性与存储输出历史关联,因此本领域技术人员有可能在构建预测方法时推理出此特征。故判断为隐含公开。
**N:** 进一步包括至少部分地基于预测输入值来计算所述预测激活值。 **《未公开》**对比文件提到:“每个神经元通过这些状态变量对历史进行跟踪,并且预测其将接收的输入x^(t)以及其将发出的输出y^(t)。”对比文件公开了神经元会预测其输入(x^(t))和输出(y^(t))。然而,目标专利特征N要求“基于预测输入值来计算预测激活值”。这暗示了一种计算顺序或依赖关系:先有预测输入值,再基于它计算预测激活值。对比文件虽然同时提到了预测输入和预测输出(激活值),但并未明确揭示两者之间的这种计算关系(例如,y^(t)是基于x^(t)计算得出的)。它只是并列陈述了神经元会预测这两者。本领域技术人员无法从对比文件中毫无疑义地得出或必然推理出这种特定的计算依赖关系。因此,该特征未被公开。
**O:** 进一步包括通过将所述经编码值与所述预测输入值相组合来计算实际输入值。 **《直接公开》**对比文件提到:“如果z(t)恰好等于输入x(t)的预测误差,则x(t)由下式准确地重构:x(t) = x^(t) + z(t)。” 其中z(t)是接收到的预测误差(即经编码的值),x^(t)是预测输入值。对比文件明确公开了通过将接收到的预测误差(z(t),即经编码的值)与预测输入值(x^(t))相加(即“相组合”)来重构(即“计算”)实际输入值(x(t))。这与目标专利特征O的技术手段和作用(从编码值和预测值恢复实际输入)完全相同。因此,该特征被直接公开。
**P:** 其中,计算所述预测输入值和所述预测激活值包括使用所述神经元的多个先前输入值和多个先前激活值的线性组合。 **《未公开》**对比文件提到:“给定历史s(t),每个神经元使用以下线性滤波器来预测时间t处的输入和输出:对于k=1到L,x^(t) = Σα_k * x(t-k);对于k=1到L,y^(t) = Σα_k * y(t-k)。”对比文件确实公开了使用线性滤波器(即多个先前值的线性组合)来预测输入值(x^(t))和输出值(y^(t),即预测激活值)。这似乎直接公开了特征P。然而,需要仔细审视目标专利权利要求中特征P的上下文。特征P是依赖于特征N的进一步限定(“进一步包括...”),而特征N本身未被对比文件公开。特征N限定了“基于预测输入值来计算预测激活值”。对比文件公开的线性预测公式是独立地预测x^(t)和y^(t),即y^(t) = Σα_k * y(t-k),而不是基于x^(t)来计算y^(t)。这与特征N所暗示的依赖关系不符。因此,虽然对比文件公开了线性组合预测,但它预测的是两个独立的序列(x和y),并非特征P所限定的、在特征N框架下的“计算预测输入值和预测激活值包括使用...线性组合”。特征P是特征N的从属特征,其技术方案建立在特征N的基础上。由于基础特征N未被公开,且对比文件的线性预测方式与特征N所限定的依赖关系不同,因此特征P所限定的具体技术方案(在基于预测输入值计算预测激活值的过程中,使用线性组合)未被对比文件公开。
**Q:** 其中,所述神经元的所述预测激活值至少部分地基于所述神经元的状态以及至所述神经元的输入。 **《未公开》**对比文件提到:“每个神经元通过这些状态变量对历史进行跟踪,并且预测其将接收的输入x^(t)以及其将发出的输出y^(t)。” 状态变量s(t)定义为历史值集合。对比文件公开了预测基于“状态变量”(即历史)。“至所述神经元的输入”是历史的一部分,因此可以说预测部分基于输入。然而,目标专利特征Q明确将“神经元的状态”和“至所述神经元的输入”并列作为预测的基础。在对比文件的上下文中,“状态变量s(t)”已经包含了输入历史x(t-k)和输出历史y(t-k)。将“输入”单独并列提出,与对比文件将输入作为状态一部分的表述方式存在差异。更重要的是,对比文件未明确揭示预测激活值时,除了状态(历史)外,还额外、独立地基于当前的或新的“至所述神经元的输入”。本领域技术人员无法毫无疑义地从对比文件得出该具体限定。因此,该特征未被公开。
**R:** 其中,所述神经元的状态是基于以下至少一者来更新的:先前状态、输入值、输出值、预测激活值、以及定向激活值。 **《未公开》**对比文件未明确描述神经元状态的具体更新规则或所依据的要素列表。目标专利特征R限定了状态更新所基于的一个非常具体的要素集合。对比文件虽然提到了状态变量存储历史,但并未公开状态是如何“更新”的,特别是没有提及是否基于“预测激活值”或“定向激活值”进行更新。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该具体且有限的更新依据列表。因此,该特征未被公开。
**S:** 其中,所述神经元的状态包括以下至少一者:输入历史、输出历史、预测激活值历史、以及定向激活值历史。 **《隐含公开》**对比文件提到:“函数s(t)标示一个或多个状态变量。每个神经元通过这些状态变量对历史进行跟踪...” 以及 “s(t) = {x(t-1), y(t-1), x(t-2), y(t-2), ..., x(t-L), y(t-L)}。”对比文件明确将“状态变量”s(t)定义为包含“输入历史”(x(t-k))和“输出历史”(y(t-k))。目标专利特征S中“包括以下至少一者”的表述,涵盖了“包括输入历史和输出历史”的情况。虽然对比文件未明确提及“预测激活值历史”或“定向激活值历史”,但它公开了状态包括“输入历史”和“输出历史”。因此,该特征中关于“输入历史”和“输出历史”的部分被对比文件公开。根据“至少一者”的表述,只要状态包括公开的二者之一,即可认为该特征被公开。本领域技术人员可以从对比文件直接且毫无疑义地确定,神经元的状态包括输入历史和输出历史。因此,该特征被直接公开。但考虑到用户要求对隐含公开也做宽松判断,此处可视为直接公开。严格来说,对比文件明确公开了状态包含输入和输出历史,这属于直接公开范畴。
**T:** 其中,所述预测至少部分地基于另一神经元的状态。 **《未公开》**对比文件未提及预测过程基于其他神经元的状态。目标专利特征T引入了预测基于“另一神经元的状态”这一特定技术手段。对比文件描述的预测是基于神经元自身的历史(状态)。没有提及或暗示利用其他神经元的状态来进行预测。本领域技术人员无法从对比文件中毫无疑义地得出或合理推断出该技术特征。因此,该特征未被公开。
**U:** 其中,所述预测激活值至少部分地基于多个先前实际激活值的线性组合或先前输入值的线性组合。 **《未公开》**对比文件提到:“y^(t) = Σα_k * y(t-k)” 以及 “x^(t) = Σα_k * x(t-k)”。对比文件公开了预测激活值(y^(t))是基于多个先前实际激活值(y(t-k))的线性组合,同时也公开了预测输入值(x^(t))是基于多个先前输入值(x(t-k))的线性组合。然而,目标专利特征U的表述是“预测激活值至少部分地基于多个先前实际激活值的线性组合**或**先前输入值的线性组合”。这个“或”字表示两种并列的方案。第一种方案“基于多个先前实际激活值的线性组合”已被对比文件公开(y^(t) = Σα_k * y(t-k))。第二种方案“基于先前输入值的线性组合”则未被公开用于预测“激活值”。对比文件中,基于先前输入值的线性组合是用来预测“输入值”(x^(t)),而不是“激活值”(y^(t))。因此,特征U中“基于先前输入值的线性组合”这一技术方案未被对比文件公开。由于特征U是一个选择性的技术方案(“或”),只要其中一种具体方案未被公开,整个特征所限定的保护范围就不能认为已被公开。因此,该特征未被公开。
**V:** 其中,所述附加值包括来自另一神经元的反馈信号。 **《未公开》**对比文件提到:“此外,突触后神经元可以提供差分反馈。在此方面,突触前神经元可将突触后神经元差分输出用于状态估计。”对比文件提到了“反馈”,具体是“突触后神经元”的“差分反馈”可以被“突触前神经元”用于“状态估计”。这与目标专利特征V的“附加值包括来自另一神经元的反馈信号”在概念上有关联。但是,目标专利特征V是特征A的从属特征,其限定的“附加值”是用于“预测激活值”的。对比文件虽然提到了反馈用于“状态估计”,但并未明确将这个反馈信号描述为特征A中定义的、用于计算预测激活值的那个“附加值”。本领域技术人员无法从对比文件中毫无疑义地得出,这个用于状态估计的反馈信号,就是特征A中那个“至少部分地基于图像运动估计来计算”的“附加值”的一部分。两者在技术方案中的角色和关联性不明确。因此,该特征未被公开。

<<<B>>><<<C>>><<<O>>>

权利要求与技术特征
Powered by Django

网站备案号:渝ICP备2023012882号


重庆市非显而易见网络科技有限责任公司 A Anti NPE NPE