非显而易见杯

专利无效挑战赛

目标专利:3674基于低位移秩的深度神经网络压缩

专利公开号:CN113574887B

专利权人:交互数字

无效请求书提交日期:2026年


上一项目 下一项目

非显而易见性评估仅供参考,不构成法律建议。



权利要求列表点击可跳转

序号 权利要求内容

1

一种用于将表示深度神经网络的参数编码成比特流的方法,包括;获得表示深度神经网络的权重、偏置和非线性的信息;以及用于所述深度神经网络的图像数据的近似训练集;基于用于所述深度神经网络的至少一个第k层的所述权重、偏置和非线性并基于所述近似训练集来生成所述至少一个第k层的输入和输出;所述输入和输出表示图像数据;基于所获得的所述至少一个第k层的输入和输出来确定输出矩阵;所述输出矩阵用于导出所述至少一个第k层的所述权重的低位移秩近似;其中确定所述输出矩阵包括;通过最小化所生成的所述至少一个第k层的输出与从所述权重的低位移秩近似获得的相应输出之间的误差;使用所述至少一个第k层的当前批次的输入和输出来生成用于所述至少一个第k层的当前输出矩阵;基于所述当前输出矩阵更新针对先前迭代生成的输出矩阵;采用下一批次重复生成和更新;直到已经满足最小化准则;以及对所述输出矩阵的系数执行量化和熵译码以形成所述比特流。

2

根据权利要求1所述的方法,其中所述近似训练集包括所述深度神经网络的原始训练集的子集。

3

根据权利要求1所述的方法,其中最小化所生成的所述至少一个第k层的输出与从所述权重的低位移秩近似获得的相应输出之间的误差包括;在约束下;在所述输出矩阵(Gk,Hk)内最小化以下的和;其中l(.)是范数; 是针对所述近似训练集的元素xt的所述第k层的所述输出;A和B是预定矩阵;bk是所述第k层的所述偏置;gk是所述第k层的所述非线性; 是所述权重的所述低位移秩近似。


对比文件列表

编号 名称

权利要求1

一种用于将表示深度神经网络的参数编码成比特流的方法,包括;获得表示深度神经网络的权重、偏置和非线性的信息;以及用于所述深度神经网络的图像数据的近似训练集;基于用于所述深度神经网络的至少一个第k层的所述权重、偏置和非线性并基于所述近似训练集来生成所述至少一个第k层的输入和输出;所述输入和输出表示图像数据;基于所获得的所述至少一个第k层的输入和输出来确定输出矩阵;所述输出矩阵用于导出所述至少一个第k层的所述权重的低位移秩近似;其中确定所述输出矩阵包括;通过最小化所生成的所述至少一个第k层的输出与从所述权重的低位移秩近似获得的相应输出之间的误差;使用所述至少一个第k层的当前批次的输入和输出来生成用于所述至少一个第k层的当前输出矩阵;基于所述当前输出矩阵更新针对先前迭代生成的输出矩阵;采用下一批次重复生成和更新;直到已经满足最小化准则;以及对所述输出矩阵的系数执行量化和熵译码以形成所述比特流。


权利要求2

根据权利要求1所述的方法,其中所述近似训练集包括所述深度神经网络的原始训练集的子集。


权利要求3

根据权利要求1所述的方法,其中最小化所生成的所述至少一个第k层的输出与从所述权重的低位移秩近似获得的相应输出之间的误差包括;在约束下;在所述输出矩阵(Gk,Hk)内最小化以下的和;其中l(.)是范数; 是针对所述近似训练集的元素xt的所述第k层的所述输出;A和B是预定矩阵;bk是所述第k层的所述偏置;gk是所述第k层的所述非线性; 是所述权重的所述低位移秩近似。


Powered by Django

网站备案号:渝ICP备2023012882号


重庆市非显而易见网络科技有限责任公司 A Anti NPE NPE