非显而易见杯

专利无效挑战赛

目标专利:4438用于深度神经网络权重的压缩技术

专利公开号:CN117099109B

专利权人:高通股份有限公司

无效请求书提交日期:2027年


上一项目 下一项目

非显而易见性评估仅供参考,不构成法律建议。



权利要求列表点击可跳转

序号 权利要求内容

1

一种在计算设备的处理器中执行的方法,包括:接收表示权重值的二进制数的权重数据集;生成第一帧有效载荷;所述第一帧有效载荷包括所述权重数据集中的第一权重值子集的经压缩第一帧;生成与所述第一帧有效载荷相关联的第一帧报头;其中所述第一帧报头包括用于所述经压缩第一帧的归一化因子指示符;其中所述归一化因子指示符指示从所述权重值移除的填充比特数目;以及生成具有所述第一帧有效载荷的经压缩权重数据块。

2

如权利要求1所述的方法,其中,生成所述第一帧有效载荷包括:通过根据所述权重数据集中的所述第一权重值子集的第一帧的归一化因子从所述第一权重值子集中的每个权重值移除填充比特来压缩所述第一帧以生成所述经压缩第一帧。

3

如权利要求2所述的方法,进一步包括:从所述第一帧的所述第一权重值子集中的每个权重值移除偏移值以产生所述第一帧的经修改权重值;其中压缩所述第一权重值子集的所述第一帧包括:根据所述第一帧的所述归一化因子从所述第一帧中的所述经修改权重值移除所述填充比特以生成所述经压缩第一帧。

4

如权利要求3所述的方法,进一步包括:生成用于所述经压缩权重数据块的全局报头;其中所述全局报头包括所述偏移值;并且其中生成与所述第一帧有效载荷相关联的所述第一帧报头包括:生成所述第一帧报头;其中所述第一帧报头包括偏移指示符;所述偏移指示符被配置成指示所述偏移值是否从所述第一帧的所述第一权重值子集移除。

5

如权利要求2所述的方法,其中,所述填充比特是符号扩展比特。

6

如权利要求1所述的方法,进一步包括:基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的所述第一权重值子集的第一帧;为所述第一帧设置第一归一化因子;所述第一归一化因子表示要从所述第一权重值子集中的每个权重值移除的填充比特数目;基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的第二权重值子集的第二帧;确定是否所述第二帧的所有比特都是零值;以及响应于确定所述第二帧的所有比特都是零值:为所述第二帧设置第二归一化因子,以表示所述第二帧的所述第二权重值子集的所有比特;通过根据所述第二帧的所述第二归一化因子从所述第二权重值子集移除所有比特来压缩所述第二权重值子集的所述第二帧;以及生成不与帧有效载荷相关联的第二帧报头。

7

如权利要求1所述的方法,进一步包括:基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的所述第一权重值子集的第一帧;标识所述第一帧的所述第一权重值子集中具有最高数目的有效比特的权重值;以及为所述第一帧设置归一化因子;所述归一化因子表示要基于所述最高数目的有效比特从所述第一权重值子集中的每个权重值移除的填充比特数目。

8

如权利要求1所述的方法,进一步包括:确定所述第一帧有效载荷的第一压缩度量是否超过压缩度量阈值;其中生成具有所述第一帧有效载荷的所述经压缩权重数据块包括:响应于确定所述第一帧有效载荷的所述第一压缩度量超过所述压缩度量阈值而生成具有所述第一帧有效载荷的所述经压缩权重数据块。

9

如权利要求8所述的方法,进一步包括:将所述压缩度量阈值设置为所述第一帧有效载荷的所述第一压缩度量;生成第二帧有效载荷;所述第二帧有效载荷包括所述权重数据集中的第二权重值子集的经压缩第二帧;确定所述第二帧有效载荷的第二压缩度量是否超过所述压缩度量阈值;响应于确定所述第二压缩度量超过所述压缩度量阈值而将所述压缩度量阈值设置为所述第二帧有效载荷的所述第二压缩度量;生成第三帧有效载荷;所述第三帧有效载荷包括所述权重数据集中的第三权重值子集的经压缩第三帧;以及确定所述第三帧有效载荷的第三压缩度量是否超过所述压缩度量阈值;其中响应于确定所述第一帧有效载荷的所述第一压缩度量超过所述压缩度量阈值而生成具有所述第一帧有效载荷的所述经压缩权重数据块包括:响应于确定所述第三帧有效载荷的所述第三压缩度量未超过所述压缩度量阈值而生成具有所述第二帧有效载荷的所述经压缩权重数据块。


对比文件列表

编号 名称

权利要求1

一种在计算设备的处理器中执行的方法,包括:接收表示权重值的二进制数的权重数据集;生成第一帧有效载荷;所述第一帧有效载荷包括所述权重数据集中的第一权重值子集的经压缩第一帧;生成与所述第一帧有效载荷相关联的第一帧报头;其中所述第一帧报头包括用于所述经压缩第一帧的归一化因子指示符;其中所述归一化因子指示符指示从所述权重值移除的填充比特数目;以及生成具有所述第一帧有效载荷的经压缩权重数据块。


权利要求2

如权利要求1所述的方法,其中,生成所述第一帧有效载荷包括:通过根据所述权重数据集中的所述第一权重值子集的第一帧的归一化因子从所述第一权重值子集中的每个权重值移除填充比特来压缩所述第一帧以生成所述经压缩第一帧。


权利要求3

如权利要求2所述的方法,进一步包括:从所述第一帧的所述第一权重值子集中的每个权重值移除偏移值以产生所述第一帧的经修改权重值;其中压缩所述第一权重值子集的所述第一帧包括:根据所述第一帧的所述归一化因子从所述第一帧中的所述经修改权重值移除所述填充比特以生成所述经压缩第一帧。


权利要求4

如权利要求3所述的方法,进一步包括:生成用于所述经压缩权重数据块的全局报头;其中所述全局报头包括所述偏移值;并且其中生成与所述第一帧有效载荷相关联的所述第一帧报头包括:生成所述第一帧报头;其中所述第一帧报头包括偏移指示符;所述偏移指示符被配置成指示所述偏移值是否从所述第一帧的所述第一权重值子集移除。


权利要求5

如权利要求2所述的方法,其中,所述填充比特是符号扩展比特。


权利要求6

如权利要求1所述的方法,进一步包括:基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的所述第一权重值子集的第一帧;为所述第一帧设置第一归一化因子;所述第一归一化因子表示要从所述第一权重值子集中的每个权重值移除的填充比特数目;基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的第二权重值子集的第二帧;确定是否所述第二帧的所有比特都是零值;以及响应于确定所述第二帧的所有比特都是零值:为所述第二帧设置第二归一化因子,以表示所述第二帧的所述第二权重值子集的所有比特;通过根据所述第二帧的所述第二归一化因子从所述第二权重值子集移除所有比特来压缩所述第二权重值子集的所述第二帧;以及生成不与帧有效载荷相关联的第二帧报头。


权利要求7

如权利要求1所述的方法,进一步包括:基于选择性搜索准则,基于所述权重值中能够从所述权重值移除以进行无损压缩的填充比特模式来标识所述权重数据集中的所述第一权重值子集的第一帧;标识所述第一帧的所述第一权重值子集中具有最高数目的有效比特的权重值;以及为所述第一帧设置归一化因子;所述归一化因子表示要基于所述最高数目的有效比特从所述第一权重值子集中的每个权重值移除的填充比特数目。


权利要求8

如权利要求1所述的方法,进一步包括:确定所述第一帧有效载荷的第一压缩度量是否超过压缩度量阈值;其中生成具有所述第一帧有效载荷的所述经压缩权重数据块包括:响应于确定所述第一帧有效载荷的所述第一压缩度量超过所述压缩度量阈值而生成具有所述第一帧有效载荷的所述经压缩权重数据块。


权利要求9

如权利要求8所述的方法,进一步包括:将所述压缩度量阈值设置为所述第一帧有效载荷的所述第一压缩度量;生成第二帧有效载荷;所述第二帧有效载荷包括所述权重数据集中的第二权重值子集的经压缩第二帧;确定所述第二帧有效载荷的第二压缩度量是否超过所述压缩度量阈值;响应于确定所述第二压缩度量超过所述压缩度量阈值而将所述压缩度量阈值设置为所述第二帧有效载荷的所述第二压缩度量;生成第三帧有效载荷;所述第三帧有效载荷包括所述权重数据集中的第三权重值子集的经压缩第三帧;以及确定所述第三帧有效载荷的第三压缩度量是否超过所述压缩度量阈值;其中响应于确定所述第一帧有效载荷的所述第一压缩度量超过所述压缩度量阈值而生成具有所述第一帧有效载荷的所述经压缩权重数据块包括:响应于确定所述第三帧有效载荷的所述第三压缩度量未超过所述压缩度量阈值而生成具有所述第二帧有效载荷的所述经压缩权重数据块。


Powered by Django

网站备案号:渝ICP备2023012882号


重庆市非显而易见网络科技有限责任公司 A Anti NPE NPE