非显而易见杯

专利无效挑战赛

目标专利:4380在流式处理器中执行矩阵乘法的方法和装置

专利公开号:CN114902179B

专利权人:高通股份有限公司

无效请求书提交日期:2027年


上一项目 下一项目

非显而易见性评估仅供参考,不构成法律建议。



权利要求列表点击可跳转

序号 权利要求内容

1

一种执行数据处理的方法,包括利用处理器的多个流式处理器中的流式处理器的加载控制单元执行第一加载指令;以将输入矩阵的输入数据集从所述流式处理器的第一存储器加载到所述流式处理器的第二存储器;所述输入矩阵包括第一行数和第一列数;利用所述加载控制单元执行第二加载指令;以将权重矩阵的权重数据集从所述第一存储器加载到所述第二存储器;所述权重矩阵包括第二行数和第二列数;提取所述输入矩阵中的元素;利用所述加载控制单元的直接存储器存取DMA组件确定所述元素不被多个纤程共享;基于确定所述元素不被多个纤程共享;将所述元素存储到通用寄存器;利用所述流式处理器的算术逻辑单元ALU组件使用所述输入数据集和所述权重数据集来执行矩阵乘法运算;以生成具有所述第一行数和所述第二列数的输出矩阵;所述输出矩阵的每个元素表示所述输入数据集的行和所述权重数据集的列的多个元素的点积;所述点积包括产生相应的中间结果的多个乘法运算和累加运算;所述相应的中间结果被重新输入到所述ALU组件以用于所述点积的后续运算;以及将所述输出矩阵存储在所述流式处理器的所述通用寄存器中;所述通用寄存器被配置为可由所述ALU组件存取。

2

根据权利要求1所述的方法,其中所述相应的中间结果从所述ALU组件被输出到所述流式处理器的ALU控制器;并且其中所述相应的中间结果从所述ALU控制器被重新输入到所述ALU组件以用于执行所述后续运算;而不对所述通用寄存器进行存取以用于所述后续运算的所述执行。

3

根据权利要求1所述的方法,其中执行所述第一加载指令包括利用所述加载控制单元使用第一模式在所述第一存储器的存储器地址处加载第一元素块;所述第一元素块与所述输入矩阵的所述输入数据集相对应;以及其中执行所述第二加载指令包括利用所述加载控制单元使用第二模式在所述第一存储器的存储器地址处加载第二元素块;所述第二元素块与所述权重矩阵的所述权重数据集相对应。

4

根据权利要求3所述的方法,其中使用所述第一模式或所述第二模式中的至少一项包括存取在所述第一存储器处的连续存储器地址处的元素。

5

根据权利要求1所述的方法,其中所述输入矩阵的所述输入数据集的大小是基于波大小的;并且其中所述权重矩阵的所述权重数据集的大小是基于所述波大小的。

6

根据权利要求5所述的方法,其中所述波大小与多个纤程相对应;并且其中所述输出矩阵的每个输出与相应纤程的执行相对应。

7

根据权利要求1所述的方法,其中所述第一行数和所述第一列数中的至少一项大于一;并且其中所述第二行数和所述第二列数中的至少一项大于一。

8

根据权利要求1所述的方法,还包括利用所述加载控制单元从所述流式处理器的本地存储器或能由所述流式处理器存取的共享存储器提取所述第一加载指令。


对比文件列表

编号 名称

权利要求1

一种执行数据处理的方法,包括利用处理器的多个流式处理器中的流式处理器的加载控制单元执行第一加载指令;以将输入矩阵的输入数据集从所述流式处理器的第一存储器加载到所述流式处理器的第二存储器;所述输入矩阵包括第一行数和第一列数;利用所述加载控制单元执行第二加载指令;以将权重矩阵的权重数据集从所述第一存储器加载到所述第二存储器;所述权重矩阵包括第二行数和第二列数;提取所述输入矩阵中的元素;利用所述加载控制单元的直接存储器存取DMA组件确定所述元素不被多个纤程共享;基于确定所述元素不被多个纤程共享;将所述元素存储到通用寄存器;利用所述流式处理器的算术逻辑单元ALU组件使用所述输入数据集和所述权重数据集来执行矩阵乘法运算;以生成具有所述第一行数和所述第二列数的输出矩阵;所述输出矩阵的每个元素表示所述输入数据集的行和所述权重数据集的列的多个元素的点积;所述点积包括产生相应的中间结果的多个乘法运算和累加运算;所述相应的中间结果被重新输入到所述ALU组件以用于所述点积的后续运算;以及将所述输出矩阵存储在所述流式处理器的所述通用寄存器中;所述通用寄存器被配置为可由所述ALU组件存取。


权利要求2

根据权利要求1所述的方法,其中所述相应的中间结果从所述ALU组件被输出到所述流式处理器的ALU控制器;并且其中所述相应的中间结果从所述ALU控制器被重新输入到所述ALU组件以用于执行所述后续运算;而不对所述通用寄存器进行存取以用于所述后续运算的所述执行。


权利要求3

根据权利要求1所述的方法,其中执行所述第一加载指令包括利用所述加载控制单元使用第一模式在所述第一存储器的存储器地址处加载第一元素块;所述第一元素块与所述输入矩阵的所述输入数据集相对应;以及其中执行所述第二加载指令包括利用所述加载控制单元使用第二模式在所述第一存储器的存储器地址处加载第二元素块;所述第二元素块与所述权重矩阵的所述权重数据集相对应。


权利要求4

根据权利要求3所述的方法,其中使用所述第一模式或所述第二模式中的至少一项包括存取在所述第一存储器处的连续存储器地址处的元素。


权利要求5

根据权利要求1所述的方法,其中所述输入矩阵的所述输入数据集的大小是基于波大小的;并且其中所述权重矩阵的所述权重数据集的大小是基于所述波大小的。


权利要求6

根据权利要求5所述的方法,其中所述波大小与多个纤程相对应;并且其中所述输出矩阵的每个输出与相应纤程的执行相对应。


权利要求7

根据权利要求1所述的方法,其中所述第一行数和所述第一列数中的至少一项大于一;并且其中所述第二行数和所述第二列数中的至少一项大于一。


权利要求8

根据权利要求1所述的方法,还包括利用所述加载控制单元从所述流式处理器的本地存储器或能由所述流式处理器存取的共享存储器提取所述第一加载指令。


Powered by Django

网站备案号:渝ICP备2023012882号


重庆市非显而易见网络科技有限责任公司 A Anti NPE NPE