资讯详情

CANN/ge矩阵计算文档

📅 2026/9/10 8:47:02 | 华诺云谱 👁 阅读
CANN/ge矩阵计算文档
关于A、B、C矩阵的Shape及内存大小计算公式A、B、C矩阵是否转置的标记如果设置为ACL_TRANS_N或ACL_TRANS_T则用户在申请内存存放A、B、C矩阵数据时实际申请的内存要和实际数据大小匹配Shape及内存大小的计算公式如下A矩阵shape (m, k)内存大小 m*k*sizeof(dataTypeA)B矩阵shape (k, n)内存大小 k*n*sizeof(dataTypeB)C矩阵shape (m, n)内存大小 m*n*sizeof(dataTypeC)A、B、C矩阵是否转置的标记如果设置为ACL_TRANS_NZ表示采用内部数据格式矩阵Shape为4维Shape及内存大小的计算公式如下假设m,k,n分别为原始轴⌈ ⌉表示向上对齐当矩阵A和矩阵B中数据的类型为aclFloat16在计算实际内存大小时m、k、n均按16对齐向上取整计算A矩阵shape (⌈k/16⌉, ⌈m/16⌉, 16, 16)内存大小 ⌈m/16⌉*16*⌈k/16⌉*16*sizeof(dataTypeA)B矩阵shape (⌈n/16⌉, ⌈k/16⌉, 16, 16)内存大小 ⌈k/16⌉*16*⌈n/16⌉*16*sizeof(dataTypeB)C矩阵shape (⌈n/16⌉, ⌈m/16⌉, 16, 16)内存大小 ⌈m/16⌉*16*⌈n/16⌉*16*sizeof(dataTypeC)当矩阵A和矩阵B中数据的类型为int8_t在计算实际内存大小时reduce轴按32对齐向上取整计算非reduce轴按16对齐向上取整计算A矩阵shape (⌈k/32⌉, ⌈m/16⌉, 16, 32)内存大小 ⌈m/16⌉*16*⌈k/32⌉*32*sizeof(dataTypeA)B矩阵shape (⌈k/32⌉, ⌈n/16⌉, 32, 16)内存大小 ⌈k/32⌉*32*⌈n/16⌉*16*sizeof(dataTypeB)C矩阵shape (⌈n/16⌉, ⌈m/16⌉, 16, 16)内存大小 ⌈m/16⌉*16*⌈n/16⌉*16*sizeof(dataTypeC)创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。