代码拉取完成,页面将自动刷新
1618
support fuse layers for ptq
已关闭
PR types
New features
PR changes
Others
Describe
支持了用于离线量化的层融合。可以将卷积层或全连接层以及其后的bn层融合为一个卷积层,计算在inference下是等价的。在离线量化时,可以指定需要融合的层进行融合。层融合可以进一步加速推理,适配某些不支持bn的硬件。
New features
Others
支持了用于离线量化的层融合。可以将卷积层或全连接层以及其后的bn层融合为一个卷积层,计算在inference下是等价的。在离线量化时,可以指定需要融合的层进行融合。层融合可以进一步加速推理,适配某些不支持bn的硬件。