Background

AICPU算子接入

1. 功能介绍

LayerNormGrad算子的反向，未发现对标算子。LayerNorm算子是对Channel方向做归一化。

2. 接口描述

• Python层接口

  接口目录：mindspore/ops/operations/_grad_ops.py

  class LayerNormGradGrad (Primitive):

  参数	类型	输入/输出/属性	说明
  x	Tensor	输入	LayerNorm算子的输入x
  dy	Tensor	输入	LayerNorm算子的反传梯度值
  variance	Tensor	输入	LayerNorm算子的输出，x的方差
  mean	Tensor	输入	LayerNorm算子的输出，x的均值
  gamma	Tensor	输入	LayerNorm算子的输入gamm
  d_dx	Tensor	输入	LayerNormGrad的输出dx的反向梯度
  d_dg	Tensor	输入	LayerNormGrad的输出dg的反向梯度
  d_db	Tensor	输入	LayerNormGrad的输出db的反向梯度
  sopd_dy	Tensor	输出	x的梯度输出
  sopd_mean	Tensor	输出	dy的梯度输出
  sopd_gamma	Tensor	输出	Gamma的梯度输出

• 对应底层算子

  对应底层AICPU算子LayerNormGradGrad

  Classify	Name	Type	Type Range	Required	Format
  INPUT	x	tensor	fp16,fp32	TRUE
  INPUT	dy	tensor	fp16,fp32	TRUE
  INPUT	variance	tensor	fp16,fp32	TRUE
  INPUT	mean	tensor	fp16,fp32	TRUE
  INPUT	gamma	tensor	fp16,fp32	TRUE
  INPUT	d_dx	tensor	fp16,fp32	TRUE
  INPUT	d_dg	tensor	fp16,fp32	TRUE
  INPUT	d_db	tensor	fp16,fp32	TRUE
  OUTPUT	sopd_x	tensor	fp16,fp32	TRUE
  OUTPUT	sopd_dy	tensor	fp16,fp32	TRUE
  OUTPUT	sopd_gamma	tensor	fp16,fp32	TRUE

• 标杆接口参考

3. 异常处理

4. 算子反向

无反向