android armv8a librknnrt-2.2 layernorm结果不正确

Question

Opened this issue a month ago · 2 comments

简单的使用layernorm，时间运行在3562板子上，结果误差很大。

ln1 = torch.nn.LayerNorm(256,eps=1e-5)

Answer 1 · 2024-10-17T11:03:56.000Z

显示的是(1，256，1，4)，但是rknn_init后query得到的input attr显示的dim0=1,dim1=1,dim2=4,dim3=256，fmt=0好像对不上（dim0=1,dim1=256,dim2=1,dim3=4才对吧），

Answer 2 · 2024-10-18T03:03:54.000Z

有的版本对ln的支持确实不怎么样，中间的shape这个看看就好，内部会进行转置的