常见模型结构顺序
0
在cnn中
conv/fc -> norm -> relu/silu/... -> max/avg/pool -> dropout -> conv/fc -> ...
在rnn中
layernorm ->conv/fc -> relu/silu/... -> max/avg/pool ...
0
在cnn中
conv/fc -> norm -> relu/silu/... -> max/avg/pool -> dropout -> conv/fc -> ...
在rnn中
layernorm ->conv/fc -> relu/silu/... -> max/avg/pool ...