我这边也是这情况，注意力层一调大就爆，只能靠梯度累积硬扛