pytorch_quantization问题修改
修改1
在进行PTQ量化时,出现TypeError: _output_padding() missing 1 required positional argument: ‘num_spatial_dims’报错
这个错误是官方的pytorch_quantization有bug导致的。目前我是在tensorRT8.4版本下的安装的pytorch_quantization库。
需要进行的修改如下:
lib/python3.10/site-packages/pytorch_quantization/nn/modules/quant_conv.py
change output_padding = self._output_padding(input, output_size, self.stride, self.padding, self.kernel_size)
to output_padding = self._output_padding(input, output_size, self.stride, self.padding, self.kernel_size, 2)
备注:最新的tensorrt官方已经修改了(记录日期2025.09.08),如下图
修改2
在进行插入QDQ敏感层分析时,逐层打开(单独打开一层的QDQ)进行精度计算。会报错,因此需要修改如下
pytorch-quantization/pytorch_quantization/nn/modules/tensor_quantizer.py中def load_calib_amax(self, args, *kwargs):修改如下