dynamic_fixed_point-16量化问题 #1
Description
dynamic_fixed_point-16量化是fp16量化么？我用这个方式量化模型之后，使用Linux目录下的ssd_mobilenet.cpp来测试耗时，uint8 mobilenetv2的耗时是6ms，fp16 mobilenetv2的耗时是50ms+，这个量级的差异太大了，是fp16模型在预测时要有不同的参数设置么？
{{ message }}
dynamic_fixed_point-16量化是fp16量化么？我用这个方式量化模型之后，使用Linux目录下的ssd_mobilenet.cpp来测试耗时，uint8 mobilenetv2的耗时是6ms，fp16 mobilenetv2的耗时是50ms+，这个量级的差异太大了，是fp16模型在预测时要有不同的参数设置么？