结论:排查 Python 推理服务的配置漂移,不要先看仓库里的默认配置,而要先确认进程实际生效的配置值。很多问题表面上是线程数、批大小、超时或模型路径异常,实际是环境变量、启动参数、配置文件加载顺序和框架内置默认值共同作用的结果。第一步应让服务在启动时输出一份脱敏后的 resolved config,也就是完成所有覆盖后的最终配置,并记录配置来源、版本号和加载时间。

限制是配置日志不能只打印用户传入的参数,因为默认值、条件分支和动态读取的环境变量可能不会出现在输入配置里。建议把配置解析成不可变对象,避免运行时被模块级变量、monkey patch 或后台任务修改。对敏感字段只做掩码,不要直接打印密钥。若不同容器实例行为不一致,还要同时记录镜像 digest、Python 与依赖版本、部署环境名和配置文件 checksum,否则很难复现“同一份代码但行为不同”的情况。

参考排查路径是先复现一次请求并关联 trace id,再对照启动配置、请求级覆盖和运行时指标。重点检查三类覆盖:环境变量是否覆盖文件配置,命令行参数是否覆盖环境变量,请求参数是否允许绕过服务级限流。随后用最小配置在本地或隔离环境启动,逐项恢复变量,定位第一个改变行为的配置项。若使用动态配置,需要额外区分“配置中心已更新”和“进程已重新加载”,并把加载失败、回退到默认值、部分字段更新失败都打成明确事件,避免把配置刷新失败误判成模型或调度问题。