从算子调优到推理自治：构建 MaaS 场景下的 AI Inference 自动优化闭环｜QCon上海

📋总体概括

InfoQ报道QCon上海一场关于AI推理优化的技术演讲，主题为MaaS（模型即服务）场景下从算子调优到推理自治的自动优化闭环构建。内容聚焦推理服务的性能优化路径：底层算子级别的手工调优之外，进一步走向系统自治，让推理平台自动发现瓶颈并持续优化。该议题反映大模型商用化后，推理成本与吞吐成为MaaS服务商的核心竞争力，推理优化正从人肉调参走向自动化、闭环化。