标签：AI推理

1.背景与目标概述本段说明目标：通过CDN的最新特性（HTTP/3/QUIC、边缘缓存、预取、压缩与分片）缩短大模型（GB级）下载与推理冷启动时间。目标用户为模型工程师、平台工程师与DevOps团队。 2.准备模型：量化与分片（实操步骤）步骤：a) 使用量化工具（如 ONNX Runtime、bitsandbytes）把模型从FP32转为INT8/