把大模型用在长链路、复杂协作的供应链上，是提效最明显的领域之一。供应链场景的「钉子」迎来了大模型生产力这把「锤子」。
作为支撑顺丰速运背后的供应链数智化承载，顺丰科技围绕物流场景的数智化需求，携手火山引擎积极探索大模型时代的最佳实践。
2024年，凭借火山引擎机器学习平台 AI 训推一体服务，顺丰科技推出了针对物流行业的垂直领域大模型——「丰语」，在顺丰的市场营销、客服、收派、国际关务等业务板块的二十余个场景中的落地实践应用。「丰语」系列模型还利用火山引擎 AI 云原生推理套件 ServingKit，实现了从模型部署到推理应用全链路的提效。
高效训推一体架构，打造「丰语大模型」
顺丰科技全面拥抱、深度探索 AI 在物流各环节中的增长提效。自研的“丰语系列大模型家族”包括丰语语言大模型、丰语语音大模型、丰语多模态大模型，在顺丰科技的市场营销、客服、收派、国际关务等20+业务板块场景中实践应用。
在训练丰语大模型的过程中，顺丰科技通过火山引擎机器学习平台，实现从训练到推理的全链路加速。
模型训练过程中，火山引擎训练框架 veTuner 帮助「丰语大模型」实现了高性能 Dataloader 的全面适配与集群自动并行，相较开源框架性能提升超30%；
同时，火山引擎强化学习库 veRL 支持 PPO、GRPO、DAPO 等多种算法，最高实现64.9% MFU（内存频率利用率），大大降低了「丰语大模型」的训练成本；
xLLM 推理框架通过 PD 分离部署与动态流量调度，将「丰语」大模型的吞吐能力提升最高达5倍，稳定应对高并发业务高峰。
当大模型重塑物流服务，如何降低推理成本？
与此同时，随着大模型渗透到物流上下游的各个场景，每天千万件的订单信息需要消耗大量的 AI 推理资源。
面对不断攀高的推理成本，顺丰科技利用火山引擎 AI 云原生推理套件 ServingKit ，实现从模型部署到推理应用全链路的提效。在 DeepSeek V3/R1满血版的部署上做到顺丰同城“即日达”的效率，通过算子融合和镜像优化，在相同 SLO 和上下文输入长度下大模型吞吐有明显提升。
2025年，随着智能体落地按下加速键，未来，顺丰科技将携手火山引擎，进一步探索物流场景的 AI 生产力落地。
0 条