BayesServing

OpenBayes 可将模型部署在服务端进行实时推理。
支持 CPU、GPU 分片等多种资源类型,可满足不同规模的 API 部署需求。