COREMESH 提供生产就绪的 AIOS
COREMESH AIOS 赋能流程
高并发 AI 服务
得益于AI 编译器（CoCo）与 AI 推理框架（CoInf）的紧密配合，既有算力硬件设备可以超常发挥性能——在保证服务质量 QoS 的前提下，大幅提高并发能力。不仅限于 GPU 等专用设备，CPU 也可以运行高并发、低延迟的 AI 服务。
高并发 AI 服务
得益于AI 编译器（CoCo）与 AI 推理框架（CoInf）的紧密配合，既有算力硬件设备可以超常发挥性能——在保证服务质量 QoS 的前提下，大幅提高并发能力。不仅限于 GPU 等专用设备，CPU 也可以运行高并发、低延迟的 AI 服务。
高资源利用率
AI 云原生服务框架（Cober）与 AI 推理框架（CoInf），在算子级别等微观层次实现性能隔离（Performance Isolation），使得更细粒度的资源分配成为可能；结合全局视图的调度策略，打破算力独占壁垒，提高资源利用率。
高资源利用率
AI 云原生服务框架（Cober）与 AI 推理框架（CoInf），在算子级别等微观层次实现性能隔离（Performance Isolation），使得更细粒度的资源分配成为可能；结合全局视图的调度策略，打破算力独占壁垒，提高资源利用率。
全面稳定的生产力
覆盖从 AI 模型部署开始的大部分生产流程，包含：自动化 Finetune、算法编译（图优化、量化、内存优化等）、AI 算法推理、Web 接口服务等。同时也提供面向云原生的基础设施，包含：存储、网络、微服务治理、资源管理、性能监控等。
便捷服务部署
将 AI 服务部署与云原生生态深度融合，实现便捷部署的同时，打通与云原生应用的协同流程，可支持海量服务与应用。
