跳到主要内容

AI 基础设施管理与应用创新平台
For

基于云原生打造的开源 AI 基础设施管理软件,专为加速 AI 应用开发并简化大型语言模型(LLM)的管理而设计.

w-logo

您的专属 AI 基础设施与应用创新平台,不止于GPU。

简单易用,一键安装

开箱即用,支持 x86_64 和 ARM64 架构,提供顺畅的安装体验。

## To bootstrap a new cluster curl -sfL https://get-llmos.1block.ai | sh -s - --cluster-init --token mytoken ## To monitor installation logs, run journalctl -u llmos -f

统一基础设施、LLM 和应用生命周期管理

提供统一的界面,使开发者和非开发者都能轻松管理基础设施、机器学习集群、大语言模型和用户工作负载。

支持不同的云厂商与主流的机器学习框架

可无缝运行于公有云和本地服务器,且兼容当前大部分的主流机器学习和训练框架(例如:PyTorch, DeepSpeed, Ray, etc.,)。

Multi‑cloud

私有化部署,支持边缘和分支机构场景

支持私有部署,优化资源以便在边缘和分支网络中运行模型和工作负载。同时支持横向扩展,以满足未来业务需求。