您的专属 AI 基础设施与应用创新平台,不止于GPU。
简单易用,一键安装
开箱即用,支持 x86_64 和 ARM64 架构,提供顺畅的安装体验。
## To bootstrap a new cluster
curl -sfL https://get-llmos.1block.ai | sh -s - --cluster-init --token mytoken
## To monitor installation logs, run
journalctl -u llmos -f
统一基础设施、LLM 和应用生命周期管理
提供统一的界面,使开发者和非开发者都能轻松管理基础设施、机器学习集群、大语言模型和用户工作负载。
支持不同的云厂商与主流的机器学习框架
可无缝运行于公有云和本地服务器,且兼容当前大部分的主流机器学习和训练框架(例如:PyTorch, DeepSpeed, Ray, etc.,)。
私有化部署,支持边缘和分支机构场景
支持私有部署,优化资源以便在边缘和分支网络中运行模型和工作负载。同时支持横向扩展,以满足未来业务需求。