创建实例

用于创建和管理容器实例,包括启动、停止、创建快照、扩容等。支持以 webshell 等多种方式进行远程调试。

基础信息
租户
项目
实例名称
实例规格
架构
类型
规格
规格 类型 GPU 显存 数量 计算资源 磁盘
RTX3080-1 private_gpu NVIDIA-NVIDIA GeForce RTX 3080 10GiB 1 4核 8GiB 50GiB
A800-1 private_gpu NVIDIA-NVIDIA A800-SXM4-80GB 80GiB 1 8核 16GiB 50GiB
A800-2 private_gpu NVIDIA-NVIDIA A800-SXM4-80GB 80GiB 2 16核 32GiB 50GiB
Ascend-910B-1 private_gpu Ascend-910B 32GiB 1 8核 16GiB 100GiB
Ascend-910B-8 private_gpu Ascend-910B 256GiB 8 32核 64GiB 200GiB
实例镜像
类型
镜像标签
全部 异构推理 QianWen DeepSeek PyTorch TensorFlow
镜像
camp/vllm/vllm-openai
镜像分类:Ubuntu | 大小:8.42GiB | 名称:harbor.rise.io/camp/vllm/vllm-openai:v0.8.5
library/pytorch-deepspeed-demo
镜像分类:Ubuntu | 大小:12.5GiB | PyTorch 2.0 + DeepSpeed
ascend-pytorch
镜像分类:EulerOS | 大小:15.2GiB | Ascend PyTorch 开发环境
存储配置
公共存储
instances-models /instances-models
自定义存储
添加存储卷
启动命令
环境变量