创建实例
用于创建和管理容器实例,包括启动、停止、创建快照、扩容等。支持以 webshell 等多种方式进行远程调试。
基础信息
租户
项目
实例名称
实例规格
架构
类型
规格
| 规格 | 类型 | GPU | 显存 | 数量 | 计算资源 | 磁盘 | |
|---|---|---|---|---|---|---|---|
| RTX3080-1 | private_gpu | NVIDIA-NVIDIA GeForce RTX 3080 | 10GiB | 1 | 4核 8GiB | 50GiB | |
| A800-1 | private_gpu | NVIDIA-NVIDIA A800-SXM4-80GB | 80GiB | 1 | 8核 16GiB | 50GiB | |
| A800-2 | private_gpu | NVIDIA-NVIDIA A800-SXM4-80GB | 80GiB | 2 | 16核 32GiB | 50GiB | |
| Ascend-910B-1 | private_gpu | Ascend-910B | 32GiB | 1 | 8核 16GiB | 100GiB | |
| Ascend-910B-8 | private_gpu | Ascend-910B | 256GiB | 8 | 32核 64GiB | 200GiB |
实例镜像
类型
镜像标签
全部
异构推理
QianWen
DeepSeek
PyTorch
TensorFlow
镜像
camp/vllm/vllm-openai
镜像分类:Ubuntu | 大小:8.42GiB | 名称:harbor.rise.io/camp/vllm/vllm-openai:v0.8.5
library/pytorch-deepspeed-demo
镜像分类:Ubuntu | 大小:12.5GiB | PyTorch 2.0 + DeepSpeed
ascend-pytorch
镜像分类:EulerOS | 大小:15.2GiB | Ascend PyTorch 开发环境
存储配置
公共存储
instances-models
/instances-models
自定义存储
添加存储卷
启动命令
环境变量