# iluvatar-vgpu-manager

**Repository Path**: deep-spark/iluvatar-vgpu-manager

## Basic Information

- **Project Name**: iluvatar-vgpu-manager
- **Description**: 天数智芯 vGPU 方案是针对天数智芯加速卡实现的基于 Kubernetes 的 GPU 虚拟化方案
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 2
- **Forks**: 1
- **Created**: 2026-04-29
- **Last Updated**: 2026-06-17

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# ILUVATAR vGPU

天数智芯 vGPU 方案是针对天数智芯加速卡实现的基于 Kubernetes 的 GPU 虚拟化方案。部署此方案后可以实现多用户同时使用一张加速卡。该方案 GPU 算力的最小颗粒度为一张加速卡的 1%，显存的最小颗粒度为 256MB。

支持 HAMI 和 Volcano 等第三方调度器。

## 先决条件

- Kubernetes 集群（版本 1.19+ 推荐）
- Helm 3.0+
- 如果使用私有镜像仓库，请确保集群已配置相应的 imagePullSecrets

## 安装

```bash
helm install iluvatar-vgpu-manager --namespace iluvatar-vgpu-manager --create-namespace \
      --set manager.servicemonitor.enabled=true \
      --set ixfd.enable=true \
      iluvatar-vgpu-manager
```

如果使用第三方调度器（如 HAMI、Volcano），只需安装 gpu-manager：

```bash
helm install iluvatar-vgpu-manager --namespace iluvatar-vgpu-manager --create-namespace \
      --set admission.enabled=false \
      iluvatar-vgpu-manager
```

设置 `ixfd.enable=true` 将部署 ix-feature-discovery 自动检测天数 GPU 设备并在节点添加标签。否则需要手动在节点增加 `iluvatar.com/gpu.present="true"` 标签，gpu-manager 将自动部署到有该标签的节点。

### 配置参数

#### 全局配置 (global)

| 参数 | 描述 | 默认值 |
|------|------|--------|
| `global.imageRegistry` | 全局镜像仓库地址，可覆盖各个组件的独立设置 | `""` |
| `global.imageTag` | 全局镜像标签，可覆盖各个组件的独立设置 | `""` |

#### 准入控制和调度 (gpu-admission)

| 参数 | 描述 | 默认值 |
|------|------|--------|
| `admission.enabled` | 是否启用 gpu-admission | `true` |
| `admission.kubeScheduler.image.registry` | kube-scheduler 镜像仓库 | `registry.cn-hangzhou.aliyuncs.com` |
| `admission.kubeScheduler.image.repository` | kube-scheduler 镜像仓库路径 | `google_containers/kube-scheduler` |
| `admission.kubeScheduler.image.tag` | kube-scheduler 镜像标签 | `""` |
| `admission.extender.image.registry` | gpu-admission 组件镜像仓库 | - |
| `admission.extender.image.repository` | gpu-admission 组件镜像路径 | `cloud/gpu-admission` |
| `admission.extender.image.tag` | gpu-admission 组件镜像标签 | - |
| `admission.certgen.image.registry` | 证书生成组件镜像仓库 | - |
| `admission.certgen.image.repository` | 证书生成组件镜像路径 | `rancher/mirrored-ingress-nginx-kube-webhook-certgen` |
| `admission.certgen.image.tag` | 证书生成组件镜像标签 | `v1.4.1` |

#### GPU 管理器 (gpu-manager)

| 参数 | 描述 | 默认值 |
|------|------|--------|
| `manager.image.registry` | gpu-manager 镜像仓库 | `registry.iluvatar.com.cn:10443` |
| `manager.image.repository` | gpu-manager 镜像路径 | `cloud/gpu-manager` |
| `manager.image.tag` | gpu-manager 镜像标签 | - |
| `manager.product` | 支持的 GPU 产品型号列表 | `["BI-V100", "BI-V150S", "BI-V150", "MR-V100"]` |
| `manager.servicemonitor.enabled` | 是否启用 ServiceMonitor（用于 Prometheus 监控） | `false` |
| `manager.containerRuntimeEndpoint` | 容器运行时端点（如 containerd socket 路径） | `""` |
| `ixfd.enable` | 是否部署 ix-feature-discovery | `false` |

#### 其他配置

| 参数 | 描述 | 默认值 |
|------|------|--------|
| `imagePullSecrets` | 拉取私有镜像的 Secret 列表 | `[]` |
| `nameOverride` | 名称覆盖 | `""` |
| `fullnameOverride` | 全名覆盖 | `""` |

## 编译

### 版本配置

修改 `version.mk` 确认版本号：

```makefile
VERSION = v4.4.0
```

### 编译二进制及动态链接库文件

```bash
make bin
```

将会产生以下文件：

```
go/
└── bin/
    ├── gpu-admission
    ├── gpu-client
    ├── gpu-manager
    └── iluvatar-vgpu-manager.so
```

### 生成镜像

```bash
make img
```

## 支持的 GPU 产品

- BI-V100
- BI-V150S
- BI-V150
- MR-V100

## 许可证

本项目基于 Apache License 2.0 许可证开源。详见 [LICENSE](LICENSE) 文件。