DeepSparkInference推理模型示例库甄选了216个推理大小模型示例,小模型涵盖计算机视觉,自然语言处理,语音识别等领域;大模型涉及vLLM,TGI等多种框架,并将持续扩展更多、更新的模型示例。
IX device plugin是针对天数智芯GPGPU开发的Kubernetes集群设备扩展插件,通过DaemonSet的方式部署到集群,使能Kubernetes集群调度天数智芯GPGPU资源。
IX Feature Discovery 能够自动为K8S集群节点上可用的天数智芯加速卡生成标签。
本仓库为天数智芯Iluvatar Corex IxRT高性能推理引擎的开源代码部分,提供IxRT相关插件、部署工具和演示IxRT平台用法和能力的应用示例。
DeepSpark开源社区致力于打造和推广国内领先的AI和通用计算应用开发及评测平台-百大应用开放平台,甄选上百个与行业应用深度耦合的开源算法和模型,支持主流生态应用框架,并针对行业需求构建多维度评测体系,广泛支持各类落地场景。
Go-ixML提供天数智芯加速卡的ixML系统管理接口的 Golang API 接口。
ixGDB是在CUDA-GDB的基础上开发的针对天数智芯通用GPU加速卡的开源调试工具,是GNU项目调试器GDB的扩展。目前的ixGDB是基于CUDA-GDB 10.2开发。
Go-ixDCGM 提供天数智芯 ixDCGM(数据中心GPU管理软件)的Golang API接口。
ixJPEG-Python 是一个基于 ixJPEG 库的 Python 封装,提供了 JPEG 图像编码和解码的功能。
IX Exporter是针对天数智芯GPGPU开发的Kubernetes集群资源监控插件。IX Exporter是一个HTTP后台应用程序,使得集群用户可以远程实时获取天数智芯GPGPU指标统计。
ix-Container-Toolkit是一个能够帮助用户快速构建和运行天数加速卡容器的工具集,提供使能天数智芯加速卡的容器运行时。
DeepSparkHub模型仓库中的GPL类许可证模型
ix GPU Operator用来帮助用户在Kubernetes集群配置和管理天数智芯GPGPU加速卡。
DeepSparkInference推理模型示例库一期甄选了48个推理模型示例,涵盖计算机视觉,自然语言处理,语音识别等领域,后续将逐步拓展更多AI领域。
DeepSparkHub甄选上百个应用算法和模型,覆盖AI和通用计算各领域,支持主流市场智能计算落地应用场景。