基于原生 vLLM 框架适配 Enflame GCU(S60)推出的大模型推理系统
由燧原开发和维护的模型合集,提供人工智能各个应用领域(包括并不限于CV/NLP/推荐等)中经典和SOTA模型的训练和推理应用示例。
有关燧原科技 topscodec 编解码 FFmpeg 插件
燧原科技是我国云端AI芯片领域的领军企业之一,致力于成为“通用人工智能基础设施领军企业”。成立近8年来,公司自研迭代了四代架构5款云端AI芯片,构建了覆盖AI芯片、AI加速卡及模组、智算系统及集群和AI计算及编程软件平台的产品体系。
燧原社区包含多个项目,目前主要以开源燧原大模型推理软件栈为主,您可以根据实际场景,在对应的项目中拉取代码修改、编译,提交issue和PR等。 绿色部分为我们后续要开源的项目。
网站:https://www.enflame-tech.com 邮箱:info@enflame-tech.com