@normalcoder
技术布道/独立开发者 Technical Evangelism / independent developers
Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.
基于原生 vLLM 框架适配 Enflame GCU(S60)推出的大模型推理系统
Minimalist ML framework for Rust
在 Kubernetes 集群中运行启用了Enflame GCU 共享的容器