# OpenTrustee_LLM_app **Repository Path**: qiweic10/open-trustee_-llm_app ## Basic Information - **Project Name**: OpenTrustee_LLM_app - **Description**: 使用OpenTrustee在OpenHarmony上实现安全运行大语言模型对话。 - **Primary Language**: C - **License**: Apache-2.0 - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 1 - **Created**: 2024-10-06 - **Last Updated**: 2025-02-21 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # OpenTrustee_LLM_app ## 介绍 使用 **OpenTrustee**,在 **OpenHarmony** 上实现安全运行大语言模型对话。 ## 软件架构 ### 软件架构说明 本软件利用OpenTrustee提供的可信执行环境(TEE),在OpenHarmony操作系统上安全地运行大型语言模型(LLM),确保对话数据的安全和隐私。 1. **前端界面**:用户与系统的交互界面,负责收集用户输入和显示对话结果。 2. **客户端应用(CA)**:处理用户的输入请求,与TEE进行通信,并将结果返回给前端。 3. **可信执行环境(TEE)**:提供一个隔离的环境,用于安全地加载和运行大型语言模型。 4. **可信应用(TA)**:在TEE中运行,负责加载和执行大型语言模型,并处理来自CA的请求。 5. **大型语言模型(LLM)**:核心的AI模型,用于处理语言相关的任务,如对话生成。 ## 特技 - **安全特性**:利用OpenTrustee的TEE,确保对话数据的安全性。 - **高性能**:优化的大型语言模型,提供流畅的对话体验。 - **易用性**:简洁的用户界面,易于操作和使用。