diff --git "a/sig/ConfidentialComputing/content/Confidential_AI/\345\237\272\344\272\216Confidential AI\346\226\271\346\241\210\351\203\250\347\275\262\345\217\227Intel TDX\344\277\235\346\212\244\347\232\204\351\232\220\347\247\201Qwen-1.8B-Chat\346\250\241\345\236\213.md" "b/sig/ConfidentialComputing/content/Confidential_AI/\345\237\272\344\272\216Confidential AI\346\226\271\346\241\210\351\203\250\347\275\262\345\217\227Intel TDX\344\277\235\346\212\244\347\232\204\351\232\220\347\247\201Qwen-1.8B-Chat\346\250\241\345\236\213.md" index 67d2cb0622c3a7bb7b9929ee58ba6404a47ab370..49e9fd5249000b23ba7dad1abdfc60134d5a6371 100644 --- "a/sig/ConfidentialComputing/content/Confidential_AI/\345\237\272\344\272\216Confidential AI\346\226\271\346\241\210\351\203\250\347\275\262\345\217\227Intel TDX\344\277\235\346\212\244\347\232\204\351\232\220\347\247\201Qwen-1.8B-Chat\346\250\241\345\236\213.md" +++ "b/sig/ConfidentialComputing/content/Confidential_AI/\345\237\272\344\272\216Confidential AI\346\226\271\346\241\210\351\203\250\347\275\262\345\217\227Intel TDX\344\277\235\346\212\244\347\232\204\351\232\220\347\247\201Qwen-1.8B-Chat\346\250\241\345\236\213.md" @@ -1,4 +1,3 @@ -# 基于Confidential AI方案部署受Intel TDX保护的隐私Qwen-1.8B-Chat模型 Confidential AI 方案让开发者能够在云端安全执行敏感 AI 任务:无需暴露原始数据/模型,借助可信硬件、远程证明等技术,实现在不信任环境中保护用户隐私数据和 AI 模型的全流程防护,同时正常调用云计算资源部署AI推理服务。 @@ -19,8 +18,8 @@ Confidential AI 方案让开发者能够在云端安全执行敏感 AI 任务: 一台 Intel® TDX 使能的实例,需要额外注意的参数如下: - **镜像**:AnolisOS 23.2 -- **内存**:Qwen-1.8B-Chat大概需要5 GiB内存,为了保证模型运行流畅,实例规格至少8 GiB内存,推荐16 GiB内存 -- **硬盘**:Qwen-1.8B-Chat的运行需要下载多个模型文件,会占用部分存储空间,为了保证模型顺利运行,建议硬盘预留40 GiB空间 +- **内存**:Qwen-1.8B-Chat 大概需要5 GiB内存,为了保证模型运行流畅,实例规格至少8 GiB内存,推荐16 GiB内存 +- **硬盘**:Qwen-1.8B-Chat 的运行需要下载多个模型文件,会占用部分存储空间,为了保证模型顺利运行,建议硬盘预留40 GiB空间 - **网络**:建议实例配置可访问的公网 IP 地址,若仅在单机运行,可使用本地回环地址 ## 操作步骤 @@ -35,7 +34,7 @@ yum install -y anolis-epao-release && yum install -y trustee gocryptfs tmux git ### 步骤二:模型数据准备 -1. 运行以下命令下载 Qwen-1.8B-Cha。(下载预训练模型预计耗时15-20分钟,且成功率受网络情况影响较大,建议在 `tmux session` 中下载,以免 TDX 实例断开连接导致下载模型中断) +1. 运行以下命令下载 Qwen-1.8B-Chat。(下载预训练模型预计耗时15-20分钟,且成功率受网络情况影响较大,建议在 `tmux session` 中下载,以免 TDX 实例断开连接导致下载模型中断) ```bash # 下载预训练模型(预计耗时15-20分钟) @@ -77,7 +76,7 @@ yum install -y anolis-epao-release && yum install -y trustee gocryptfs tmux git ### 步骤三:部署Trustiflux -打开一个新的终端,运行以下命令,安装 trustiflux(attestation-agent confidential-data-hub)及相关环境依赖。 +打开一个新的终端,运行以下命令,安装 trustiflux(attestation-agent、confidential-data-hub)及相关环境依赖。 ```bash yum install -y anolis-epao-release && yum install -y attestation-agent confidential-data-hub gocryptfs wget