# LLM

**Repository Path**: huachun/llm

## Basic Information

- **Project Name**: LLM
- **Description**: LLM大模型技术分析
- **Primary Language**: Python
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 1
- **Forks**: 1
- **Created**: 2023-12-11
- **Last Updated**: 2024-04-15

## Categories & Tags

**Categories**: Uncategorized

**Tags**: llms, Python, Transformer

## README

# LLM大模型技术分享

## 项目环境

```tex
datasets==2.16.0
jieba==0.42.1
loguru==0.7.2
spacy==3.7.2
tensorboard==2.15.1
tensorboard-data-server==0.7.2
torch==2.1.1
torchtext==0.16.1
tqdm==4.66.1
transformers==4.36.2
```



## 环境安装

```bash
git clone https://gitee.com/huachun/llm.git
cd llm
pip install -r requirements.txt
```



## 目录结构

### codes：项目代码目录

+ TransformerTranslation：基于Transformer实现德语-英语文本翻译模型
+ NewClassification：基于简单神经网络实现新闻分类
+ TransformerAGNewsClassification：基于Transformer实现新闻分类模型
+ TransformCouplet：基于Transformer实现对中文联生成模型
+ ModelSaveAndMigration：模型训练/保存/加载/预测流程案例
+ BertWithPretrained：基于Bert预训练模型实现各种下游任务



### documents：相关学习文档

+ BERT.pdf：Bert模型论文精度及基于Bert预训练模型实现各种下游任务学习文档
+ Transformer.pdf：Transformer模型论文精读及德-英翻译模型代码实现



以上两篇学习文档均来自于知乎博主【[月来客栈](https://www.zhihu.com/people/the_lastest)】




### InterviewQA：大模型相关面试题整理