# transformer-pytorch

**Repository Path**: magicodex/transformer-pytorch

## Basic Information

- **Project Name**: transformer-pytorch
- **Description**: 基于 PyTorch 实现的 Transformer 模型。
- **Primary Language**: Python
- **License**: MIT
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 1
- **Created**: 2024-06-17
- **Last Updated**: 2024-07-22

## Categories & Tags

**Categories**: Uncategorized

**Tags**: Transformer, PyTorch

## README

# 基于 PyTorch 实现的 Transformer 模型

## 训练模型

执行 translation_train.py 文件。

```
输入是否加载预处理模型(Y/N):
输入提前终止的损失值:
Epoch 1/1
loss:   9.322134 [    1/  935]
loss:   1.029304 [  101/  935]
loss:   1.012898 [  201/  935]
loss:   0.898385 [  301/  935]
loss:   0.681991 [  401/  935]
......
```

## 翻译文本

执行 translation_predict.py 文件。

## 主要文件

| 文件                                     |           说明           |
| :--------------------------------------- | :----------------------: |
| modules/transformer/transformer_model.py |  实现 Transformer 模型   |
| modules/helper/corpus_helper.py          |  自定义 PyTorch 数据集   |
| modules/helper/model_helper.py          | 封装创建和训练模型等逻辑 |


## 开源协议

MIT