# aio-enhance

**Repository Path**: yong888/aio-enhance

## Basic Information

- **Project Name**: aio-enhance
- **Description**: aio_enhance（音译：硬汉） 是一款无侵入式的 Java AIO 内核增强类库，解决原生 AIO 架构设计中存在的缺陷，提供更高效、更稳定的通信能力。
- **Primary Language**: Java
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 36
- **Created**: 2020-06-15
- **Last Updated**: 2020-12-19

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

aio_enhance（音译：硬汉） 是一款无侵入式的 **Java AIO 内核增强类库**（***注意：这不是一款通信框架***），解决原生 AIO 架构设计中存在的缺陷，提供更高效、更稳定的 通信能力。

aio_enhance 采用了 NIO 技术实现了一套全新的异步线程模型，兼容完整的 Java AIO 接口。用户可自由选择 Java 原生提供的，或者 aio_enhance 增强的 AIO 实现，架构如下图。

![](framework.png)

## 一、项目背景

**2.1 解决平台兼容性问题。**

Java 原生 AIO 在 Mac 操作系统下存在兼容性问题，进行性能压测会偶发性的系统崩溃。

**2.2 修复官方 AIO 架构缺陷**

 Java 原生 AIO 在底层架构设计上存在缺陷（参考：[Java AIO通信模型](http://openjdk.java.net/projects/nio/resources/AsynchronousIo.html)）。多核 CPU 环境下处理高并发请求，会引发比较严重的锁竞争现象，以致无法充分发挥机器性能。

普通4核机器竞争压力不大，AIO 的运行表现实测优于NIO。但随着 CPU 核数的增加，AIO 的性能优势逐渐下降。

**2.3 优化 AIO 线程模型**

Java AIO 相较于 NIO 多了一层异步线程模型，极大降低了开发人员的编程难度。但是通信过程中的 accept、connect、read、write 等事件都是复用同一组线程资源，容易造成读写回调进入**死锁状态**。 AIO通信框架在设计上需要特别关注这一点，但如果引入 aio-enhance 则无此顾虑。

## 二、适用场景

如果您符合以下几个条件，aio-enhance 会是一个不错的选择。

- 基于 Java AIO 实现的通信框架，如：smart-socket；
- 对高并发实时性有严苛要求；
- 多核CPU环境（至少4核以上）

## 三、集成

**步骤一：依赖**

引入增强包：aio-enhance.jar。可以通过maven方式引入依赖，亦可直接下载 jar 包并导入classpath。

```xml
<dependency>
	<groupId>org.smartboot.aio</groupId>
	<artifactId>aio-enhance</artifactId>
	<version>1.0.0</version>
</dependency>
```



**步骤二：启动**

可以通过硬编码的方式设置系统属性，如下：

```java
System.setProperty("java.nio.channels.spi.AsynchronousChannelProvider", "org.smartboot.aio.EnhanceAsynchronousChannelProvider");
```

也可在 java 启动命令行中设置，如下：

```bash
java -Djava.nio.channels.spi.AsynchronousChannelProvider=org.smartboot.aio.EnhanceAsynchronousChannelProvider xxx.jar
```

## 四、性能对比
为了更加客观的展现 Java 原生 AIO、NIO 以及通过 aio-enhance增强后的 AIO 的性能表现，我们选择 smart-socket 和 netty 在 TFB 上的测试结果做了比较。

- aio：smart-socket
- nio：netty
- aio-enhance: smart-socket

#### 4核CPU

源数据：
[aio: smart-socket](https://tfb-status.techempower.com/unzip/results.2020-05-12-10-17-17-253.zip/mnt/tfb/FrameworkBenchmarks/results/20200508003757/smart-socket) 
[aio-enhance: smart-socket](https://tfb-status.techempower.com/unzip/results.2020-06-12-13-47-41-338.zip/mnt/tfb/FrameworkBenchmarks/results/20200608003827/smart-socket)
[nio: netty](https://tfb-status.techempower.com/unzip/results.2020-06-12-13-47-41-338.zip/mnt/tfb/FrameworkBenchmarks/results/20200608003827/netty)
![](images/4c_pipeline.png)

![](images/4c_not_pipeline.png)

#### 28核CPU

源数据：[aio: smart-socket](https://tfb-status.techempower.com/unzip/results.2020-06-05-01-19-47-523.zip/results/20200531232959/smart-socket) 
[aio-enhance: smart-socket](https://tfb-status.techempower.com/unzip/results.2020-06-14-07-26-26-766.zip/results/20200610023935/smart-socket)
[nio: netty](https://tfb-status.techempower.com/unzip/results.2020-06-14-07-26-26-766.zip/results/20200610023935/netty)

![](images/28c_pipeline.png)

![](images/28c_not_pipeline.png)

## 五、总结

虽说在实验场景下 Java AIO 的表现不如 NIO，但是**异步非阻塞**的设计思想是值得被肯定的。况且在现实场景中，这点性能差别很容易就被业务逻辑所抹平，大家无需去计较孰优孰劣，适合自己的就是最好的选择。如今有了 aio-enhance 做备选，Java AIO本身设计上的缺陷也就没那么重要了。

## 地摊云经济
捐赠摊位已摆好，扫码请作者喝杯咖啡。  
<img src="https://smartboot.gitee.io/book/images/wx.jpg" height="25%" width="25%"/>
<img src="https://smartboot.gitee.io/book/images/alipay.jpg" height="25%" width="25%"/>