# openvino_tensorflow
**Repository Path**: openvinotoolkit-prc/openvino_tensorflow
## Basic Information
- **Project Name**: openvino_tensorflow
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No
## Statistics
- **Stars**: 32
- **Forks**: 0
- **Created**: 2021-05-08
- **Last Updated**: 2025-06-12
## Categories & Tags
**Categories**: Uncategorized
**Tags**: None
## README
[English](./README.md) | 简体中文
# **OpenVINO™ integration with TensorFlow**
该仓库包含 **OpenVINO™ integration with TensorFlow** 的源代码,该产品专为希望在推理应用中体验[OpenVINO™](https://software.intel.com/content/www/us/en/develop/tools/openvino-toolkit.html) 的TensowFlow*开发人员设计。TensorFlow*应用开发者只需添加2行代码,就可在各种英特尔® 计算设备上通过TensorFlow推理应用优化[OpenVINO™](https://software.intel.com/content/www/us/en/develop/tools/openvino-toolkit.html) 工具套件。
import openvino_tensorflow
openvino_tensorflow.set_backend('')
该产品优化行内[OpenVINO™](https://software.intel.com/content/www/us/en/develop/tools/openvino-toolkit.html) ,只需稍微修改代码,就可显著增强推理性能。**OpenVINO™ integration with TensorFlow** 可在各种英特尔® 芯片上加速很多AI模型**的推理速度,例如:
- 英特尔® CPU
- 英特尔® 集成 GPU
[注:为实现最佳的性能、效率、工具定制和硬件控制,我们建议开发人员使用原生 OpenVINO™ API 及其运行时。]
## 安装
### 前提条件
- Ubuntu 18.04, 20.04, macOS 11.2.3 or Windows1 10 - 64 bit
- Python* 3.7, 3.8 or 3.9
- TensorFlow* v2.9.3
1Windows安装包仅支持Python3.9
请参阅我们的[交互式安装表](https://openvinotoolkit.github.io/openvino_tensorflow/),查看安装选项菜单。该表格将帮助您配置安装过程。
**OpenVINO™ integration with TensorFlow** 安装包附带 OpenVINO™ 2022.3.0 版本的预建库,用户无需单独安装 OpenVINO™。该安装包支持:
- 英特尔® CPU
- 英特尔® 集成 GPU
pip3 install -U pip
pip3 install tensorflow==2.9.3
pip3 install openvino-tensorflow==2.3.0
关于在Windows上的安装步骤,请参考 [**OpenVINO™ integration with TensorFlow** for Windows ](docs/INSTALL_cn.md#windows)
如果您想使用Intel® 集成显卡进行推理,请确保安装[Intel® Graphics Compute Runtime for OpenCL™ drivers](https://docs.openvino.ai/latest/openvino_docs_install_guides_installing_openvino_linux.html#install-gpu)
更多安装详情,请参阅 [INSTALL.md](docs/INSTALL_cn.md), 更多源构建选项请参阅 [BUILD.md](docs/BUILD_cn.md)
## 配置
安装 **OpenVINO™ integration with TensorFlow** 后,您可以在TensorFlow* 上对训练好的模型运行推理操作。
如要查看 **OpenVINO™ integration with TensorFlow** 是否安装正确,请运行
python3 -c "import tensorflow as tf; print('TensorFlow version: ',tf.__version__);\
import openvino_tensorflow; print(openvino_tensorflow.__version__)"
它会生成以下输出:
TensorFlow version: 2.9.3
OpenVINO integration with TensorFlow version: b'2.3.0'
OpenVINO version used for this build: b'2022.3.0'
TensorFlow version used for this build: v2.9.2
CXX11_ABI flag used for this build: 1
默认情况下,英特尔® CPU 用于运行推理。您也可以将默认选项改为英特尔® 集成 GPU 或英特尔® VPU 来进行 AI 推理。调用以下函数,更改执行推理的硬件。
openvino_tensorflow.set_backend('')
支持的后端包括‘CPU'、‘GPU'、‘GPU_FP16'、‘MYRIAD’和‘VAD-M'。
如要确定系统上的哪些处理单元用于推理,可使用以下函数:
openvino_tensorflow.list_backends()
为了进一步提高性能,建议通过设置环境变量 `OPENVINO_TF_CONVERT_VARIABLES_TO_CONSTANTS=1` 来启用。如欲了解更多 API 调用和环境变量的信息,请查看 [USAGE.md](docs/USAGE_cn.md)。
## 示例
如欲了解 **OpenVINO™ integration with TensorFlow** 的具体功能,请查看[示例](./examples)目录中的演示。
## Docker支持
提供针对Ubuntu* 18.04、Ubuntu* 20.04和TensorFlow* Serving的Dockerfiles,可用来构建用于CPU、GPU、VPU和VAD-M上**OpenVINO™ integration with TensorFlow**的运行时Docker*镜像。
更多详情,请参阅[docker readme](docker/README_cn.md)。
### 预构建镜像
- [Ubuntu 18 runtime image on Docker* Hub](https://hub.docker.com/r/openvino/openvino_tensorflow_ubuntu18_runtime)
- [Ubuntu 20 runtime image on Docker* Hub](https://hub.docker.com/r/openvino/openvino_tensorflow_ubuntu20_runtime)
- [Azure* Marketplace](https://azuremarketplace.microsoft.com/en-us/marketplace/apps/intel_corporation.openvinotensorflow)
## 在Intel® DevCloud上尝试
示例教程也托管在[Intel® DevCloud](https://www.intel.com/content/www/us/en/developer/tools/devcloud/edge/build/ovtfoverview.html)。 演示应用程序是使用 Jupyter Notebooks实现的。 您可以在Intel® DevCloud节点上执行它们,比较 **OpenVINO™ integration with TensorFlow**、原生TensorFlow和OpenVINO™的性能结果。
## 许可
**OpenVINO™ integration with TensorFlow** 依照 [Apache 许可版本 2.0](LICENSE)。通过贡献项目,您同意其中包含的许可和版权条款,并根据这些条款发布您的贡献。
## 支持
通过 [GitHub 问题](https://github.com/openvinotoolkit/openvino_tensorflow/issues)提交您的问题、功能请求和漏洞报告。
## 如何贡献
我们欢迎您为 **OpenVINO™ integration with TensorFlow** 做出社区贡献。如您在改进方面有好的想法:
* 请通过 [GitHub 问题](https://github.com/openvinotoolkit/openvino_tensorflow/issues)分享您的建议。
* 提交 [pull 请求](https://github.com/openvinotoolkit/openvino_tensorflow/pulls)。
我们将以最快的速度审核您的贡献!如果需要进行其他修复或修改,我们将为您提供引导和反馈。贡献之前,请确保您可以构建 **OpenVINO™ integration with TensorFlow** 并使用您的修复/补丁运行所有示例。如果您想推出重要特性,可以创建特性测试案例。您的 pull 请求经过验证之后,我们会将其合并到存储库中,前提是 pull 请求满足上述要求并经过认可。
---
\* 其他名称和品牌可能已被声明为他人资产。