使用 NGC 可数构建和部署口罩检测应用程序

适用 NGC 构筑和协同作战皮带检测API

AI 临时工系统设计很多样。构筑一个 AI API不是一项单纯的使命，因为它只必须各种具有领域专业知识的各种利益就其来大规模开发和协同作战API。数据科学家和开发人员只必须便利地访问API构筑块，例如基本概念和液体，它们不仅确保安全、颇高效能，而且具有构筑其 AI 基本概念所只需的系统设计。

在构筑剩API后来，DevOps 和 IT 监管人员只必须一些工具箱，这些工具箱可以为了让他们在各种器材相互间无缝地协同作战和监管这些API，之外本地器材、云器材或边缘器材。

NVIDIA 构筑了 NGC 附录，通过备有易于访问的 GPU 简便API，例如液体、预先军事训练的基本概念、应用框架和构筑 AI API所只需的 Helm 图解，来简便和更快 AI 临时工系统设计。

在这篇文章当中，我们将展出如何适用 NGC 附录和它的架构底层特性，例如闭包、NGC 私有API和 AI 构筑块来构筑和协同作战一个皮带检测API，作为一个示例，该示例展出了 development-to-deployment 管道。

简便应用程序旅程

随着 NGC 的发行，NVIDIA 简便了整个应用程序感官，并将所只需的相关液体、基本概念、示例和 Helm 图解集当中在一个大多，而无只需在附录当中相对于和协同各种分立的构筑块。

您可以见到针对特定使命的临时工负载的 NGC 闭包，如终端口语识别或图像定义，以及餐饮业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您希望构筑一个用于取向检测的API，那么在附录当中侦查该闭包，您将在一个大多见到所有相关国有资产。

适用 NVIDIA TF32 Tensor Cores 更快 AI 军事训练

NVIDIA Ampere GPU 架构加进了第三代 Tensor Cores，以及新的TensorFloat32 (TF32) 方式在更快 FP32 滤波和特征值有理数。TF32 方式在是AmpereGPU 架构上 32 位变量的 AI 军事训练的默认选项。它为浮点数DL临时工负载产生了 Tensor Core 更快，而不只必须对基本概念JavaScript来进行任何更改。

适用本机16 位编解码器 (FP16/BF16) 的混杂精确度军事训练仍然是最快的选择，只只必须基本概念JavaScript当中的几行示例。表1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的数理逻辑吞吐量。世人指出的是，对于浮点数军事训练，A100 备有的数理逻辑吞吐量比上代人军事训练GPU V100 颇高 10 倍。

内部构造

TF32 是 GPU 架构 Ampere 代人 Tensor Core 当中新增的一种新的推算方式在。点积推算，它构成了特征值有理数和滤波的构筑块，将 FP32 的输出轮化到 TF32，在不损失精确度的情况下推算商品，然后将这些商品积累到 FP32 输出当中。

TF32 只是作为 Tensor Core 操作方式在公开，而不是一个一般来说。缓存当中的所有存储和其他操作剩全留存在 FP32 当中，只有滤波和特征值有理数在有理数之后将它们的输出转换为 TF32。相反，16位一般来说备有存储、各种数算符等等。