| Лицензия| | Документация| | Формат|

NVIDIA DALI

… Обзор-Начало-Маркер-Не-Удалить

Библиотека загрузки данных NVIDIA (DALI) — это библиотека для загрузки данных с помощью GPU и предварительную обработку для ускорения приложений глубокого обучения. Он обеспечивает сбор высокооптимизированных строительных блоков для загрузки и обработки изображения, видео и аудиоданные. Её можно использовать как портативную замену для случайного подключения Для встроенных загрузчиков данных и итераторов данных в популярных фреймворках глубокого обучения.

Приложения глубокого обучения требуют сложных многоступенчатых конвейеров обработки данных К ним относятся загрузка, декодирование, обрезка, изменение размера и многие другие дополнения. Эти конвейеры обработки данных, которые в настоящее время выполняются на ЦПУ, стали Узкое место, ограничивающее производительность и масштабируемость обучения и вывода.

DALI решает проблему узкого места процессора, перекладывая предварительную обработку данных на GPU. Кроме того, DALI использует собственный исполнительный движок, созданный для максимизации пропускной способности входного конвейера. Функции, такие как предвыборка, параллельное выполнение и пакетная обработка управляются прозрачно для пользователя.

|License| |Documentation| |Format|

NVIDIA DALI

… overview-begin-marker-do-not-remove

The NVIDIA Data Loading Library (DALI) is a GPU-accelerated library for data loading and pre-processing to accelerate deep learning applications. It provides a collection of highly optimized building blocks for loading and processing image, video and audio data. It can be used as a portable drop-in replacement for built in data loaders and data iterators in popular deep learning frameworks.

Deep learning applications require complex, multi-stage data processing pipelines that include loading, decoding, cropping, resizing, and many other augmentations. These data processing pipelines, which are currently executed on the CPU, have become a bottleneck, limiting the performance and scalability of training and inference.

DALI addresses the problem of the CPU bottleneck by offloading data preprocessing to the GPU. Additionally, DALI relies on its own execution engine, built to maximize the throughput of the input pipeline. Features such as prefetching, parallel execution, and batch processing are handled transparently for the user.

In addition, the deep learning frameworks have multiple data pre-processing implementations, resulting in challenges such as portability of training and inference workflows, and code maintainability. Data processing pipelines implemented using DALI are portable because they can easily be retargeted to TensorFlow, PyTorch, and PaddlePaddle.

… image:: /dali.png :width: 800 :align: center :alt: DALI Diagram

… github display off

… GitHub discards custom styles when rendering Markdown. We can use it to our advantage to hide the GitHub-style admonition in the sphinx-rendered documentation

… only:: html

.. raw:: html

… rst-class:: github-only … pull-quote::

[!TIP]

The `dali-dynamic-mode `_ skill
provides AI agents with guidance on the Dynamic Mode API and best practices. It can be installed as follows:

.. code-block:: sh

    npx skills add nvidia/skills --skill dali-dynamic-mode

For more information, see the `NVIDIA/skills `_ GitHub repository.

DALI in action

… container:: dali-tabs

Pipeline mode:

… code-block:: python

  from nvidia.dali.pipeline import pipeline_def
  import nvidia.dali.types as types
  import nvidia.dali.fn as fn
  from nvidia.dali.plugin.pytorch import DALIGenericIterator
  import os

  # To run with different data, see documentation of nvidia.dali.fn.readers.file
  # points to https://github.com/NVIDIA/DALI_extra
  data_root_dir = os.environ['DALI_EXTRA_PATH']
  images_dir = os.path.join(data_root_dir, 'db', 'single', 'jpeg')

  def loss_func(pred, y):