| 라이선스| | 문서| | 형식|

엔비디아 DALI

… 개요-시작-표시-do-not-remove

NVIDIA 데이터 로딩 라이브러리(DALI)는 GPU 가속 데이터 로딩용 라이브러리입니다 그리고 딥러닝 애플리케이션을 가속화하기 위한 전처리가 포함됩니다. 이 도구는 적재 및 처리를 위한 고도로 최적화된 빌딩 블록 모음 이미지, 비디오 및 오디오 데이터. 휴대용 교체 도구로 사용할 수 있습니다 인기 있는 딥러닝 프레임워크에 내장된 데이터 로더와 데이터 반복기를 위한 것입니다.

딥러닝 응용 분야는 복잡하고 다단계 데이터 처리 파이프라인을 필요로 합니다 여기에는 로딩, 디코딩, 크롭, 크기 조정 등 다양한 보강 작업이 포함됩니다. 현재 CPU에서 실행되는 이 데이터 처리 파이프라인들은 병목 현상은 훈련과 추론의 성능과 확장성을 제한합니다.

DALI는 데이터 전처리를 다음 단계로 오프로드하여 CPU 병목 현상을 해결합니다. GPU. 또한, DALI는 처리량을 극대화하기 위해 자체 실행 엔진에 의존합니다 입력 파이프라인의 기능입니다. 프리페칭, 병렬 실행, 배치 처리와 같은 특징 사용자에게는 투명하게 처리됩니다.

|License| |Documentation| |Format|

NVIDIA DALI

… overview-begin-marker-do-not-remove

The NVIDIA Data Loading Library (DALI) is a GPU-accelerated library for data loading and pre-processing to accelerate deep learning applications. It provides a collection of highly optimized building blocks for loading and processing image, video and audio data. It can be used as a portable drop-in replacement for built in data loaders and data iterators in popular deep learning frameworks.

Deep learning applications require complex, multi-stage data processing pipelines that include loading, decoding, cropping, resizing, and many other augmentations. These data processing pipelines, which are currently executed on the CPU, have become a bottleneck, limiting the performance and scalability of training and inference.

DALI addresses the problem of the CPU bottleneck by offloading data preprocessing to the GPU. Additionally, DALI relies on its own execution engine, built to maximize the throughput of the input pipeline. Features such as prefetching, parallel execution, and batch processing are handled transparently for the user.

In addition, the deep learning frameworks have multiple data pre-processing implementations, resulting in challenges such as portability of training and inference workflows, and code maintainability. Data processing pipelines implemented using DALI are portable because they can easily be retargeted to TensorFlow, PyTorch, and PaddlePaddle.

… image:: /dali.png :width: 800 :align: center :alt: DALI Diagram

… github display off

… GitHub discards custom styles when rendering Markdown. We can use it to our advantage to hide the GitHub-style admonition in the sphinx-rendered documentation

… only:: html

.. raw:: html

… rst-class:: github-only … pull-quote::

[!TIP]

The `dali-dynamic-mode `_ skill
provides AI agents with guidance on the Dynamic Mode API and best practices. It can be installed as follows:

.. code-block:: sh

    npx skills add nvidia/skills --skill dali-dynamic-mode

For more information, see the `NVIDIA/skills `_ GitHub repository.

DALI in action

… container:: dali-tabs

Pipeline mode:

… code-block:: python

  from nvidia.dali.pipeline import pipeline_def
  import nvidia.dali.types as types
  import nvidia.dali.fn as fn
  from nvidia.dali.plugin.pytorch import DALIGenericIterator
  import os

  # To run with different data, see documentation of nvidia.dali.fn.readers.file
  # points to https://github.com/NVIDIA/DALI_extra
  data_root_dir = os.environ['DALI_EXTRA_PATH']
  images_dir = os.path.join(data_root_dir, 'db', 'single', 'jpeg')

  def loss_func(pred, y):