Exercice - Installer les dépendances et le kit SDK NVIDIA DeepStream

Effectué

Le kit SDK NVIDIA DeepStream nécessite l’installation préalable de certains logiciels. Nous allons passer en revue l’installation de ces dépendances et expliquer leurs rôles.

  1. Installez les packages de dépendances qui fournissent des outils pour compiler les applications C et C++ à partir de la source. Notez que plusieurs plug-ins basés sur gstreamer sont inclus. Ils sont nécessaires dans la mesure où NVIDIA DeepStream utilise la bibliothèque GStreamer pour la gestion des médias et la composition des graphes dans les applications DeepStream. Utilisez les commandes suivantes pour installer ces prérequis sur le terminal hôte :

    sudo apt install \
    libssl1.0.0 \
    libgstreamer1.0-0 \
    gstreamer1.0-tools \
    gstreamer1.0-plugins-good \
    gstreamer1.0-plugins-bad \
    gstreamer1.0-plugins-ugly \
    gstreamer1.0-libav \
    libgstrtspserver-1.0-0 \
    libjansson4 \
    gcc \
    make \
    git \
    python3
    
  2. Installez la version 470.63.01 du pilote NVIDIA à partir de la page des pilotes NVIDIA Unix à l’adresse suivante : https://www.nvidia.com/Download/driverResults.aspx/179599/en-us

    1. Le package d’installation doit être téléchargé dans le dossier Téléchargements de votre utilisateur local. Accédez à l’emplacement du téléchargement et installez le package en utilisant les commandes suivantes :
    chmod 755 NVIDIA-Linux-x86_64-470.63.01.run
    sudo ./NVIDIA-Linux-x86_64-470.63.01.run 
    
  3. Installez CUDA Toolkit 11.4 en ajoutant le référentiel CUDA basé sur Ubuntu de NVIDIA dans vos sources APT. Le kit de ressources CUDA permet à votre environnement de développement d’utiliser l’accélération GPU sur des appareils équipés d’un matériel compatible. La boîte à outils comprend des bibliothèques et des outils de compilation spéciaux qui vous permettent de créer et d’exécuter des applications avec accélération GPU. Elle installe aussi automatiquement les pilotes compatibles pour permettre l’exécution d’applications avec accélération GPU sur le système hôte.

    Pour installer CUDA Toolkit 11.4, exécutez les commandes suivantes sur le terminal hôte :

    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
    sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
    wget https://developer.download.nvidia.com/compute/cuda/11.4.1/local_installers/cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo dpkg -i cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo apt-key add /var/cuda-repo-ubuntu1804-11-4-local/7fa2af80.pub
    sudo apt-get update
    sudo apt-get -y install cuda
    
  4. Installez TensorRT 8.0.1 GA à partir de NVIDIA. TensorRT est un kit SDK qui fournit une implémentation haute performance d’algorithmes d’inférence de Deep Learning avec accélération matérielle. Il comprend diverses optimisations pour assurer une faible latence et un débit élevé dans les applications utilisant le Deep Learning. Pour l’installer, vous devez disposer d’un abonnement au programme pour développeurs NVIDIA. Si vous n’en avez pas, vous serez invité à en créer un lors des étapes suivantes. Cet abonnement gratuit vous permet d’accéder aux fichiers d’installation nécessaires.

    Notes

    Vous avez besoin d’un navigateur sur votre ordinateur hôte pour terminer ce processus.

    Si vous n’en avez pas, vous pouvez facilement installer le navigateur Firefox sur votre ordinateur hôte en utilisant la commande suivante : sudo apt install firefox

    1. Ajoutez le référentiel CUDA à vos sources apt en exécutant les commandes suivantes :

      echo "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda-repo.list
      wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
      sudo apt-key add 7fa2af80.pub
      sudo apt-get update
      
    2. Ouvrez un navigateur sur l’ordinateur hôte et téléchargez le package de référentiel local TensorRT 8.0.1 GA pour Ubuntu 18.04 et CUDA 11.3 DEB.

    3. Le package d’installation doit être téléchargé dans le dossier Téléchargements de votre utilisateur local. Accédez à l’emplacement du téléchargement et installez le package en utilisant les commandes suivantes :

      cd ~/Downloads
      sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626_1-1_amd64.deb 
      sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626/7fa2af80.pub 
      sudo apt-get update 
      sudo apt-get install \
      libnvinfer8=8.0.1-1+cuda11.3 \
      libnvinfer-plugin8=8.0.1-1+cuda11.3 \
      libnvparsers8=8.0.1-1+cuda11.3 \
      libnvonnxparsers8=8.0.1-1+cuda11.3 \
      libnvinfer-bin=8.0.1-1+cuda11.3 \
      libnvinfer-dev=8.0.1-1+cuda11.3 \
      libnvinfer-plugin-dev=8.0.1-1+cuda11.3 \
      libnvparsers-dev=8.0.1-1+cuda11.3 \
      libnvonnxparsers-dev=8.0.1-1+cuda11.3 \
      libnvinfer-samples=8.0.1-1+cuda11.3 \
      libnvinfer-doc=8.0.1-1+cuda11.3
      
  5. Installez librdkafka pour activer l’adaptateur de protocole Kafka utilisé par le Courtier de messages DeepStream. Ouvrez un terminal et exécutez les commandes suivantes :

    cd ~
    git clone https://github.com/edenhill/librdkafka.git
    cd librdkafka
    git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
    ./configure
    make sudo make install
    sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.0/lib
    sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.0/lib
    
  6. Installez le kit SDK DeepStream. Le kit SDK comprend l’ensemble des bibliothèques, des sources de développement et des exemples dont vous pouvez avoir besoin pour créer des pipelines IVA personnalisés.

    1. Ouvrez un navigateur sur l’ordinateur hôte. Accédez à Téléchargement de NVIDIA DeepStream - Version 6.0.0-1.

    2. Le fichier doit être téléchargé dans le dossier Téléchargements de votre utilisateur local. Accédez à l’emplacement du téléchargement et installez le package en utilisant les commandes suivantes :

    cd ~/Downloads
    sudo apt-get install ./deepstream-6.0_6.0.0-1_amd64.deb
    

Vous pouvez désormais explorer la création d’applications Intelligent Video Analytics avec le kit SDK NVIDIA DeepStream. Nous allons examiner et exécuter un exemple d’application.