Übung: Installieren der NVIDIA DeepStream-Abhängigkeiten und des SDK

Abgeschlossen

Das NVIDIA DeepStream SDK ist an Softwarevoraussetzungen gebunden. Wir gehen die Installation dieser Abhängigkeiten durch und erläutern deren Rollen.

  1. Installieren Sie die Abhängigkeitspakete, die Tools zum Kompilieren von C- und C++-Anwendungen aus dem Quellcode zur Verfügung stellen. Beachten Sie, dass mehrere auf gstreamer basierende Plug-Ins enthalten sind. Diese sind erforderlich, da NVIDIA DeepStream die GStreamer-Bibliothek für die Medienverarbeitung und die Zusammenstellung von Diagrammen in DeepStream-Anwendungen verwendet. Verwenden Sie die folgenden Befehle, um diese Anforderungen auf dem Hostterminal zu installieren:

    sudo apt install \
    libssl1.0.0 \
    libgstreamer1.0-0 \
    gstreamer1.0-tools \
    gstreamer1.0-plugins-good \
    gstreamer1.0-plugins-bad \
    gstreamer1.0-plugins-ugly \
    gstreamer1.0-libav \
    libgstrtspserver-1.0-0 \
    libjansson4 \
    gcc \
    make \
    git \
    python3
    
  2. Installieren Sie den NVIDIA-Treiber, Version 470.63.01, auf der NVIDIA Unix-Treiberseite unter: https://www.nvidia.com/Download/driverResults.aspx/179599/en-us

    1. Das Installationspaket sollte in den Ordner Downloads Ihres lokalen Benutzers heruntergeladen werden. Wechseln Sie zum Downloadspeicherort, und installieren Sie das Paket mit den folgenden Befehlen:
    chmod 755 NVIDIA-Linux-x86_64-470.63.01.run
    sudo ./NVIDIA-Linux-x86_64-470.63.01.run 
    
  3. Installieren Sie das CUDA-Toolkit 11.4 durch Hinzufügen des Ubuntu-basierten CUDA-Repositorys von NVIDIA zu Ihren APT-Quellen. Mit dem CUDA-Toolkit kann Ihre Entwicklungsumgebung die GPU-Beschleunigung auf Geräten verwenden, auf denen kompatible Hardware vorhanden ist. Das Toolkit enthält spezielle Compilertools und Bibliotheken, mit denen Sie GPU-beschleunigte Anwendungen erstellen und ausführen können. Darüber hinaus installiert es automatisch die kompatiblen Treiber, um die Ausführung von GPU-beschleunigten Anwendungen auf dem Hostsystem zu ermöglichen.

    Führen Sie zum Installieren des CUDA-Toolkits 11.4 die folgenden Befehle am Hostterminal aus:

    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
    sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
    wget https://developer.download.nvidia.com/compute/cuda/11.4.1/local_installers/cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo dpkg -i cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo apt-key add /var/cuda-repo-ubuntu1804-11-4-local/7fa2af80.pub
    sudo apt-get update
    sudo apt-get -y install cuda
    
  4. Installieren Sie TensorRT 8.0.1 GA von NVIDIA. TensorRT ist ein SDK, das mithilfe von Hardwarebeschleunigung eine leistungsstarke Implementierung von Deep Learning-Rückschlussalgorithmen bereitstellt. Es umfasst verschiedene Optimierungen, um niedrige Latenz und hohen Durchsatz in Anwendungen zu bieten, die Deep Learning verwenden. Für die Installation benötigen Sie eine Mitgliedschaft im NVIDIA Developer Program. Wenn Sie keine besitzen, werden Sie beim Ausführen der folgenden Schritte aufgefordert, eine zu erstellen. Mit dieser kostenlosen Mitgliedschaft können Sie auf die erforderlichen Installationsdateien zugreifen.

    Hinweis

    Sie benötigen einen Browser auf Ihrem Hostcomputer, um diesen Vorgang abschließen zu können.

    Wenn Sie keinen haben, können Sie einfach mithilfe des folgenden Befehls den Firefox-Browser auf Ihrem Hostcomputer installieren: sudo apt install firefox

    1. Fügen Sie Ihren Apt-Quellen das CUDA-Repository hinzu, indem Sie die folgenden Befehle ausführen:

      echo "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda-repo.list
      wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
      sudo apt-key add 7fa2af80.pub
      sudo apt-get update
      
    2. Öffnen Sie einen Browser auf dem Hostcomputer, und laden Sie das lokale Repositorypaket TensorRT 8.0.1 GA für Ubuntu 18.04 und CUDA 11.3 DEB herunter.

    3. Das Installationspaket sollte in den Ordner Downloads Ihres lokalen Benutzers heruntergeladen werden. Wechseln Sie zum Downloadspeicherort, und installieren Sie das Paket mit den folgenden Befehlen:

      cd ~/Downloads
      sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626_1-1_amd64.deb 
      sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626/7fa2af80.pub 
      sudo apt-get update 
      sudo apt-get install \
      libnvinfer8=8.0.1-1+cuda11.3 \
      libnvinfer-plugin8=8.0.1-1+cuda11.3 \
      libnvparsers8=8.0.1-1+cuda11.3 \
      libnvonnxparsers8=8.0.1-1+cuda11.3 \
      libnvinfer-bin=8.0.1-1+cuda11.3 \
      libnvinfer-dev=8.0.1-1+cuda11.3 \
      libnvinfer-plugin-dev=8.0.1-1+cuda11.3 \
      libnvparsers-dev=8.0.1-1+cuda11.3 \
      libnvonnxparsers-dev=8.0.1-1+cuda11.3 \
      libnvinfer-samples=8.0.1-1+cuda11.3 \
      libnvinfer-doc=8.0.1-1+cuda11.3
      
  5. Installieren Sie librdkafka, um den Kafka-Protokolladapter zu aktivieren, der vom DeepStream-Nachrichtenbroker verwendet wird. Öffnen Sie ein Terminal, und führen Sie die folgenden Befehle aus:

    cd ~
    git clone https://github.com/edenhill/librdkafka.git
    cd librdkafka
    git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
    ./configure
    make sudo make install
    sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.0/lib
    sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.0/lib
    
  6. Installieren Sie das DeepStream SDK. Das SDK enthält alle Bibliotheken, Entwicklungsquellen und Beispiele für den Einstieg in die Entwicklung benutzerdefinierter IVA-Pipelines.

    1. Öffnen Sie einen Browser auf dem Hostcomputer. Wechseln Sie zum NVIDIA DeepStream – Version 6.0.0-1-Download.

    2. Er sollte in den Ordner Downloads Ihres lokalen Benutzers heruntergeladen werden. Wechseln Sie zum Downloadspeicherort, und installieren Sie das Paket mit den folgenden Befehlen:

    cd ~/Downloads
    sudo apt-get install ./deepstream-6.0_6.0.0-1_amd64.deb
    

Sie können nun beginnen, die Erstellung intelligenter Videoanalyseanwendungen mit dem NVIDIA DeepStream SDK zu erkunden. Wir untersuchen eine Beispielanwendung und führen sie aus.