Databricks Runtime 10.2 pour ML (EoS)

Databricks a publié cette version en décembre 2021.

Databricks Runtime 10.2 pour Machine Learning fournit un environnement prêt à l’emploi pour Machine Learning et la science des données basé sur Databricks Runtime 10.2 (EoS). Databricks Runtime ML contient de nombreuses bibliothèques populaires de Machine Learning, notamment TensorFlow, PyTorch et XGBoost. Databricks Runtime ML comprend AutoML, un outil permettant d’effectuer l’apprentissage automatique des pipelines Machine Learning. Databricks Runtime ML prend également en charge l'apprentissage profond distribué à l'aide d'Horovod.

Pour plus d’informations, notamment les instructions relatives à la création d’un groupement Databricks Runtime ML, consultez IA et apprentissage automatique sur Databricks.

Améliorations et nouvelles fonctionnalités

Databricks Runtime 10.2 ML s’appuie sur Databricks Runtime 10.2. Pour plus d'informations sur les nouveautés de Databricks Runtime 10.2, notamment Apache Spark MLlib et SparkR, consultez les notes de publication de Databricks Runtime 10.2 (EoS).

Databricks Autologging (Préversion publique)

La journalisation Databricks est désormais en version préliminaire publique dans toutes les régions. Databricks Autologging est une solution sans code qui assure le suivi automatique des expériences pour les sessions de formation d'apprentissage automatique sur Azure Databricks. Avec Databricks Autologging, les paramètres des modèles, les métriques, les fichiers et les informations de lignage sont automatiquement capturés lorsque vous formez des modèles à partir d'une variété de bibliothèques d'apprentissage automatique populaires. Les sessions de formation sont enregistrées en tant qu’exécutions de suivi MLflow. Les fichiers de modèle sont également suivis afin que vous puissiez facilement les enregistrer dans le registre de modèles MLflow et les déployer pour un scoring en temps réel avec MLflow Model Serving.

Pour plus d’informations sur Databricks Autologging, consultez Databricks Autologging.

Améliorations apportées à AutoML

Les améliorations suivantes ont été apportées à AutoML.

• AutoML ignore les colonnes qui n’ont qu’une seule valeur.
• Pour les problèmes de classification et de régression, la colonne de temps utilisée pour fractionner le jeu de données en jeux d’apprentissage, de validation et de test par ordre chronologique peut désormais être de type chaîne. Précédemment, le datage et le nombre d’entiers étaient pris en charge. Pour obtenir plus de détails, consultez Fractionner des données en jeux de formation, de validation et de test.

Améliorations apportées à Databricks Feature Store

Les améliorations suivantes ont été apportées au Databricks Feature Store.

Interface simplifiée FeatureStoreClient

L’interface FeatureStoreClient a été simplifiée.

• FeatureStoreClient.create_feature_table() a été déprécié. Utilisez plutôt FeatureStoreClient.create_table().
• FeatureStoreClient.get_feature_table() a été déprécié. Utilisez plutôt FeatureStoreClient.get_table().
• Tous les arguments à d’autres que FeatureStoreClient.publish_table() et name doivent être passés en tant qu’arguments de online_store mot clé.

Publier uniquement les colonnes sélectionnées dans les magasins en ligne

Le magasin de fonctionnalités Databricks prend désormais en charge la publication de colonnes sélectionnées uniquement dans un magasin en ligne. Pour plus d’informations, consultez publier les fonctionnalités sélectionnées dans un magasin en ligne.

Changements importants apportés à l’environnement Python de Databricks Runtime ML

L' intégration de suivi MLflow automatisée pour Apache Spark MLlib, qui était dépréciée dans Databricks Runtime 10,1 ML, est désormais désactivée par défaut dans Databricks Runtime 10.2 ML. il a été remplacé par PySpark de MLflow ML l’intégration de la journalisation, qui est activée par défaut avec la journalisation autoDatabricks. La journalisation automatique enregistre des informations supplémentaires au-delà du suivi MLflow automatisé pour les MLlib capturés, y compris les paramètres, les métriques et les artefacts associés au meilleur modèle.

Mise à niveau des packages Python

• databricks-cli 0.14.3 => 0.16.2
• keras 2.6.0 => 2.7.0
• lightgbm 3.3.0 => 3.3.1
• mlflow 1.21.0 = > 1.22.0
• plotly 5.3.0 => 5.3.1
• shap 0.39.0 => 0.40.0
• spacy 3.1.3 => 3.2.0
• tensorboard 2.6.0 => 2.7.0
• tensorflow 2.6.0 -> 2.7.0
• torch 1.9.1 => 1.10.0
• torchvision 0.10.1 => 0.11.1
• transformers 4.11.3 => 4.12.3
• xgboost 1.4.2 => 1.5.0

Environnement du système

L’environnement système de Databricks Runtime 10.2 ML diffère de Databricks Runtime 10.2 comme suit :

• DBUtils : Databricks Runtime ML n’inclut pas L’Utilitaire de bibliothèque (dbutils.library) (hérité). Utilisez les commandes %pip à la place. Consultez Bibliothèques Python délimitées à un notebook.
• Pour les clusters GPU, Databricks Runtime ML inclut les bibliothèques GPU NVIDIA suivantes :
  • CUDA 11.0
  • cuDNN 8.0.5.39
  • NCCL 2.10.3
  • TensorRT 7.2.2

Bibliothèques

Les sections suivantes répertorient les bibliothèques incluses dans Databricks Runtime ML 10.2 qui diffèrent de celles incluses dans Databricks Runtime 10.2.

Dans cette section :

• Bibliothèques de niveau supérieur
• Bibliothèques Python
• Bibliothèques R
• Bibliothèques Java et Scala (cluster Scala 2.12)

Bibliothèques de niveau supérieur

Databricks Runtime 10.2 ML comprend les bibliothèquesde niveau supérieur suivantes :

• GraphFrames
• Horovod et HorovodRunner
• MLflow
• PyTorch
• spark-tensorflow-connector
• TensorFlow
• TensorBoard

Bibliothèques Python

Databricks Runtime 10.2 ML utilise Virtualenv pour la gestion des packages Python et comprend de nombreux packages ML populaires.

En plus des packages spécifiés dans les sections suivantes, Databricks Runtime 10.2 ML comprend également les packages suivants :

• hyperopt 0.2.7.db1
• sparkdl 2.2.0-db5
• feature_store 0.3.6
• automl 1.5.0

Bibliothèques Python sur les clusters UC

Bibliothèques Python sur les clusters GPU

Packages Spark contenant des modules Python

Bibliothèques R

Les bibliothèques R sont identiques aux bibliothèques R dans Databricks Runtime 10.2.

Bibliothèques Java et Scala (cluster Scala 2.12)

En plus des bibliothèques Java et Scala dans Databricks Runtime 10.2, Databricks Runtime 10.2 ML contient les fichiers jar suivants :

Clusters UC

Clusters GPU