Exemples de HorovodRunner
Important
Horovod et HorovodRunner sont désormais déconseillés. Les versions postérieures à la 15.4 LTS ML n'auront pas ce package préinstallé. Pour le Deep Learning distribué, Databricks recommande d’utiliser TorchDistributor pour l’apprentissage distribué avec PyTorch ou l’API tf.distribute.Strategy
pour l’apprentissage distribué avec TensorFlow.
Les exemples de cette section montrent comment utiliser HorovodRunner pour effectuer un entraînement distribué avec un modèle de réseau neuronal convolutif sur le jeu de données MNIST, grande base de données de chiffres manuscrits.