Pour les spécialistes des données, les chercheurs et les développeurs qui doivent accélérer les applications ML, les instances P3 Amazon EC2 sont les plus rapides dans le cloud pour la formation ML. Les instances Amazon EC2 P3 comportent jusqu'à huit GPU NVIDIA Tensor Core V100 de dernière génération et délivrent jusqu'à un pétaflop de performances de précision mixte pour accélérer significativement les charges de travail ML. Une formation plus rapide sur les modèles peut permettre aux scientifiques des données et aux ingénieurs d'apprentissage automatique d'itérer plus rapidement, de former un plus grand nombre de modèles et d'accroître la précision.

Avec l'une des instances GPU les plus puissantes dans le cloud combinée à des programmes de tarification flexibles, vous bénéficiez d'une solution exceptionnellement rentable pour la formation du machine learning. Comme pour les instances Amazon EC2 en général, les instances P3 sont disponibles en tant qu'instances à la demande, instances réservées ou instances Spot. Les instances Spot tirent parti de la capacité d'instance EC2 inutilisée et peuvent réduire significativement vos coûts Amazon EC2 avec une réduction allant jusqu'à 70 % par rapport aux prix à la demande.

Contrairement aux systèmes sur site, l'exécution du calcul haute performance sur des instances P3 Amazon EC2 offre une capacité pratiquement illimitée pour faire monter en charge votre infrastructure et vous apporte la flexibilité de changer les ressources facilement et aussi souvent que votre charge de travail l'exige. Vous pouvez configurer vos ressources pour répondre aux besoins de votre application et lancer un cluster HPC en quelques minutes, en ne payant que ce que vous utilisez.

Utilisez des images Docker préempaquetées pour déployer des environnements de Deep Learning en quelques minutes seulement. Les images contiennent les bibliothèques de frameworks de Deep Learning (actuellement TensorFlow et Apache MXNet) et les outils requis. Ces images sont entièrement testées. Vous pouvez facilement ajouter vos propres bibliothèques et outils à ces images afin d'obtenir un niveau de contrôle plus élevé sur le traitement des données, la surveillance et la conformité. De plus, les instances Amazon EC2 P3 fonctionnent de manière transparente avec Amazon SageMaker pour fournir une plateforme de Machine Learning complète, puissante et intuitive. Amazon SageMaker est une plateforme de Machine Learning entièrement gérée qui vous permet de construire, former et déployer rapidement et facilement des modèles de Machine Learning. De plus, les instances P3 Amazon EC2 peuvent être intégrées à des Amazon Machine Images (AMI) de deep learning AWS qui sont pré-installées avec des infrastructures de deep learning fréquemment utilisées. Vous pouvez ainsi démarrer plus rapidement et plus facilement avec la formation du machine learning et l'inférence.

Amazon SageMaker permet de développer facilement des modèles d'apprentissage automatique et de les préparer pour la formation. Ce service fournit tout ce dont vous avez besoin pour vous connecter rapidement à vos données de formation, et pour sélectionner et optimiser les meilleurs algorithme et infrastructure pour votre application. Amazon SageMaker inclut des notebooks Jupyter hébergés qui simplifient l'exploration et la visualisation de vos données de formation stockées dans Amazon S3.  Vous pouvez également utiliser l'instance de notebook pour écrire du code pour créer des tâches de formation de modèles, déployer des modèles sur l'hébergement Amazon SageMaker et tester ou valider vos modèles.

Vous pouvez commencer la formation de votre modèle d'un simple clic dans la console ou avec un appel d'API. Amazon SageMaker intègre les dernières versions de TensorFlow et d'Apache MXNet, et la prise en charge de bibliothèques CUDA9 pour des performances optimales avec les GPU NVIDIA. De plus, l'optimisation des hyper-paramètres peut automatiquement adapter votre modèle en ajustant intelligemment différentes combinaisons de paramètres du modèle pour arriver rapidement aux prédictions les plus précises. Pour les besoins à plus grande échelle, vous pouvez mettre à l'échelle des dizaines d'instances pour accélérer la construction de modèles.

Après la formation, vous pouvez déployer votre modèle en un seul clic sur des instances Amazon EC2 à scalabilité automatique dans plusieurs zones de disponibilité. En production, Amazon SageMaker gère l'infrastructure de calcul automatiquement pour effectuer des vérifications d'état, appliquer des correctifs de sécurité et réaliser d'autres opérations de maintenance de routine, le tout avec la surveillance et la journalisation d'Amazon CloudWatch intégrées.

Les instances P3dn.24xlarge Amazon EC2 sont les instances P3 les plus rapides, les plus puissantes et les plus grandes. Elles offrent un débit de réseau pouvant atteindre 100 Gbit/s, 8 GPU NVIDIA® V100 Tensor Core dotés chacun de 32 Gio de mémoire, 96 vCPU personnalisées Intel® Xeon® Scalable (Skylake) et 1,8 To de stockage local SSD NVMe. La mise en réseau plus rapide, les nouveaux processeurs, le doublement de la mémoire GPU et les processeurs virtuels supplémentaires permettent aux développeurs de réduire considérablement le temps nécessaire à la formation de leurs modèles de machine learning ou à l'exécution de simulations HPC supplémentaires en dimensionnant leurs tâches sur plusieurs instances (16, 32 ou 64 instances, par exemple). Les modèles de machine learning nécessitent une grande quantité de données pour la formation. En plus d'augmenter le débit de transfert de données entre les instances, le débit réseau supplémentaire des instances P3dn.24xlarge peut être également utilisé pour accélérer l'accès à des volumes importants de données de formation en se connectant à des solutions Amazon S3 ou des systèmes de fichiers partagés comme Amazon EFS.

Avec un débit réseau de 100 Gbit/s, les développeurs peuvent utiliser efficacement un grand nombre d'instances P3dn.24xlarge pour la formation distribuée et réduire de façon significative le temps de formation de leurs modèles. Les 96 vCPU des processeurs Intel Skylake personnalisés par AWS avec des instructions AVX-512 opérant à 2,5 GHz contribuent à optimiser le prétraitement des données. En outre, les instances P3dn.24xlarge utilisent AWS Nitro System, associant un matériel dédié et un hyperviseur léger, qui fournit pratiquement toutes les ressources de calcul et de mémoire du matériel hôte à vos instances. Les instances P3dn.24xlarge sont aussi compatibles avec Elastic Fabric Adapter (EFA) qui permet aux applications de ML utilisant NVIDIA Collective Communications Library (NCCL) de mettre à l’échelle des milliers de GPU.

Une mise en réseau améliorée reposant sur la dernière version de l'adaptateur Elastic Network Adapter avec jusqu'à 100 Gb/s de bande passante de réseau agrégée peut être utilisée non seulement pour partager des données sur plusieurs instances P3dn.24xlarge, mais aussi pour un accès aux données haut débit via une solution Amazon S3 ou de systèmes de fichiers partagés comme Amazon EFS. Un accès aux données haut débit est essentiel pour optimiser l'utilisation des GPU et tirer des performances maximales des instances de calcul.

Les instances P3dn.24xlarge disposent des GPU NVIDIA V100 Tensor Core dotées de 32 Gio de mémoire qui fournissent la flexibilité permettant d'entraîner des modèles de machine learning plus avancés et plus grands, et de traiter des lots de données plus volumineux comme des images 4k pour les systèmes de classification d'images et de détection d'objet.