Warum Amazon EC2 P4-Instances?
P4d-Instances von Amazon Elastic Compute Cloud (Amazon EC2) bieten eine hohe Leistung für Machine Learning (ML)-Training und Anwendungen für High Performance Computing (HPC) in der Cloud. P4d-Instances werden von GPUS des NVIDIA-A100-Tensor-Core angetrieben und bieten einen branchenführenden hohen Durchsatz und eine niedrige Latenz im Netzwerk. Diese Instances unterstützen 400-Gbit/s-Instance-Netzwerke. P4d-Instances bieten bis zu 60 % niedrigere Kosten für das Training von ML-Modellen, einschließlich einer durchschnittlich 2,5 Mal besseren Leistung für Deep-Learning-Modelle im Vergleich zu P3- und P3dn-Instances der vorherigen Generation.
P4d-Instances werden in Hyperscale-Clustern namens Amazon EC2 UltraClusters bereitgestellt, die aus den leistungsstarken Computing-, Netzwerk- und Speicherleistungen in der Cloud bestehen. Jeder EC2 UltraCluster ist einer der leistungsstärksten Supercomputer der Welt, der Ihnen dabei hilft, Ihre komplexesten Multi-Knoten-ML-Trainings und verteilten HPC-Workloads auszuführen. Sie können ganz einfach von einigen wenigen bis zu Tausenden von NVIDIA-A100-GPUs in den EC2 UltraClustern basierend auf Ihren ML- oder HPC-Projektanforderungen skalieren.
Forscher, Datenwissenschaftler und Entwickler können P4D-Instances verwenden, um ML-Modelle für Anwendungsfälle wie die natürliche Sprachverarbeitung, Objekterkennung und -klassifizierung sowie Empfehlungsmaschinen zu trainieren. Sie können es auch verwenden, um HPC-Anwendungen wie pharmazeutische Forschung, seismische Analyse und Finanzmodellierung auszuführen. Im Gegensatz zu On-Premises-Systemen können Sie auf praktisch unbegrenzte Computing- und Speicherkapazität zugreifen, Ihre Infrastruktur basierend auf den Geschäftsanforderungen skalieren und einen Multi-Knoten-ML-Trainingsauftrag oder eine eng gekoppelte verteilte HPC-Anwendung innerhalb von Minuten ohne Einrichtungs- oder Wartungskosten einrichten.
Ankündigung der neuen Amazon-EC2-P4d-Instances
Vorteile
Funktionen
Kundenempfehlungen
Hier sind einige Beispiele dafür, wie Kunden und Partner ihre Geschäftsziele mit Amazon EC2 P4-Instances erreicht haben.
-
Toyota Research Institute (TRI)
Das 2015 gegründete Toyota Research Institute (TRI) arbeitet an der Entwicklung von automatisiertem Fahren, Robotik und anderen Verstärkungstechniken für Menschen für Toyota.
-
TRI-AD
-
TRI-AD
-
GE Healthcare
GE Healthcare ist ein weltweit führender Innovator für Medizintechnik und digitale Lösungen. GE Healthcare ermöglicht Ärzten, schnellere und fundiertere Entscheidungen durch intelligente Geräte, Datenanalysen, Anwendungen und Services zu treffen, die von der Edison-Intelligence-Plattform unterstützt werden.
-
HEAVY.AI
HEAVY.AI ist ein Pionier in der beschleunigten Analytik. Die HEAVY.AI-Plattform wird in Unternehmen und Behörden verwendet, um Erkenntnisse für Daten zu gewinnen, die über die Grenzen der gängigen Analysetools hinausgehen.
-
Zenotech Ltd.
Zenotech Ltd definiert Engineering online neu durch den Einsatz von HPC-Clouds, die On-Demand-Lizenzmodelle zusammen mit extremen Leistungsvorteilen durch den Einsatz von GPUs bereitstellen.
-
Aon
Aon ist ein weltweit führendes professionelles Dienstleistungsunternehmen, das eine breite Palette von Risiko-, Altersvorsorge- und Gesundheitslösungen anbietet. Aon PathWise ist eine GPU-basierte und skalierbare HPC-Risikoverwaltungslösung, mit der Versicherer und Rückversicherer, Banken und Pensionsfonds die wichtigsten Herausforderungen von heute wie Hedge-Strategietests, regulatorische und wirtschaftliche Prognosen sowie Budgetierung bewältigen können.
-
Rad AI
Rad AI besteht aus Radiologie- und KI-Experten und entwickelt Produkte, die die Produktivität von Radiologen maximieren und letztendlich das Gesundheitswesen zugänglicher machen und die Patientenergebnisse verbessern. Lesen Sie das Fallbeispiel, um weitere Informationen zu erhalten
Produktdetails
Instance-Größe | vCPUs | Instance-Arbeitsspeicher (GiB) | GPU – A100 | GPU-Speicher | Netzwerkbandbreite (Gbps) | GPUDirect RDMA | GPU-Peer-to-Peer | Instance-Speicher (GB) | EBS-Bandbreite (GBit/s) | On-Demand-Preis/Std. | 1 Jahr lang Reserved Instance pro Stunde* | 3 Jahr lang Reserved Instance pro Stunde* |
---|---|---|---|---|---|---|---|---|---|---|---|---|
p4d.24xlarge | 96 | 1152 | 8 | 320 GB HBM2 |
400 ENA und EFA | Ja | 600 GB/s NVSwitch | 8 x 1000 NVMe-SSD | 19 | 32,77 USD | 19,22 USD | 11,57 USD |
p4de.24xlarge (Vorschau) | 96 | 1152 | 8 | 640 GB HBM2e |
400 ENA und EFA | Ja | 600 GB/s NVSwitch | 8 x 1000 NVMe-SSD | 19 | 40,96 USD | 24,01 USD | 14,46 USD |
P4d-Instances sind in den Regionen USA Ost (Nord-Virginia und Ohio), USA West (Oregon), Asien-Pazifik (Seoul und Tokyo) und Europa (Frankfurt und Irland) verfügbar. P4de-Instances sind in den Regionen USA Ost (Nord-Virginia) und USA West (Oregon) verfügbar.
Kunden können P4d- und P4de-Instances als On-Demand-Instances, Reserved Instances, Spot Instances, Dedicated Hosts oder als Teil eines Savings Plans erwerben.
Erste Schritte mit P4d-Instances für ML
Erste Schritte mit P4d-Instances für HPC
P4d-Instances eignen sich hervorragend für die Ausführung für technische Simulationen, computergestütztes Finanzwesen, seismische Analysen, molekulare Modellierung, Genomik, Rendering und andere GPU-Rechen-Workloads. HPC-Anwendungen benötigen häufig eine hohe Netzwerkleistung, schnelle Speicherung, viel Arbeitsspeicher, hohe Datenverarbeitungskapazitäten oder alles gleichzeitig. P4d-Instances unterstützen EFA, mit dem HPC-Anwendungen, die das Message Passing Interface (MPI) verwenden, auf Tausende von GPUs skaliert werden können. AWS Batch und AWS ParallelCluster helfen HPC-Entwicklern, verteilte HPC-Anwendungen schnell zu erstellen und zu skalieren.