Serie NDm A100 v4
Precaución
En este artículo se hace referencia a CentOS, una distribución de Linux que está cerca de su estado Final de ciclo vida (EOL). Tenga en cuenta su uso y planifique en consecuencia. Para más información, consulte la Guía de fin de ciclo de vida de CentOS.
Se aplica a: ✔️ Máquinas virtuales Linux ✔️ Máquinas virtuales Windows ✔️ Conjuntos de escalado flexibles ✔️ Conjuntos de escalado uniformes
La máquina virtual (VM) de la serie NDm A100 v4 es un nuevo buque insignia de la familia de GPU de Azure. Está diseñada para el entrenamiento de aprendizaje profundo de alto nivel y cargas de trabajo de HPC de escalabilidad horizontal y vertical estrechamente acopladas.
La serie NDm A100 v4 comienza con una sola máquina virtual y ocho GPU NVIDIA Ampere A100 Tensor Core de 80 GB. Las implementaciones basadas en NDm A100 v4 se pueden escalar verticalmente hasta miles de GPU con un ancho de banda de interconexión de 1,6 Tb/s por máquina virtual. Cada GPU incluida en la máquina virtual se proporciona con su propia conexión InfiniBand de NVIDIA Mellanox HDR de 200 GB/s dedicada e independiente de la topología. Estas conexiones se configuran automáticamente entre máquinas virtuales que ocupan el mismo conjunto de escalado de máquinas virtuales y admiten RDMA de GPUDirect.
Cada GPU incluye conectividad NVLINK 3.0 para la comunicación dentro de la máquina virtual, y la instancia cuenta con el respaldo de 96 núcleos físicos de CPU Epyc™ 7V12 (Rome) de segunda generación.
Estas instancias proporcionan un rendimiento excelente para muchas herramientas de IA, ML y análisis que admiten la aceleración GPU de serie, como TensorFlow, Pytorch, Caffe, RAPIDS y otras plataformas. Además, la interconexión InfiniBand de escalabilidad horizontal es compatible con un gran conjunto de herramientas de inteligencia artificial y HPC existentes creadas en las bibliotecas de comunicación NCCL2 de NVIDIA para una agrupación en clústeres de GPU sin problemas.
Importante
Para empezar a trabajar con las máquinas virtuales NDm A100 v4, vea Configuración y optimización de cargas de trabajo de HPC para conocer los pasos que incluyen la configuración del controlador y la red. Debido a la mayor superficie de E/S de memoria en la GPU, la serie NDm A100 v4 necesita el uso de máquinas virtuales de segunda generación y de imágenes de Marketplace. Se recomienda encarecidamente usar las imágenes de Azure HPC. Se admiten las imágenes de Azure HPC Ubuntu 18.04, 20.04 y Azure HPC CentOS 7.9.
Premium Storage: Compatible
Almacenamiento en caché de Premium Storage: Compatible
Ultra Disks: Compatible (más información sobre la disponibilidad, el uso y el rendimiento)
Migración en vivo: No compatible
Actualizaciones con conservación de memoria: No compatible
Compatibilidad con generación de VM: Generación 2
Redes aceleradas: Compatible
Discos de sistema operativo efímero: Compatible
InfiniBand: Compatible, GPUDirect RDMA, 8 x 200 Gigabit HDR
Interconexión de NVIDIA NVLink: Compatible
Virtualización anidada: no compatible
La serie NDm A100 v4 admite las siguientes versiones de kernel:
CentOS 7.9 HPC: 3.10.0-1160.24.1.el7.x86_64
Ubuntu 18.04: 5.4.0-1043-azure
Ubuntu 20.04: 5.4.0-1046-azure
Tamaño | vCPU | Memoria: GiB | Almacenamiento temporal (SSD): GiB | GPU | Memoria de GPU: GiB | Discos de datos máx. | Rendimiento máximo del disco sin almacenamiento en la caché: IOPS / MBps | Ancho de banda de red máx. | Nº máx. NIC |
---|---|---|---|---|---|---|---|---|---|
Standard_ND96amsr_A100_v4 | 96 | 1900 | 6400 | 8 GPU A100 de 80 GB (NVLink 3.0) | 80 | 32 | 80 000 / 800 | 24 000 Mbps | 8 |
Definiciones de tabla de tamaño
La capacidad de almacenamiento se muestra en unidades de GiB o 1024^3 bytes. Cuando compare discos que se miden en GB (1000^3 bytes) con discos que se miden en GiB (1024^3), recuerde que los números que representan la capacidad en GiB pueden parecer más pequeños. Por ejemplo, 1023 GiB = 1098,4 GB.
Se midió el rendimiento de disco en operaciones de entrada/salida por segundo (E/S por segundo) y MBps, donde Mbps = 10^6 bytes/s.
Los discos de datos pueden funcionar en modo en caché o en modo no en caché. En el caso de la operación de disco de datos en caché, el modo de caché del host está establecido en ReadOnly o ReadWrite. En el caso de la operación de disco de datos no en caché, el modo de caché del host está definido en None.
Para obtener información sobre cómo obtener el mejor rendimiento de almacenamiento para las VM, consulte Rendimiento de la máquina virtual y del disco.
El ancho de banda de red esperado es el ancho de banda agregado máximo asignado por tipo de máquina virtual en todas las NIC y para todos los destinos. Para más información, consulte Ancho de banda de red de las máquinas virtuales.
No se garantizan los límites superiores. Los límites ofrecen una guía para seleccionar el tipo de máquina virtual adecuado para la aplicación prevista. El rendimiento de red real dependerá de diversos factores (como, por ejemplo, la congestión de la red, las cargas de la aplicación y la configuración de red). Para más información sobre cómo optimizar el rendimiento de red, consulte Optimización del rendimiento de red en las máquinas virtuales de Azure. Para lograr el rendimiento de red esperado en Linux o Windows, puede que deba seleccionar una versión específica u optimizar la máquina virtual. Para obtener más información, vea Pruebas de ancho de banda y rendimiento (NTTTCP).
Otros tamaños e información
- Uso general
- Memoria optimizada
- Almacenamiento optimizado
- GPU optimizada
- Proceso de alto rendimiento
- Generaciones anteriores
Calculadora de precios: Calculadora de precios
Para obtener más información sobre los tipos de discos, vea ¿Qué tipos de disco están disponibles en Azure?.
Pasos siguientes
Obtenga más información sobre cómo las unidades de proceso de Azure (ACU) pueden ayudarlo a comparar el rendimiento en los distintos SKU de Azure.
Comentarios
https://aka.ms/ContentUserFeedback.
Próximamente: A lo largo de 2024 iremos eliminando gradualmente GitHub Issues como mecanismo de comentarios sobre el contenido y lo sustituiremos por un nuevo sistema de comentarios. Para más información, vea:Enviar y ver comentarios de