O SISTEMA UNIVERSAL PARA
INFRAESTRUTURAS DE AI

Toda empresa precisa se transformar usando a inteligência artificial (AI – Artificial Intelligence). Não apenas para sobreviver, mas para prosperar em tempos desafiadores. No entanto, as empresas precisam de uma plataforma para infraestrutura de AI que melhora as abordagens tradicionais, as quais historicamente envolveram arquiteturas de computação lentas que foram separadas por cargas de trabalho de análise, treinamento e inferência.

A TECNOLOGIA DENTRO DA NVIDIA DGX A100

GPU NVIDIA A100 Tensor Core

A GPU NVIDIA A100 Tensor Core fornece aceleração sem precedentes para IA, análise de dados e computação de alto desempenho (HPC) para enfrentar os desafios de computação mais difíceis do mundo. Com os núcleos de tensores NVIDIA de terceira geração, que proporcionam um enorme aumento de desempenho, a GPU A100 pode aumentar de maneira eficiente até milhares ou, com a GPU de várias instâncias, ser alocada como sete instâncias dedicadas menores para acelerar cargas de trabalho de todos os tamanhos.

Multi-Instance GPU (MIG)

Com o MIG, as oito GPUs A100 do DGX A100 podem ser configuradas em até 56 instâncias de GPU, cada uma totalmente isolada com seus próprios núcleos de memória, cache e computação de alta largura de banda. Isso permite que os administradores dimensionem GPUs de tamanho certo com qualidade de serviço (QoS) garantida para várias cargas de trabalho.

Next-Generation NVLink and NVSwitch

A terceira geração do NVIDIA® NVLink ™ no DGX A100 dobra a largura de banda direta de GPU para GPU para 600 gigabytes por segundo (GB / s), quase 10 vezes mais que o PCIe Gen4. O DGX A100 também possui a NVIDIA NVSwitch ™ de próxima geração, que é 2 vezes mais rápida que a geração anterior.

Mellanox ConnectX-6 VPI HDR InfiniBand

O DGX A100 possui os mais recentes adaptadores Mellanox ConnectX-6 VPI HDR InfiniBand / Ethernet, cada um executando a 200 gigabits por segundo (Gb / s) para criar uma malha de alta velocidade para cargas de trabalho de IA em grande escala.

Optimized Software Stack

O DGX A100 integra uma pilha de software DGX testada e otimizada, incluindo um sistema operacional básico ajustado por IA, todo o software de sistema necessário e aplicativos acelerados por GPU, modelos pré-treinados e muito mais da NGC ™.

Built-In Security

O DGX A100 oferece a postura de segurança mais robusta para implantações de IA, com uma abordagem em várias camadas que abrange o BMC (Baseboard Management Controller), placa de CPU, placa de GPU, unidades auto-criptografadas e inicialização segura.

A100 GPU

GPU NVIDIA A100 Tensor Core

A GPU NVIDIA A100 Tensor Core fornece aceleração sem precedentes para IA, análise de dados e computação de alto desempenho (HPC) para enfrentar os desafios de computação mais difíceis do mundo. Com os núcleos de tensores NVIDIA de terceira geração, que proporcionam um enorme aumento de desempenho, a GPU A100 pode aumentar de maneira eficiente até milhares ou, com a GPU de várias instâncias, ser alocada como sete instâncias dedicadas menores para acelerar cargas de trabalho de todos os tamanhos.

MULTI-INSTANCE GPU

Multi-Instance GPU (MIG)

Com o MIG, as oito GPUs A100 do DGX A100 podem ser configuradas em até 56 instâncias de GPU, cada uma totalmente isolada com seus próprios núcleos de memória, cache e computação de alta largura de banda. Isso permite que os administradores dimensionem GPUs de tamanho certo com qualidade de serviço (QoS) garantida para várias cargas de trabalho.

NVLINK & NVSWITCH

Next-Generation NVLink and NVSwitch

A terceira geração do NVIDIA® NVLink ™ no DGX A100 dobra a largura de banda direta de GPU para GPU para 600 gigabytes por segundo (GB / s), quase 10 vezes mais que o PCIe Gen4. O DGX A100 também possui a NVIDIA NVSwitch ™ de próxima geração, que é 2 vezes mais rápida que a geração anterior.

MELLANOX CONNECTX-6

Mellanox ConnectX-6 VPI HDR InfiniBand

O DGX A100 possui os mais recentes adaptadores Mellanox ConnectX-6 VPI HDR InfiniBand / Ethernet, cada um executando a 200 gigabits por segundo (Gb / s) para criar uma malha de alta velocidade para cargas de trabalho de IA em grande escala.

OPTIMIZED SOFTWARE STACK

Optimized Software Stack

O DGX A100 integra uma pilha de software DGX testada e otimizada, incluindo um sistema operacional básico ajustado por IA, todo o software de sistema necessário e aplicativos acelerados por GPU, modelos pré-treinados e muito mais da NGC ™.

SECURITY

Built-In Security

O DGX A100 oferece a postura de segurança mais robusta para implantações de IA, com uma abordagem em várias camadas que abrange o BMC (Baseboard Management Controller), placa de CPU, placa de GPU, unidades auto-criptografadas e inicialização segura.

The Universal System for Every AI Workload

O NVIDIA DGX A100 é o sistema universal para toda a infraestrutura de IA, da análise ao treinamento e à inferência. Ele define um novo padrão para a densidade de computação, agregando 5 petaFLOPS de desempenho de IA em um fator de forma de 6U, substituindo os silos de infraestrutura herdados por uma plataforma para cada carga de trabalho de IA.

Unmatched Data Center Scalability

O NVIDIA DGX A100 possui adaptadores de rede Mellanox ConnectX-6 VPI HDR InfiniBand / Ethernet com 450 gigabytes por segundo (GB / s) de largura de banda bidirecional de pico. Esse é um dos muitos recursos que fazem do DGX A100 o alicerce fundamental para grandes clusters de IA, como o NVIDIA DGX SuperPOD ™, o modelo corporativo de infraestrutura de AI escalável.

Fastest Time To Solution

O NVIDIA DGX A100 é o primeiro sistema de IA do mundo construído na GPU NVIDIA A100 Tensor Core. Integrando oito GPUs A100, o sistema fornece aceleração sem precedentes e é totalmente otimizado para o software NVIDIA CUDA-X ™ e a pilha de soluções ponta a ponta do centro de dados NVIDIA.

DGXperts: Integrated Access to AI Expertise

O NVIDIA DGXperts é uma equipe global de mais de 14.000 profissionais fluentes em IA que construíram uma vasta experiência na última década para ajudá-lo a maximizar o valor do seu investimento em DGX.

Conheça em Detalhes

Faça o download nos links abaixo e conheça sobre a arquitetura e detalhes da NVIDIA DGX A100