Tempo de Leitura: 5 minutos

Selecionando a GPU correta para seu projeto

Neste post esperamos poder ajudar você a escolher a GPU que melhor servirá para seu projeto.

Qual é a melhor GPU para o meu aplicativo de deep learning?

Selecionar a GPU correta para deep learning nem sempre é uma tarefa tão clara. Com base nos tipos de redes que você está treinando, selecionar a GPU correta é mais diferenciada do que simplesmente olhar preço / desempenho. Aqui, pretendemos fornecer algumas informações baseadas em dados reais na forma de benchmarks de aprendizado profundo para visão computacional (taxa de transferência img / s, tamanho de lote) e processamento de linguagem natural (PNL), onde comparamos o desempenho dos modelos de transformadores de treinamento com base em tamanho do modelo e tamanho do lote.
GPUs NVIDIA Turing, veremos:

RTX 2080 Ti (modelo de ventilador, “blower”)
NVIDIA TITAN RTX
Quadro RTX 8000
NVIDIA RTX 6000

RTX 2080 Ti (modelo de “Blower”)

No geral, o RTX 2080 Ti é uma GPU de excelente valor para experimentação de aprendizado profundo. No entanto, deve-se notar que esta GPU pode ter algumas limitações no treinamento de modelos modernos de PNL, devido à relativamente baixa GPU de memória por cartão (11 GB). No lado positivo, o design do ventilador permite configurações de sistema densas.

NVIDIA TITAN RTX

O TITAN RTX é uma boa GPU para todos os fins, para praticamente qualquer tarefa de aprendizado profundo. Quando usado como um par com a ponte NVLink, você tem efetivamente 48 GB de memória para treinar modelos grandes, incluindo grandes modelos de transformadores para PNL. O design do ventilador duplo pode dificultar configurações de sistema densas. Além disso, descontos qualificados para EDU estão disponíveis no TITAN RTX.

NVIDIA Quadro RTX 6000

Olhando para o TITAN RTX e o 2080 Ti, este cartão oferece o melhor dos dois mundos. A grande capacidade de memória, além do design do ventilador, permite configurações de sistema densamente povoadas, com ampla capacidade de memória para treinar modelos grandes. Além disso, o desempenho da taxa de transferência de imagem bruta (img / s) está em pé de igualdade com o poderoso RTX 8000. Assim como o TITAN RTX, os descontos EDU podem estar disponíveis nas placas Quadro, portanto, verifique!

Quadro RTX 8000

Se você aprendeu profundamente de forma significativa as GPUs, estará familiarizado com o temido “Erro de tempo de execução: erro CUDA: falta de memória”. Entre no RTX 8000, talvez uma das melhores GPUs de aprendizado profundo já criadas. Este cartão, quando usado em um par com NVLink, possui 96 GB de memória GPU, o dobro do RTX 6000 e TITAN RTX. O design do seu ventilador permite configurações de sistema densas. O preço é muito alto; no entanto, se você puder pagar, vá em frente.

Tabela de Comparação entre as GPU´s

 

Aprendizado profundo para visão computacional

O objetivo da visão por computador é fazer com que os computadores obtenham um “entendimento” de alto nível das imagens. Para avaliar se um modelo realmente “entende” a imagem, os pesquisadores desenvolveram diferentes métodos de avaliação para medir o desempenho. Examinamos Imagens / segundo rendimento e tamanho do lote executando tf_cnn_benchmarks.py na página oficial do github do TensorFlow.

 

Claramente, os modelos RTX 8000 e 6000 têm bom desempenho na configuração de 4x GPU. Se o tamanho do lote não for importante, o sistema 2080 Ti oferece uma excelente opção a um preço justo.

Benchmarks adicionais de Deep Learning por modelo

Inception V4 GPU Performance Comparison

Inception V4 GPU Deep Learning Benchmarks

 

Inception V3 GPU Deep Learning Benchmarks

Inception V3 GPU Deep Learning Benchmarks

 

Alexnet GPU Deep Learning Benchmarks

Alexnet GPU Deep Learning Benchmarks

 

Nasnet GPU Deep Learning Benchmarks

NASnet GPU Deep Learning Benchmarks

 

ResNet 50 GPU Deep Learning Benchmarks

Resnet 50 GPU Deep Learning Benchmarks

 

VGG16 GPU Deep Learning Benchmarks

VGG16 GPU Deep Learning Benchmarks

 

Tags:

Deixe uma resposta