Mod dobra desempenho de IA em placas GeForce RTX 20, 30 e 40

Modders encontraram um jeito de fazer as GeForce RTX 20, 30 e 40 entregarem tudo o que podem em tarefas de computação. As ferramentas, divulgadas nesta segunda-feira (26), dobram a capacidade de processamento de inteligência artificial dessas placas. A má notícia para quem esperava mais quadros por segundo: os jogos não ganham nada com isso.

O truque mexe em registros de baixo nível da GPU antes do driver da Nvidia carregar. Na prática, a placa passa a funcionar sem a trava de software que a fabricante coloca nas linhas de consumo para separá-las das placas profissionais (antes chamadas de Quadro). Como o hardware é o mesmo, a diferença sempre foi só de software.

📲 Esse tipo de gambiarra que mexe no fundo da placa de vídeo é raro. Para não perder nenhuma novidade do tipo, entra no Canal do TS no WhatsApp.

Como o desbloqueio funciona

As ferramentas atuam alterando registros de configuração antes do driver da Nvidia ser carregado, além de burlar o PCIe function level reset (FLR). É uma mudança temporária: não modifica o driver nem o CUDA, e é desfeita a cada reinicialização do sistema. E o melhor: não precisa de patch manual quando a Nvidia lança um driver novo.

A Nvidia usa os mesmos chips de GPU nas linhas GeForce (consumo) e nas profissionais (hoje chamadas RTX Professional, antes Quadro). A diferença de desempenho em tarefas de computação sempre foi artificial: um bloqueio por software que impede que as placas de consumo sejam usadas em servidores e data centers. Esse mod quebra exatamente essa trava.

O ganho aparece em operações com Tensor Core, especificamente em instruções FP16 e BF16 com acumulação FP32, além de certas cargas TF32 e FP8. Em arquiteturas suportadas, a taxa de emissão de instruções dobra.

O ganho em cada geração

São três ferramentas diferentes, uma para cada arquitetura. Os criadores registraram os ganhos em placas específicas.

RTX 30: gpu-unlock

Para as placas baseadas em GA102, GA103, GA104 e GA106, a ferramenta gpu-unlock promete ganhos de até 94% em multiplicação de matrizes BF16, segundo seu criador. Em um RTX 3090 Ti, os números ficaram assim: Em um RTX 3090 Ti, os números ficaram assim:

• FP16: saltou de 87,46 TFLOPS para 118,39 TFLOPS
• BF16: foi de 87,50 TFLOPS para 157,41 TFLOPS
• TF32: passou de 42,58 TFLOPS para 82,61 TFLOPS

RTX 40: gpu-unlock-ada

Já nas placas RTX 40 (AD102, AD103 e AD106), o gpu-unlock-ada entrega ganho de até 100%, de acordo com seu criador. Num RTX 4090, os números são impressionantes: Num RTX 4090, os números são impressionantes:

• FP16 com acumulação FP32: foi de 165,6 TFLOPS para 331,6 TFLOPS
• BF16 com acumulação FP32: saltou de 165,5 TFLOPS para 330,6 TFLOPS

RTX 20: turing-unlock

Para a geração mais antiga, o turing-unlock promete até 1,99x de ganho. Em testes de FP16 com acumulação FP32, a placa pulou de 46,9 TFLOPS para 93,6 TFLOPS. Em operações cuBLAS de matrizes grandes (8192 GEMM), o ganho foi de 1,76x: foi de 48,1 TFLOPS para 85,1 TFLOPS.

Curiosamente, a operação FP16 com acumulação FP16 (sem mudar a precisão da acumulação) não sofreu alteração, o que mostra que a trava da Nvidia age justamente nas operações de precisão mista mais usadas em IA.

Por que os jogos não mudam (e o mercado pode esquentar)

A Nvidia nunca limitou o desempenho das GeForce em jogos. Renderização 3D em tempo real e o DLSS já usam 100% dos recursos disponíveis. A trava existe só no lado da computação, justamente para impedir que empresas e data centers comprem placas de consumo mais baratas no lugar das profissionais, que custam uma fortuna.

Com o bloqueio quebrado, profissionais que rodam tarefas pesadas de computação, como modelos de linguagem locais (LLMs), devem ver um aumento significativo na taxa de tokens processados por segundo. O lado amargo é que isso pode pressionar os preços das GeForce mais potentes, já que mais gente vai querer usar a placa certa pelo preço errado. A boa notícia: a procura deve ficar concentrada nos modelos com mais VRAM, então as placas de entrada e média devem ficar de fora dessa turbulência.

Por enquanto, as ferramentas só funcionam no Linux. O suporte ao Windows pode chegar, mas ainda não tem data.

Fonte: Club386