Para Sam Altman, ter RAM no seu PC é um desperdício num mundo com IA

O CEO da OpenAI, Sam Altman, tem uma opinião clara sobre a crise global de chips de memória: colocar RAM dentro do computador de cada pessoa é um desperdício que o planeta não pode mais bancar. A declaração foi dada ao podcast Cheeky Pint e acendeu de novo a discussão entre quem defende rodar IA no próprio aparelho e quem aposta tudo na nuvem.

“De uma perspectiva de alocação global, é terrível fazer com que todo mundo tenha um pedaço da oferta limitada de DRAM do mundo sentado no próprio computador, sendo usado ‘five percent of the time’”, disse Altman. Para ele, a conta fecha melhor se essa memória estiver nos data centers, onde a utilização é máxima no ambiente de nuvem.

Na mesma entrevista, Altman também comentou que a OpenAI não pretende desacelerar o ritmo de publicações científicas, mesmo sabendo que está sobrecarregando a comunidade matemática.

O embate com quem quer rodar IA no PC

O alvo indireto de Altman é o movimento que aposta na inferência local, rodar modelos de inteligência artificial diretamente no computador ou celular, sem depender da nuvem. Com a chegada de modelos open-source cada vez mais leves, cresceu a expectativa de que daria para deixar os data centers de lado.

“Muita gente quer inferência local. E, de alguma forma, assumem que o problema está resolvido agora porque vamos ter modelos open-source rodando nos nossos computadores”, afirmou. “Mas a intuição de muita gente é o oposto do que faz sentido.”

Na prática, Altman defende que a conta de recursos globais não fecha se cada usuário tiver um pedaço de DRAM reservado para si. O custo de fabricação e a energia para manter esses chips funcionando ficam mais eficientes quando concentrados.

Escassez de DRAM já dura e encarece o hardware

A fala de Altman não sai do vácuo. O mercado global de memória vive uma apertada há meses. As fabricantes Samsung e SK Hynix firmaram contratos de longo prazo com operadores de nuvem e com projetos como o Stargate, o megacomputador da OpenAI. Isso significa que grande parte da produção de DRAM dos próximos anos já está reservada.

No fim da semana passada, a SK Hynix alertou que a falta de memória para IA deve durar até 2030, mesmo com planos de expansão bilionários das fábricas. E a consequência chega ao seu bolso: a disposição das fabricantes e dos data centers em pagar muito por esses chips é um dos motivos pelos quais laptops, celulares e outros gadgets estão ficando mais caros.

Enquanto a demanda por IA continuar subindo, a briga por cada pedaço de DRAM só tende a ficar mais intensa. E, no raciocínio de Altman, usar esse recurso para abrir uma guia a mais no navegador ou rodar um modelo local de vez em quando é luxo que o mundo da inteligência artificial não pode mais se dar.

📲 Essa história ainda tem capítulo pela frente. Para não perder nenhum desdobramento, entra no Canal do TS no WhatsApp.

Fonte: The Verge