Marvell Technology atrai atenção dos investidores à medida que crise energética da IA impulsiona corrida pela eficiência de chips.

Marvell Technology está atraindo a atenção de investidores de Wall Street à medida que o mercado de semicondutores se volta para a eficiência energética em meio a uma crise de consumo de energia impulsionada pela IA. De acordo com a Bloomberg, os custos de eletricidade perto de data centers nos EUA aumentaram 267% nos últimos cinco anos, afetando 13 dos 50 estados americanos, enquanto cargas de trabalho de IA consomem enormes quantidades de energia. Grandes empresas de tecnologia que compram eletricidade no atacado recebem descontos, enquanto os consumidores residenciais arcam com custos mais altos, levando a indústria a priorizar arquiteturas de chips de baixo consumo. O professor Kim Hak-joo, do Departamento de Convergência de IA da Universidade Global Handong, explica que a aquisição da Inphi em 2021 pela Marvell — líder em conectividade de sinal entre chips — posiciona a empresa para lidar com o gargalo central da IA: a transferência de dados entre a memória e as unidades de processamento, que responde por 40% do consumo de energia da IA.

Consumo de energia da IA impulsiona aumento de 267% nos custos de eletricidade em regiões de data centers nos EUA

A Bloomberg relata que os custos de eletricidade em áreas próximas a data centers nos EUA aumentaram 267% em comparação com cinco anos atrás, com 13 dos 50 estados americanos atualmente afetados e o escopo geográfico continuando a se expandir. Grandes empresas de tecnologia que operam data centers compram eletricidade no atacado, recebendo descontos que transferem os ônus dos custos para os consumidores residenciais. O consumo de energia da IA se divide em quatro categorias: transferência de dados (40%), dissipação de calor e resfriamento (35%), computação (15%) e manutenção do armazenamento de dados (10%). O cientista-chefe da NVIDIA, Bill Dally, afirmou que a IA consome muito mais energia transferindo dados de semicondutores de memória externa (HBM) para unidades de processamento (GPU) do que realizando cálculos em si.

Indústria de semicondutores migra para arquiteturas SRAM e CIM para eficiência energética

A indústria está se movendo em direção ao uso maior de SRAM — memória localizada dentro das unidades de processamento da GPU — em vez de memória HBM externa para reduzir as distâncias de transferência de dados. Quando o consumo de energia da computação é igual a 1, recuperar dados da memória SRAM interna requer de 5 a 10 unidades de energia, enquanto buscar dados da memória HBM externa consome de 100 a 1000 unidades devido à resistência do sinal em distâncias maiores de fios de cobre e à necessidade de amplificação de sinal. Empresas como Groq e Cerebras projetaram chips densamente preenchidos com SRAM, eliminando conexões externas de HBM, apesar das limitações da SRAM em capacidade, tamanho físico e custo. A indústria também está desenvolvendo arquiteturas Chip-in-Memory (CIM) que integram unidades de processamento diretamente na memória para minimizar ainda mais as distâncias de transferência.

Marvell Technology ganha vantagem competitiva com aquisição da Inphi

A Marvell Technology adquiriu a Inphi em 2021, obtendo acesso a uma expertise líder mundial em conectividade de sinal entre semicondutores. A Inphi ocupava posições dominantes tanto em conexões de sinal em microescala dentro de espaços apertados de chips quanto em soluções de rede de comunicação óptica. Grandes empresas de tecnologia, incluindo Google, Microsoft e Amazon, exigem a propriedade intelectual da Inphi para projetar redes de chip a chip (ASIC), dando à Inphi uma alavancagem significativa de negociação mesmo com grandes empresas de tecnologia. A indústria está fazendo a transição dos meios de transferência de dados de fio de cobre para comunicação óptica baseada em laser, a fim de reduzir o consumo de energia e a geração de calor ao recuperar grandes volumes de dados da memória HBM externa, uma área em que a Inphi mantém soluções de alto nível.

FAQ

O que causou o aumento de 267% nos custos de eletricidade perto de data centers nos EUA? De acordo com a Bloomberg, os custos de eletricidade nas regiões de data centers dos EUA aumentaram 267% em cinco anos devido ao enorme consumo de energia da IA, afetando atualmente 13 dos 50 estados americanos, com impacto geográfico em expansão.

Por que a Marvell Technology adquiriu a Inphi em 2021? A Marvell adquiriu a Inphi em 2021 para obter acesso a tecnologia líder mundial em conectividade de sinal entre chips e rede de comunicação óptica, capacidades essenciais para arquiteturas de chips de IA de baixo consumo, já que a transferência de dados responde por 40% do consumo de energia da IA.

Como a SRAM reduz o consumo de energia da IA em comparação com a memória HBM? A SRAM localizada dentro das unidades de processamento da GPU requer de 5 a 10 unidades de energia para recuperação de dados quando a computação usa 1 unidade, enquanto a memória HBM externa consome de 100 a 1000 unidades devido às distâncias maiores de transferência de dados e aos requisitos de amplificação de sinal sobre fios de cobre.