Стоимость GPU Nvidia Blackwell удваивается, но расходы на инференс (обработку одного токена) снижаются в 35 раз по сравнению с Hopper

Согласно последнему анализу блога Nvidia, стоимость GPU Blackwell почти вдвое выше за час по сравнению с поколением Hopper, но при этом они обеспечивают в 35 раз более низкие затраты на инференс в пересчёте на токен. В качестве тестовой модели используется DeepSeek-R1: Blackwell (GB300 NVL72) сдается в аренду по $2,65 за GPU в час против $1,41 для Hopper, однако пропускная способность одного GPU растет с 90 до 6 000 токенов в секунду. Этот 65-кратный прирост пропускной способности снижает затраты на миллион токенов с $4,20 до $0,12.

Показатель $0,12 предполагает полную оптимизацию ПО, включая инференс с низкой точностью FP4 и предсказание нескольких токенов (MTP). Если MTP не включена, затраты на миллион токенов достигают примерно $2,35, но при активной MTP они падают до $0,11, демонстрируя 21-кратное влияние оптимизации только от этой функции.

Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.

Связанные статьи

Законодатели Колорадо предлагают заменить закон об ИИ, чтобы учесть опасения отрасли

Законодатели штата Колорадо предпринимают шаги по отмене и замене закона об искусственном интеллекте, принятого в 2024 году, SB24-205, новыми правилами, которые сужают охват регулирования ИИ, одновременно учитывая опасения отрасли по поводу бремени соблюдения требований. Новое предложение, SB26-189, предусматривает регулирование систем ИИ, которые используются в

CryptoFrontier5ч назад

R0AR продвигается в финальный раунд Consensus 2026 PitchFest, с небольшим отрывом не попадает в топ-20

Согласно MetaversePost, R0AR перешёл в финальный отборочный раунд CoinDesk's Consensus 2026 PitchFest 4 мая, едва не попав в топ-20 стартапов, выбранных для живых презентаций. Веб3- и AI-новатор оценивался наряду с перспективными стартапами по всему миру в одной из крупнейших отраслевых программ

GateNews8ч назад

Маск добивается мирового соглашения на $150 миллиардов с OpenAI до суда, переговоры о соглашении сорвались

Согласно судебной жалобе, Илон Маск связался с президентом OpenAI Грегом Брокманом 26 апреля — за два дня до начала их процесса в федеральном суде Окленда — чтобы обсудить возможность урегулирования. Когда Брокман предложил, чтобы обе стороны отказались от своих претензий, Маск ответил угрозами, сказав Брокману: «К концу …»

GateNews9ч назад

Cursor принимает предложение о покупке от SpaceX на 60 миллиардов долларов, но не будет сотрудничать с xAI по моделям для кодинга

По данным The Information, Cursor приняла условное предложение о покупке на $60 миллиардов от SpaceX, хотя сделка пока не завершена. В настоящее время у компании нет планов сотрудничать с AI-подразделением SpaceX xAI в разработке моделей для программирования. Вместо этого Cursor сосредоточена на оптимизации его

GateNews9ч назад

Haun Ventures закрывает фонд на 1 миллиард долларов 4 мая, разделяя капитал между ранними и поздними инвестициями в криптовалюты

По данным Bloomberg, Haun Ventures завершила раунд по привлечению средств на 1 миллиард долларов 4 мая: 500 миллионов долларов будут направлены на инвестиции на ранней стадии, и 500 миллионов долларов — на инвестиции на поздней стадии. Фонд планирует задействовать капитал в течение следующих двух-трёх лет, ориентируясь на стартапы в сфере криптовалют и блокчейна, при этом расшир

GateNews9ч назад

OpenAI увеличивает $4 миллиардов для развертывания совместного предприятия, оцениваемого в 10 миллиардов долларов

Согласно BlockBeats, 4 мая OpenAI привлекла более $4 миллиарда для создания нового совместного предприятия, ориентированного на помощь компаниям в адаптации его программного обеспечения с искусственным интеллектом. Предприятие, получившее название The Deployment Company, поддерживают 19 инвесторов, включая TPG Inc., Brookfield Asset Management,

GateNews10ч назад
комментарий
0/400
Нет комментариев