Брокман з OpenAI прогнозує тривалі обмеження доступної обчислювальної потужності для ШІ

Президент OpenAI Грег Брокман спрогнозував, що обмеження обчислювальних потужностей у індустрії ШІ зберігатимуться під час форуму в Нью-Йорку 23-го числа. Брокман заявив, що компаніям доводиться ухвалювати складні рішення щодо того, на чому тренувати моделі, і наскільки масштабувати продукти, з огляду на триваючі дефіцити обчислень. Компанії зі сфери ШІ, зокрема OpenAI та Anthropic, а також великі техкомпанії на кшталт Microsoft, Amazon і Meta, намагаються задовольнити стрімко зростаючий попит на ШІ, одночасно навчаючи нові моделі та обслуговуючи клієнтів, що потребує масштабного обчислювального обладнання, зокрема NVIDIA GPU, і подальших значних витрат на датацентри.

За даними Yahoo Finance від 25-го (місцевий час), Брокман сказав на форумі 23-го: «Мій сильний прогноз полягає в тому, що незалежно від того, що станеться, ми й надалі залишатимемося в цьому явищі дефіциту обчислень. Зараз нам потрібно ухвалювати складні рішення про те, з чим саме ми тренуємо моделі, і наскільки ми масштабуватимемо продукти».

Великі техкомпанії стикаються з труднощами через обчислювальний попит на ШІ

Компанії зі сфери ШІ на кшталт OpenAI та Anthropic, а також великі техфірми, зокрема Microsoft, Amazon і Meta, відчувають труднощі із задоволенням різко зростаючого попиту на ШІ, балансуючи між навчанням нових ШІ-моделей і наданням сервісу клієнтам. Це потребує великомасштабного обчислювального обладнання, зокрема NVIDIA GPU. Попри те, що компанії продовжують значні витрати на датацентри, їм усе одно складно закривати попит.

Брокман пояснив: «Іноді, бачачи, як потужності OpenAI швидко зростають, люди думають, що з’явиться надлишок обчислювальних потужностей, але коли компанія розробляє нові моделі й нові методи використання, попит зростає ще далі». Він додав: «Я думаю, що ця ситуація триватиме й далі, тому що ми переходимо до економіки, що працює на обчисленнях».

Alphabet оголошує контракти на потужності від сторонніх постачальників і угоду з Google-SpaceX

Під час оголошення квартальної звітності Alphabet за Q2 22-го числа фінансовий директор компанії заявив, що попри те, що вся індустрія здійснює масштабні витрати на датацентри, компанія укладатиме контракти з постачальниками ззовні, щоб забезпечити свої обчислювальні потужності в Q3.

У червні Google підписала контракт на оренду потужностей для ШІ із SpaceX на суму $920 мільйонів на місяць.

Брокман відкидає концепцію token maxing

Брокман відкинув концепцію «token maxing» — використання обчислень ШІ на максимум потужності виключно для демонстрації — зазначивши, що клієнти починають бачити віддачу від інвестицій, коли вони використовують програмне забезпечення для підвищення продуктивності.

Він наголосив: «Якщо клієнти добре використовують ШІ, вони почнуть бачити віддачу від інвестицій. Якщо ж просто максимізувати використання токенів, ви отримуєте лише максимальне використання токенів, але якщо максимізувати вартість, ви можете застосувати ці технології для розв’язання проблем і отримання реальної користі».

FAQ

Що Грег Брокман з OpenAI спрогнозував щодо обчислювальної потужності для ШІ?

Грег Брокман спрогнозував на форумі в Нью-Йорку 23-го, що обмеження обчислювальних потужностей зберігатимуться в індустрії ШІ. Він заявив, що компанії й надалі стикатимуться зі складними рішеннями щодо тренування моделей і масштабування продуктів через триваючі дефіцити обчислень.

Чому Google підписала контракт зі SpaceX щодо потужностей для ШІ?

Google підписала контракт на оренду потужностей для ШІ із SpaceX на $920 мільйонів на місяць у червні. Це сталося після оголошення фінансового директора Alphabet 22-го числа про те, що компанія укладатиме контракти з постачальниками ззовні, щоб забезпечити потреби в обчислювальних потужностях для Q3, попри масові витрати на датацентри в усій індустрії.

Що таке token maxing і чому Брокман його відкинув?

Token maxing — це використання обчислень ШІ на максимальну потужність виключно для демонстрації. Брокман відкинув цю концепцію, заявивши, що клієнти мають зосередитися на максимізації вартості, а не на використанні токенів. Він наголосив, що застосування технологій ШІ для розв’язання проблем і отримання реальної користі забезпечує справжню віддачу від інвестицій, а не лише максимальне споживання токенів.