Гігантський кластер Ілона Маска працює вхолосту: xAI використовує лише 11% потужності

Амбітний проєкт Ілона Маска зі створення найпотужнішого штучного інтелекту Grok наштовхнувся на неочікувану технічну перепону. Попри наявність колосальних апаратних ресурсів, ефективність їхнього використання залишається критично низькою.

Наразі технологічні гіганти Google та Meta демонструють значно кращі результати в управлінні обчисленнями. Їхні показники завантаження становлять близько 46% та 43% відповідно. Це суттєво перевищує поточні досягнення команди xAI. Втім, навіть такі цифри не є ідеальними для галузі.

Головною причиною простою називають незрілість програмної архітектури та систем розподіленого навчання молодий компанії. Процесори часто змушені бездіяльно очікувати на надходження пакетів даних. Це системна складність. Масштабування на рівні сотень тисяч пристроїв породжує мікрозатримки, які миттєво перетворюються на величезні вузькі місця.

Сьогодні інфраструктура кластерів Memphis та Colossus налічує вражаючі 550 тисяч графічних прискорювачів Nvidia серій H100 та H200. Проте реальність виявилася суворою. Фактично в роботі задіяно лише 60 тисяч GPU. Решта дороговартісного обладнання наразі простоює через внутрішні програмні конфлікти.

Інженери xAI поставили за мету досягти рівня завантаження у 50%. Це складний виклик. Конкретні терміни виходу на такі показники наразі не розголошуються. Подібна проблема не є унікальною для Маска, адже з неефективністю гігантських AI-систем бореться вся світова індустрія.