Содержание 5
Microsoft представила ускоритель Maia 300 для вывода ИИ-моделей в облаке. Компания заявляет рост производительности инференса до 40%. Для рынка это значит, что гиперскейлеры ищут способ сократить расходы на вычисления.
Зачем Microsoft понадобился Maia 300
Обучение и работа нейросетей требуют огромного числа ускорителей. Почти все они приходят от одного производителя. Собственный чип позволяет диктовать цены внутри облака и точнее подстраивать железо под конкретные модели.
Второй мотив — зависимость от поставок. Когда один вендор контролирует рынок, сроки и объёмы определяет он, а не заказчик. Своя разработка снижает этот риск.
Третий фактор — энергопотребление. Стоимость электричества для дата-центров растёт, поэтому выгоднее ставить чипы, которые тратят меньше ватт на один запрос.
Что даёт многокристальная компоновка
Ускоритель собирают из нескольких кристаллов, объединённых в одно устройство. Подход позволяет наращивать производительность без перехода на новый техпроцесс. Связь между кристаллами обеспечивает высокая пропускная способность.
В результате чип дешевле в производстве и проще в масштабировании. Именно поэтому крупные облачные провайдеры всё чаще проектируют собственное железо, а не закупают готовые решения.
Кому выгоден Maia 300
В первую очередь самой Microsoft. Собственный ускоритель снижает стоимость инференса в Azure, а значит компания может предлагать ИИ-сервисы дешевле конкурентов. Клиенты получают меньшую цену за токен.
Обратная сторона тоже очевидна. Переносить модели придётся в экосистему Microsoft, что ограничивает гибкость выбора. Для крупных заказчиков это отдельный риск.
Софт здесь не менее важен. Без удобных инструментов разработчики не станут переносить модели на чужое железо. Поэтому Microsoft параллельно улучшает библиотеки и среду для инференса.
Сроки Microsoft не раскрывает. Ожидается, что новые ускорители появятся в облаке постепенно, а старые кластеры продолжат работать на прежнем железе.
Беларусь: что это значит
Для локального рынка новость имеет косвенное значение. Цены на облачные ИИ-сервисы формируются в долларах, поэтому снижение стоимости инференса может со временем дойти и до белорусских пользователей. Курс НБРБ на 15 октября — 3,0113 рубля за доллар.
Похожие материалы: доступ к Gemini 4 Argon, мини-ПК MSI для локальных моделей и рост цен на память. Подробности — у SiliconANGLE и Korben.
Читайте также: капитализация Apple в 5 трлн долларов, управление Windows из Phone Link.
Текст: TehnoRex
Ещё про Ноутбуки и ПК
Все материалы →
вчера · НовостиMicron EIM: роботам понадобится 200 ГБ ОЗУ и 4 ТБ — выпуск обещают в 2028 году
вчера · НовостиРынок памяти трясёт: акции Samsung и SK Hynix упали из-за страха перепроизводства
вчера · НовостиGooglebook: первые тесты ноутбуков с новой ОС Google показали сырую систему за $899
вчера · НовостиFormlabs Studio 1: смоляной 3D-принтер за $699 приходит в домашние мастерские