A20 Pro тянет Bonsai‑27B локально. Вдвое быстрее 17 Pro. Bonsai 2 на 2 бита уже не влезает

A20 Pro впервые в линейке Apple Silicon несёт два 16-ядерных нейродвижка. На iPhone 18 Pro локально гоняют модель на 27 млрд параметров — Bonsai‑27B — примерно вдвое быстрее, чем на 17 Pro. Память у 18 Pro и Pro Max общая: 12 ГБ LPDDR5X с шиной 96 бит, пропускная способность 115,2 ГБ/с. Это не новый бенчмарк AnTuTu и не «телефон заменил облако». Bonsai 27B здесь — конкретная локальная модель, не любой 27B с Hugging Face.

Что влезает и что нет

Демонстрацию на 18 Pro выложил Адриен Гронден: токены Bonsai‑27B идут заметно быстрее, чем на прошлом Pro. Первое поколение Bonsai — 1-битная квантизация, её крутят даже на 4 ГБ; на 8 и 12 ГБ она «едет». Жестокость локального ИИ в том, что следующая Bonsai 2 в 2-битном виде уже не садится в 12 ГБ целиком и начинает тормозить. Два 16-ядерных NPU на нейрозадачах по пиковому потоку обгоняют 7-ядерный GPU той же SoC. На этом железе 27B первой Bonsai держит скорость без видимых просадок. Автор материала честно пишет: хотелось бы ещё памяти в следующем поколении.

Для Минска 18 Pro уже в продаже — это не «утечка до анонса». Имеет смысл не ждать ChatGPT-уровня офлайн: 27B в 1 бит — узкий класс моделей, не универсальный агент. Если Bonsai 2 не влезает, «вдвое быстрее 17 Pro» относится к старой сетке. Локальный классификатор вроде Jev решает другой класс задач — вероятности, не генерация токенов. Обложка — кадр материала, не скрин вашего чата на 18 Pro.

Это не «27B как в облаке»

Локальный 27B в 1 бит не равен той же сетке в полном FP16. Имеет смысл смотреть, какая квантизация в ролике, не заголовок «телефон думает как лаборатория». Если Apple не поднимет память, следующий скачок модели снова упрётся в 12 ГБ. Обложка — кадр к материалу, не студийный замер TehnoRex. Bonsai 27B на 1 бите — это демонстрация NPU, не офлайн-замена облака: без места под 2-битную Bonsai 2 телефон упирается в ту же дюжину гигабайт.

По теме: 18 Pro уже в продаже с A20 Pro, это не новый анонс чипа, локальный интеллект бывает и без генерации токенов.

Текст TehnoRex. Дата: 2026-09-20.

Ещё про AI

Все материалы →

сегодня · НовостиThunderobot M7000: Ryzen AI Max+ 395 и 120B на борту. Старт 19 999 юаней сегодня · НовостиDenza D9: агент «Дидися» заказывает еду и отель. Это OTA, не новый кузов сегодня · НовостиYang и Brown про safety: боты в интернете и тепло воздуха. Оба тезиса слабые сегодня · НовостиJev от автора ChatGPT: не LLM, а вероятности. Токены ответа бесплатны