Mac Studio с M5 Ultra рассчитан в том числе на работу с моделями ИИ непосредственно на компьютере. Apple указывает конфигурации с объёмом объединённой памяти до 512 ГБ и пропускной способностью до 1,2 ТБ/с. Для M5 Max заявлена пропускная способность до 614 ГБ/с.
Что дают эти характеристики
Объём доступной памяти влияет на то, какую модель и какой контекст можно разместить в системе. Пропускная способность важна для обмена данными, но сама по себе не определяет итоговую скорость. На неё также влияют архитектура модели, точность представления весов, программная реализация и характер запроса.
Поэтому сравнивать компьютеры полезно на одной модели и сопоставимых настройках. Время до начала ответа и скорость последующей генерации — разные показатели: хороший результат по одному не обязательно означает преимущество по другому.
Кому это нужно
Такая рабочая станция может быть интересна тем, кому важны локальная обработка и большой объём памяти. При этом запуск модели на своём компьютере не делает автоматически локальными все компоненты приложения: перед работой с конфиденциальными файлами нужно проверить настройки сетевых сервисов.