3 мин на чтение

MiniMax M3.1 Flash получила открытые веса и запуск на Tenstorrent

MiniMax M3.1 Flash теперь доступна с открытыми весами и в облаке Tenstorrent. Для модели разделили обработку запроса и генерацию ответа — это важно для длинных агентных задач.

Tenstorrent 22 октября объявила о запуске MiniMax M3.1 Flash в своём облаке. Обработка входного запроса и генерация ответа выполняются на системах Galaxy с чипами Blackhole. У модели также доступны открытые веса. Это продолжение выпуска M3.1 Flash: первоначальный запуск через API состоялся 19 октября, поэтому речь идёт о расширении вариантов использования уже представленной модели.

Что изменилось после первого запуска

M3.1 Flash рассчитана на многошаговую работу агентов: написание кода, взаимодействие с компьютером и обработку больших объёмов контекста. Модель принимает текст, изображения и видео, а результат выдаёт в текстовом виде. Заявленное контекстное окно достигает миллиона токенов.

В опубликованной конфигурации 428 миллиардов параметров, из которых при обработке одного токена активны около 23 миллиардов. Такая архитектура распределяет работу между специализированными блоками. Разреженное внимание дополнительно сокращает объём контекста, к которому нужно обращаться на каждом шаге вычисления.

Эти характеристики описывают устройство модели, но сами по себе не гарантируют качество конкретного рабочего процесса. Длинное контекстное окно, например, даёт возможность передать большой материал. Насколько точно модель использует нужные детали этого материала, следует проверять на задачах приложения.

Одна модель, два этапа вычислений

Tenstorrent разделила инфраструктуру на группы для prefill и decode. Первый этап обрабатывает входной запрос и подготавливает внутреннее представление контекста. Второй последовательно генерирует новые токены ответа. Для этих этапов выделены разные системы Galaxy.

Разделение позволяет настраивать оборудование под характер работы. Длинный входной запрос не должен занимать те же вычислительные ресурсы, которые в этот момент продолжают уже начатый ответ другого пользователя. В агентных сценариях это особенно заметно: объём истории растёт, а новые шаги могут возникать одновременно.

Для повторного использования контекста применяется кэширование. Blackhole Galaxy располагает 1 ТБ оперативной памяти DRAM, а SSD используются для хранения повторно востребованных данных контекста. Это часть инфраструктурной схемы сервиса, а не требование к обычному компьютеру пользователя.

Blackhole Supercluster объединяет несколько систем Galaxy. При запуске M3.1 Flash группы систем отдельно обслуживают обработку входного контекста и генерацию ответа.

Что дают открытые веса

Публикация весов предоставляет командам ещё один путь развёртывания и изучения модели. При этом действуют условия лицензии MiniMax Community. Формулировка «открытые веса» точнее описывает выпуск, чем обещание использования без каких-либо ограничений.

В материалах модели приведены варианты запуска с SGLang, vLLM и TokenSpeed. Поддержка некоторых других инструментов ещё находится в работе, поэтому перед выбором среды важно проверять именно доступную интеграцию. Наличие модели в каталоге само по себе не означает одинаковой готовности всех способов запуска.

Для небольшой команды облачный вариант и собственное развёртывание решают разные организационные задачи. В первом случае вычислительную инфраструктуру обслуживает провайдер. Во втором появляется больше решений о размещении данных, конфигурации и обновлениях, которые команда принимает самостоятельно.

Как оценивать возможности на практике

Сравнивать варианты полезно на одном наборе заданий: работа с большим документом, исправление кода и продолжение диалога после нескольких вызовов инструментов. Важны время до начала ответа, устойчивость скорости, точность результата и повторяемость поведения.

Отдельно стоит учитывать кэширование и длину истории. Короткий новый запрос и очередной шаг длинной агентной задачи создают разную нагрузку. Официальные сравнения MiniMax отражают выбранные авторами тесты; реальная стоимость полезного результата зависит также от числа повторных попыток. Выход открытых весов и запуск на Tenstorrent расширяют выбор, а окончательную оценку даёт собственный рабочий сценарий.

АвторAnthony Fubon

Anthony Fubon — российский музыкант, DJ, музыкальный продюсер, организатор мероприятий и специалист по цифровым продуктам. В музыке он использовал несколько имён, в частности Fubon, TheFubon и yagelProject. Его собственная биография описывает путь от рок-музыки и российской psytrance-сцены к электронной музыке разных направлений и созданию собственной цифровой экосистемы.