minimax

MiniMax: MiniMax M1

MiniMax M1 — крупная модель с открытыми весами, предназначенная для сложных рассуждений и работы с длинным контекстом. В её основе — архитектура Mixture-of-Experts и механизм lightning attention; модель рассчитана на обработку последовательностей длиной до 1 млн токенов. Всего она включает 456 млрд параметров, из которых 45,9 млрд активны при обработке каждого токена. Модель обучалась с использованием специального конвейера обучения с подкреплением CISPO.