meta-llama

Meta: Llama 4 Scout

Llama 4 Scout 17B Instruct — мультимодальная языковая модель Meta с архитектурой mixture-of-experts: при генерации активируются 17 млрд параметров из общего числа 109 млрд. Она принимает текст и изображения, а на выходе формирует текст и код. Модель предназначена для диалогового взаимодействия и визуального анализа; заявлена поддержка 12 языков и контекст до 10 млн токенов. Среди подходящих задач — многоязычный чат, создание подписей к изображениям и понимание визуального содержимого. Обучение с настройкой по инструкциям и раннее объединение модальностей помогают модели обрабатывать текстовые и визуальные входные данные в рамках одного взаимодействия. Данные для обучения включали материалы по август 2024 года.