TheDrummer: UnslopNemo 12B

Авторская конфигурация на Hugging Face указывает архитектуру MistralForCausalLM и тип Mistral, 40 слоёв, 32 attention-heads, размер скрытого состояния 5 120, промежуточный размер 14 336, словарь на 131 072 токена и вычисления в bfloat16. В конфигурации также указано максимальное позиционное окно 1 024 000 позиций. Это техническое свойство конфигурации, а не обещание, что каждый провайдер примет запрос такого размера. Для обычного использования важнее проверить фактический лимит выбранного маршрута.

Запись OpenRouter подтверждает текстовый режим: вход — text, выход — text; в ней также указан токенизатор Mistral и контекстный размер модели 1 024 000. При этом для top provider OpenRouter отдельно показывает context length 32 768 и max completion tokens 32 768. Поэтому число 1 024 000 нельзя безоговорочно трактовать как доступный лимит каждого API-вызова: для конкретного провайдера действует меньшая граница, если она указана в endpoint. В карточке OpenRouter также указана дата среза знаний 30 апреля 2024 года; для свежих сведений и событий нужен внешний, проверяемый контекст.

В OpenRouter для этой записи перечислены параметры frequency penalty, presence penalty, temperature, top-p, top-k, stop, seed, logprobs, repetition penalty, max tokens, response format, structured outputs, tool choice и tools. Это перечень возможностей маршрута OpenRouter, а не отдельное доказательство одинакового поведения всех провайдеров. Перед переносом промпта в приложение следует проверить совместимость нужного параметра с выбранным endpoint и ограничением контекста.

Практический сценарий — черновик приключенческого рассказа или ролевой сессии, где пользователь заранее задаёт персонажей, мир, правила диалога и желаемую длину ответа. Большое окно конфигурации позволяет передать длинный контекст, но доступный объём нужно сверять с лимитом провайдера 32 768. Для задач, связанных с изображениями, модель не подходит по заявленной модальности: источники указывают только текстовый ввод и текстовый вывод. Источники не подтверждают наличие открытого API автора, мультимодального режима, лицензии для любого коммерческого сценария или гарантии качества; эти свойства нельзя выводить из названия модели и следует проверять отдельно.