WizardLM-2 8x22B

Модельная карточка описывает WizardLM-2 8x22B как Mixture of Experts с 141 млрд параметров, многоязычной поддержкой и лицензией Apache 2.0. В ней также приведён формат диалога, унаследованный от Vicuna: системное описание, затем чередование USER и ASSISTANT с маркером конца ответа. Карточка рекомендует придерживаться этого формата, если модель запускается напрямую; при обращении через OpenRouter фактический шаблон и ограничения нужно сверять с текущим API-провайдера. На официальной странице релиза авторы сообщают о полностью синтетической системе подготовки данных: анализе распределений, взвешенной выборке, последовательном обучении по частям данных, Evol-Instruct, совместном обучении моделей и этапах supervised learning, Stage-DPO и RLEIF. Это описывает подход к постобучению, но не является обещанием одинакового качества на каждом языке или в каждом продукте.

Подтверждённые сценарии применения — многоходовой чат, обработка инструкций, письменные ответы, рассуждения, математические и кодовые запросы, а также экспериментальные агентные цепочки. В официальной публикации оценка включала реальные инструкции по письму, коду, математике, рассуждению, агентным и многоязычным задачам; отдельно упоминаются human-preference сравнения и MT-Bench. Результаты таких сравнений показывают поведение на выбранных наборах и не заменяют собственный тест на доменных данных. Перед использованием для поддержки, генерации кода или автоматических действий следует проверить формат промпта, устойчивость к длинному контексту, качество нужного языка и корректность ответов.

Ограничения важны не меньше характеристик. OpenRouter указывает отсечение знаний апреля 2024 года, поэтому свежие новости, цены, правила, документацию и состояние API нельзя считать известными модели без внешнего поиска или базы знаний. Текстовый интерфейс не означает гарантированную фактическую точность, отсутствие вредных формулировок или готовность к автономным действиям. Для чувствительных решений нужны валидация, ограничения полномочий и проверка человеком. Стоимость через OpenRouter указана как 0,62 доллара за миллион входных и 0,62 доллара за миллион выходных токенов; бюджет нужно пересчитывать по фактической длине контекста и ответов. WizardLM-2 8x22B разумно рассматривать как открытую многоязычную instruct-модель для текстовых прототипов и контролируемых сервисных сценариев, где команда готова самостоятельно отвечать за актуальность данных, качество и безопасность результата.