Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контексті және агенттік тапсырмаларға арналған архитектурасы бар қытайлық ашық бастапқы модель
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ұсынды. Бұл ашық бастапқы коды бар шешім, ол 1 миллион токендік контекстік терезесінің арқасында нарықтың назарын бірден аударды. Модель ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған, бұл оны әзірлеушілер мен зерттеушілер үшін маңызды құралға айналдырады.
GLM-5.2 MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды. Модель көлемі 753 миллиард параметрді құрайды. Әзірлеме ағылшын және қытай тілдерінде мәтін генерациялауға арналған, бұл оның Hugging Face-тегі карточкасымен расталады.
Архитектуралық инновациялар мен өнімділік
GLM-5.2-нің негізгі ерекшеліктерінің бірі — «ойлау қарқындылығының» бірнеше деңгейін қолдау. Бұл жауап сапасы мен кідіріс арасында икемді теңгерімге мүмкіндік береді, нақты тапсырмаларға бейімделеді. Архитектураға IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген.
Әзірлеушілердің мәлімдеуінше, IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есеге азайтады. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға арттырады. Бұл оңтайландырулар модельді үлкен көлемдегі деректермен жұмыс істеуде тиімдірек етеді.
Бенчмарктар мен нарықтағы орны
Үш негізгі сынақта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 басқа open-source модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты бенчмарктарында да ол ашық шешімдер арасында көшбасшы орындарды иеленді. Бұл оның кодтауды автоматтандыру және күрделі агенттік тізбектер үшін әлеуетін растайды.
GLM-5.2 жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдайды. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл әртүрлі инфрақұрылымдарға интеграцияны жеңілдетеді.
Менің сараптамалық пікірім: GLM-5.2 — бұл кезекті open-source модель ғана емес, ұзақ контекстермен және агенттік сценарийлермен жұмыс істеуге арналған ойластырылған құрал. Токенге операцияларды 2,9 есеге азайту — жергілікті орналастыру үшін маңызды қадам. Алайда, 753 млрд параметр көлемін ескере отырып, тиімді жұмыс қуатты жабдықты қажет етеді. Модельдің нақты жобаларда, әсіресе жабық аналогтармен салыстырғанда, өзін қалай көрсететіні қызықты.