Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және бағдарламалаудағы серпіліс үшін ашық код
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық GLM-5.2 тілдік моделін ұсынды, ол ұзақ мерзімді агенттік тапсырмаларды шешуге және бағдарламалауға бағытталған. Бұл 1 миллион токендік контексттік терезесі бар, MIT лицензиясы бойынша таратылатын және жергілікті орналастыруды қолдайтын толығымен ашық шешім.
Hugging Face платформасында қолжетімді модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. GLM-5.2-нің негізгі ерекшелігі — «ойлау қарқындылығын» икемді баптау, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасындағы теңгерімді таңдауға мүмкіндік береді.
Модель архитектурасы екі маңызды жаңалықты қамтиды: IndexShare механизмі және спекулятивті декодтауға арналған жаңартылған MTP қабаты. IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдалануға мүмкіндік береді, бұл токенге операциялар санын 2,9 есеге азайтады. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға дейін арттырады.
Тестілеу нәтижелері таңқаларлық. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орынды иеленді.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner сияқты фреймворктарды қолдау жарияланған. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді.
Сарапшы пікірі: GLM-5.2 шығарылымы — бұл open-source AI үшін маңызды қадам. 1 млн токендік контекст код пен құжаттаманың үлкен көлемін талдау үшін жаңа мүмкіндіктер ашады, ал MIT лицензиясы модельді кез келген әзірлеушіге қолжетімді етеді. Zhipu AI «шикі» өнімділікті арттырып қана қоймай, есептеу шығындарын азайтатын механизмдерді енгізуі ерекше маңызды — бұл қуатты AI модельдеріне қолжетімділікті демократияландырудың негізгі тренді.