Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және ашық кодты қытайлық алып
Қытайлық стартап Zhipu AI өзінің жаңа флагмандық моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл ұзақ агенттік тапсырмалар мен күрделі бағдарламалауды орындауға арналған ашық бастапқы коды бар шешім. Негізгі ерекшелігі — 1 миллион токендік контекстік терезе, бұл үлкен көлемдегі деректерді бір өтуде өңдеуге мүмкіндік береді. Модель MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды.
Hugging Face платформасындағы техникалық құжаттамаға сәйкес, GLM-5.2 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялау үшін оңтайландырылған. Бұл оны жаһандық және жергілікті нарықтар үшін әмбебап құрал етеді.
Модель архитектурасы «ойлау қарқындылығының» бірнеше деңгейін қамтиды, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасында икемді теңгерімге мүмкіндік береді. Кірістірілген IndexShare технологиялары мен жаңартылған MTP (Multi-Token Prediction) қабаты спекулятивті декодтауды қамтамасыз етеді. Әзірлеушілер IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге операциялар санын 2,9 есеге азайтатынын, ал MTP растау ұзындығын 20%-ға дейін арттыратынын мәлімдейді.
Сынақтарда GLM-5.2 көрнекті нәтижелер көрсетті. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — ол барлық қолданыстағы open-source модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық кодты аналогтар арасында көшбасшылық позицияны иеленді.
Жергілікті орналастыру үшін модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарын қолдайды. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл әртүрлі инфрақұрылымдарға интеграцияны жеңілдетеді.
Сарапшы пікірі: GLM-5.2 шығарылымы — open-source AI үшін маңызды қадам. 1 млн токендік контекст және 753 млрд параметр бұл модельді үздік жабық шешімдермен қатар қояды. Әсіресе бағдарламалау тапсырмаларындағы өнімділік әсерлі, бұл оны GPT-4 және Claude үшін тікелей бәсекелес етеді. Алайда негізгі мәселе — есептеу ресурстарына жоғары талаптарды ескере отырып, қауымдастық оны нақты бизнес-тапсырмаларға тез бейімдей ала ма?