GLM-5.2 Zhipu AI компаниясынан: 1 миллион токен контексті және бағдарламалауға арналған архитектуралық инновациялар
Қытайлық Zhipu AI стартапы ұзақ агенттік тапсырмаларды шешуге және күрделі бағдарламалау сценарийлеріне бағытталған өзінің жаңа флагмандық GLM-5.2 тілдік моделін ресми түрде ұсынды. Шешім MIT лицензиясы бойынша ашық бастапқы кодпен таратылады, бұл әлемнің түкпір-түкпіріндегі әзірлеушілерге модельді еркін пайдалануға және бейімдеуге, соның ішінде жергілікті орналастыруға мүмкіндік береді.
GLM-5.2-нің басты техникалық ерекшелігі 1 миллион токен көлеміндегі контексттік терезе болып табылады. Hugging Face деректері бойынша, модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. Бұл оны нарықтағы ең ірі open-source модельдерінің біріне айналдырып, сапасын жоғалтпай, үлкен көлемді құжаттарды, код базаларын және ұзақ диалогтарды өңдеуге қабілетті етеді.
Архитектуралық инновацияларға сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланатын IndexShare механизмі кіреді. Әзірлеушілердің айтуынша, бұл токенге келетін операциялар санын 2,9 есеге азайтады, бұл инференс жылдамдығына және есептеу ресурстарын пайдалану тиімділігіне тікелей әсер етеді. Сонымен қатар, жаңартылған MTP (Multi-Token Prediction) қабаты растау ұзындығын 20%-ға арттырып, спекулятивті декодтау сапасын жақсартады.
GLM-5.2 «ойлау қарқындылығының» бірнеше деңгейін қолдайды, бұл пайдаланушыларға шығыс деректерінің сапасы мен кідіріс арасында икемді теңгерімге мүмкіндік береді — нақты уақыттағы қосымшалар үшін өте маңызды функция.
Өнімділік сынақтарында модель таңғаларлық нәтижелер көрсетті. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық басқа ашық бастапқы кодты модельдерден озып шықты. Стандартты бағдарламалау сынақтарында да ол көшбасшылық позицияларды иеленіп, кодтау үшін ең қуатты open-source моделі мәртебесін растады.
GLM-5.2 жергілікті орналастыру үшін танымал фреймворктердің толық қолдауы жарияланды: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. Сондай-ақ, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді бар инфрақұрылымдарға біріктіруді жеңілдетеді.
Менің сараптамалық талдауым: GLM-5.2 — бұл жай ғана кезекті жаңарту емес, open-source AI саласындағы маңызды қадам. 1 млн токен контекстінің архитектуралық оңтайландырулармен (IndexShare және MTP) үйлесуі бұл модельді үлкен код базаларымен немесе ұзақ құжаттармен жұмыс істейтін әзірлеушілер үшін ерекше тартымды етеді. Дегенмен, Zhipu AI параметрлерді агрессивті түрде арттыруды жалғастырып жатқанын атап өткен жөн, бұл тұтынушылық жабдықта жергілікті орналастыруға қосымша кедергілер туғызуы мүмкін. Соған қарамастан, MIT лицензиясы және фреймворктердің кең қолдауы қауымдастыққа эксперименттер мен коммерциялық пайдалану үшін қуатты құрал береді.