Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контексті және бағдарламалаудағы серпілісі бар ашық модель
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмалар мен код жазуға бағытталған жаңа флагмандық GLM-5.2 тілдік моделін ұсынды. Ашық бастапқы коды бар бұл шешім Hugging Face платформасында қолжетімді және 1 млн токендік контексттік терезесі, MIT лицензиясы және жергілікті орналастыру мүмкіндігімен ерекшеленеді.
Техникалық сипаттамалары мен архитектурасы
Модель 753 млрд параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауды қолдайды. GLM-5.2-нің басты ерекшелігі — пайдаланушыға жауап сапасы мен кідіріс арасындағы тепе-теңдікті таңдауға мүмкіндік беретін икемді «ойлау қарқындылығы» жүйесі. Архитектураға сонымен қатар IndexShare механизмдері және спекулятивті декодтауға арналған жаңартылған MTP қабаты біріктірілген.
Әзірлеушілердің айтуынша, IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге келетін операциялар санын 2,9 есеге азайтады. Жаңартылған MTP растау ұзындығын 20%-ға арттырады, бұл жоғары дәлдікті қажет ететін тапсырмалар үшін өте маңызды.
Бенчмарктар мен өнімділік
Үш негізгі сынақта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық қолданыстағы open-source модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты бенчмарктарында да ол ашық шешімдер арасында көшбасшылық орынға ие болды, бұл оның әзірлеушілер үшін әлеуетін растайды.
Қолжетімділік және орналастыру
Модель ашық MIT лицензиясы бойынша таратылады, бұл шектеусіз коммерциялық пайдалануға мүмкіндік береді. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарына қолдау көрсетілетіні мәлімделген. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл әртүрлі құрылғыларда интеграцияны жеңілдетеді.
Менің сараптамалық пікірім: GLM-5.2 — ашық AI модельдері үшін, әсіресе бағдарламалау сегментінде, маңызды қадам. 1 млн токендік контекст және агенттік тапсырмаларға оңтайландыру оны OpenAI мен Google-дің меншікті шешімдеріне бәсекеге қабілетті балама етеді. Дегенмен, негізгі мәселе — бенчмарктарда ғана емес, нақты тапсырмалардағы практикалық тиімділік. Ашық модельдер нарығы айқын жетілу кезеңіне еніп жатыр, және GLM-5.2 жаңа деңгей белгілейді.