Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және ашық тілдік модельдердің жаңа дәуірі
Қытайлық стартап Zhipu AI өзінің жаңа флагмандық тілдік моделі GLM-5.2-ні ұсынды, ол ұзақ агенттік тапсырмалар мен күрделі бағдарламалау мәселелерін шешуге бағытталған. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім 1 миллион токендік контекстік терезені ұсынады — бұл жергілікті орналастыру үшін маңызды қадам.
Hugging Face-те қолжетімді модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. GLM-5.2-нің негізгі ерекшелігі — «ойлау қарқындылығын» реттеу мүмкіндігі, бұл әзірлеушілерге жауап сапасы мен кідіріс (латенттілік) арасында таңдау жасауға мүмкіндік береді.
Модель архитектурасы инновациялық компоненттерді қамтиды: IndexShare және спекулятивті декодтау үшін жаңартылған MTP қабаты. IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есеге азайтады. MTP жаңартуы өз кезегінде растау ұзындығын (confirmation length) 20%-ға арттырады.
FrontierSWE, PostTrainBench және SWE-Marathon сияқты негізгі бенчмарктерде GLM-5.2 барлық басқа ашық бастапқы коды бар модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында көшбасшы орынды иеленді.
Жергілікті орналастыру үшін модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner сияқты фреймворктерді қолдайды. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл GLM-5.2-ні әзірлеушілер үшін икемді құрал етеді.
Сарапшы пікірі: GLM-5.2 — бұл жай ғана кезекті жаңарту емес, ашық модельдер сегментінде көшбасшылыққа байыпты үміткер. 1 млн токендік контекст жергілікті орналастыру мүмкіндігімен және MIT лицензиясымен үйлескенде, бұл модельді деректерді бақылау мен өнімділік маңызды болып табылатын enterprise-секторы үшін өте тартымды етеді. Дегенмен, Қытайдағы модельдердің «ашықтығына» қатысты соңғы жанжалдарды ескере отырып, қауымдастық бұл шешімнің қаншалықты шынымен тәуелсіз екенін мұқият зерттеуі керек.