Қытайлық алып Zhipu AI компаниясы GLM-5.2 шығарды: контексте 1 миллион токен және ашық код
Қытайлық AI-стартап Zhipu AI өзінің жаңа флагмандық тілдік моделі — GLM-5.2 ресми түрде ұсынды. Бұл ашық бастапқы коды бар, ұзақ агенттік тапсырмалар мен күрделі бағдарламалауға бағытталған шешім. Модельдің негізгі ерекшелігі — 1 миллион токенге дейінгі контекстік терезе, бұл байланысты жоғалтпай үлкен көлемдегі деректерді өңдеу үшін түбегейлі жаңа мүмкіндіктер ашады.
Әзірлеме MIT лицензиясы бойынша таратылады, бұл оны коммерциялық және зерттеу мақсатында пайдалану үшін барынша қолжетімді етеді. Модель жергілікті орналастыруды қолдайды, ал Hugging Face платформасында параметрлері бар карточка жарияланған: 753 миллиард параметр, ағылшын және қытай тілдерінде мәтін генерациялау.
Архитектуралық инновациялар және өнімділік
GLM-5.2 «ойлау қарқындылығының» икемді жүйесін ұсынады, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасындағы теңгерімді таңдауға мүмкіндік береді. Архитектураға екі негізгі компонент енгізілген: IndexShare механизмі, ол сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланып, токенге операциялар санын 2,9 есе азайтады, және спекулятивті декодтау үшін жаңартылған MTP қабаты, растау ұзындығын 20%-ға дейін арттырады.
Менің деректерім бойынша, бұл жақсартулар модельдің нақты сценарийлердегі, әсіресе ұзын тізбектерді өңдеу кезіндегі жылдамдығы мен тиімділігіне тікелей әсер етеді.
Бенчмарктар және көшбасшылық
FrontierSWE, PostTrainBench және SWE-Marathon сынақтарында GLM-5.2 барлық басқа open-source модельдерін сенімді түрде басып озды. Бағдарламалау өнімділігінің стандартты бенчмарктарында да ол ашық шешімдер арасында бірінші орынды иеленді. Бұл Zhipu AI жай «шикі» модель емес, инженерлік тапсырмаларға арналған толыққанды құрал жасай алғанын растайды.
Модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыру үшін қолжетімді. llama.cpp, Ollama және LM Studio үшін квантизациялар қолдау көрсетіледі, бұл қолданыстағы инфрақұрылымдарға интеграцияны жеңілдетеді.
Менің ойымша, GLM-5.2 — бұл open-source AI үшін маңызды қадам. Қытайлық команда батыстық әзірлемелерді қуып жетіп қана қоймай, контекстік жады және агенттік жүйелер саласында жаңа стандарттарды белгілейді. Егер модель тәуелсіз сынақтарда мәлімделген сипаттамаларды растаса, алдағы айларда корпоративтік секторда интеграция толқынын көреміз.