Қытайлық стартап Zhipu AI GLM-5.2 шығарды: 1 миллион токендік контекст және бағдарламалаудағы революция
Қытайлық AI стартапы Zhipu AI өзінің жаңа флагмандық тілдік моделі GLM-5.2-ні ресми түрде таныстырды. Бұл әзірлема ұзақ агенттік тапсырмаларды және күрделі бағдарламалауды шешуге бағытталған. Ашық бастапқы коды бар модель 1 миллион токендік контексттік терезеге ие, MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды — бұл құпиялылықты бағалайтын әзірлеушілер үшін маңызды фактор.
Hugging Face-тегі техникалық құжаттамаға сәйкес, GLM-5.2 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялау үшін оңтайландырылған. Дегенмен, оның басты инновациясы — «ойлау қарқындылығының» икемді жүйесі, ол жауап сапасы мен кідіріс арасында динамикалық теңгерімге мүмкіндік береді. Бұл жылдамдық маңызды болатын нақты қосымшалар үшін өте маңызды.
Модель архитектурасы екі серпінді компонентті қамтиды: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты. IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады. Өз кезегінде, MTP растау ұзындығын 20% ұлғайтып, инференсті айтарлықтай жылдамдатады.
Бенчмарктарда GLM-5.2 әсерлі нәтижелер көрсетеді. FrontierSWE, PostTrainBench және SWE-Marathon сынақтарында модель барлық қолданыстағы open-source аналогтарынан озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық модельдер арасында көшбасшылық позицияны иеленді.
Модель қазірдің өзінде SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыруға қолжетімді. Сондай-ақ, llama.cpp, Ollama және LM Studio үшін квантизациялар қолдау көрсетіледі, бұл оны шектеулі ресурстары бар жабдықта да қолдануға мүмкіндік береді.
Сарапшының пікірі: GLM-5.2 шығарылымы — бұл жай ғана кезекті жаңарту емес, open-source LLM нарығындағы күштер тепе-теңдігін өзгерте алатын стратегиялық қадам. 1 млн токен контексті, 753 млрд параметр және MIT лицензиясының үйлесімі бірегей ұсыныс жасайды. Әсіресе IndexShare технологиясы әсерлі: токенге операциялардың 3 есеге жуық төмендеуі — бұл арзан және жылдам инференске тікелей жол. Егер Zhipu AI қарқынын сақтай алса, алдағы тоқсандарда батыс алыптарымен байыпты бәсекелестікті көре аламыз.