Қытайлық алып Zhipu AI компаниясы GLM-5.2 моделін ұсынды: 1 миллион токен контексті және 753 миллиард параметр
Қытайлық Zhipu AI компаниясы күрделі агенттік тапсырмалар мен бағдарламалауды шешуге арналған өзінің флагмандық тілдік моделі GLM-5.2-ні ресми түрде шығарды. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім жергілікті орналастыру үшін қолжетімді және 1 миллион токеннен тұратын әсерлі контекстік терезеге ие.
Hugging Face деректеріне сәйкес, GLM-5.2 — ағылшын және қытай тілдерінде мәтін генерациялауға арналған модель, оның құрамында 753 миллиард параметр бар. Архитектура негізінде IndexShare инновациялық механизмдері және спекулятивті декодтауға арналған жаңартылған MTP (Multi-Token Prediction) қабаты жатыр.
Zhipu AI инженерлері IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдалануға мүмкіндік беретінін, бұл токенге шаққандағы есептеу операцияларының санын 2,9 есеге азайтатынын айтады. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға арттырып, генерация процесін айтарлықтай жылдамдатады.
Бенчмарктардағы серпіліс
FrontierSWE, PostTrainBench және SWE-Marathon сияқты негізгі өнімділік сынақтарында GLM-5.2 барлық басқа open-source модельдерден озып шықты. Бағдарламалау бойынша стандартты сынақтарда да ол ашық бастапқы коды бар аналогтар арасында көшбасшылық позицияны иеленді.
Модель «пайымдау қарқындылығының» бірнеше деңгейін қолдайды, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында икемді таңдау жасауға мүмкіндік береді. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner-мен үйлесімділік мәлімделген. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді.
Сарапшының пікірі: GLM-5.2 шығарылымы — бұл жай ғана кезекті релиз емес, open-source AI сегментіндегі жарыстың жаңа деңгейге көтерілетіні туралы сигнал. 1 миллион токен контексті және агенттік тапсырмаларға баса назар аудару бұл модельді әзірлеушілер үшін, әсіресе күрделі бизнес-процестерді автоматтандыру саласында маңызды құралға айналдырады. Дегенмен, мұндай ауқымды модельдер айтарлықтай есептеу ресурстарын қажет ететінін және бәсекелестерден нақты артықшылық жергілікті орналастырудың тиімділігіне байланысты болатынын есте ұстаған жөн.