Қытайдың жасанды интеллект саласындағы алыбы Zhipu AI GLM-5.2 моделін ұсынды: 1 миллион токендік контекст және ашық код.
Қытайлық Zhipu AI стартапы өзінің ең жаңа флагмандық GLM-5.2 тілдік моделін ресми түрде шығарды, ол күрделі агенттік тапсырмаларды және бағдарламалауды шешуге бағытталған. Басты ерекшелігі — 1 миллион токенге дейінгі контексттік терезе, бұл модельге үлкен көлемдегі деректерді бір өтуде өңдеуге мүмкіндік береді. Модель MIT лицензиясы бойынша ашық бастапқы кодпен таратылады және жергілікті орналастыруды қолдайды.
Hugging Face мәліметтері бойынша, GLM-5.2 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялау үшін оңтайландырылған. Бұл оны нарықтағы ең ірі ашық модельдердің біріне айналдырады.
Архитектуралық инновациялар және өнімділік
GLM-5.2-де «ойлау қарқындылығының» бірегей жүйесі енгізілген, ол пайдаланушыларға жауап сапасы мен кідіріс арасындағы тепе-теңдікті динамикалық түрде таңдауға мүмкіндік береді. Архитектураға сонымен қатар IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты біріктірілген. Әзірлеушілер IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдаланады, бұл токенге келетін операциялар санын 2,9 есе азайтады, ал MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады деп мәлімдейді.
Тестілеу нәтижелері әсерлі: үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орынға ие болды.
Ашықтық және қолжетімділік
GLM-5.2 MIT лицензиясы бойынша таратылады, бұл әзірлеушілерге максималды икемділікті қамтамасыз етеді. Жергілікті орналастыру үшін танымал фреймворктерге қолдау көрсетіледі: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл әртүрлі орталарға интеграцияны жеңілдетеді.
Менің сараптамалық пікірім: GLM-5.2 шығарылымы — Zhipu AI компаниясының ашық AI модельдер сегментінде көшбасшылық үшін күрестегі маңызды қадамы. 1 млн токен контексті және жергілікті орналастыруды қолдау бұл модельді enterprise-сектор үшін, әсіресе бағдарламалауды автоматтандыру және ұзақ құжаттарды өңдеу саласында өте тартымды етеді. Алайда, кейбір «ашық» модельдер басқа жобалардың тікелей бірігуі болып шыққан соңғы жанжалдарды ескере отырып, қауымдастық GLM-5.2 архитектурасының түпнұсқалылығын мұқият зерттеуі керек екенін атап өткен жөн.