Қытайлық AI алыбы Zhipu GLM-5.2 моделін ұсынды: 753 миллиард параметр және 1 миллион токендік контекст
Ашық тілдік модельдер нарығына қуатты ойыншы келді. Қытайлық стартап Zhipu AI өзінің флагмандық әзірлемесін — ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған GLM-5.2 моделін ресми түрде ұсынды. Жаңалықтың басты ерекшелігі — 1 миллион токен көлеміндегі контекстік терезе, бұл байланыстылықты жоғалтпай, үлкен көлемдегі деректерді өңдеу мүмкіндігін ашады.
Hugging Face-те қолжетімді модельде 753 миллиард параметр бар және ол ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. GLM-5.2 ашық MIT лицензиясы бойынша таратылады, бұл әзірлеушілерге оны жергілікті орналастыруды қоса алғанда, ешқандай шектеусіз өз жобаларына біріктіруге мүмкіндік береді.
GLM-5.2 архитектурасы бірнеше инновациялық шешімдерді қамтиды. Біріншіден, «ой қорыту қарқындылығының» бірнеше деңгейіне қолдау көрсетіледі, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасында таңдау жасауға икемділік береді. Екіншіден, IndexShare механизмі енгізілген, ол сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланып, токенге шаққандағы операциялар санын 2,9 есе азайтады. Сондай-ақ, спекулятивті декодтауға арналған жаңартылған MTP қабаты растау ұзындығын 20%-ға дейін арттырады.
Тестілеу нәтижелері әсерлі. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық қолданыстағы open-source модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық аналогтар арасында көшбасшылық позицияны иеленді.
Жергілікті орналастыру үшін модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдайды. Сондай-ақ, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл оны әзірлеушілердің кең ауқымына қолжетімді етеді.
Сарапшының пікірі: 1 млн токен контексті және ашық MIT лицензиясы бар GLM-5.2-нің пайда болуы — сала үшін маңызды қадам. Қытайлық әзірлеушілер батыстық аналогтарға бәсекелес бола алатын бәсекеге қабілетті шешімдерді ұсына отырып, ашық AI-модельдер сегментінде қатысуын белсенді түрде арттыруды жалғастыруда. Zhipu AI-дың агенттік тапсырмалар мен кодингке баса назар аударуы ерекше құнды — дәл осы бағыттар қазіргі уақытта enterprise-сектордың өсу драйверлері болып табылады.