Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және агенттік тапсырмалар үшін ашық код
Қытайлық стартап Zhipu AI өзінің жаңа флагмандық GLM-5.2 тілдік моделін шығарды, ол ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған. Модель MIT лицензиясы бойынша ашық бастапқы кодпен таратылады және жергілікті орнатуды қолдайды, бұл оны кең ауқымды әзірлеушілер үшін қолжетімді етеді.
GLM-5.2-нің негізгі ерекшелігі — 1 млн токендік контексттік терезе. Бұл модельге үлкен көлемдегі деректерді, соның ішінде тұтас кодтық базаларды немесе ұзақ диалогтарды, байланыстылығын жоғалтпай өңдеуге және талдауға мүмкіндік береді. Hugging Face-те модель ағылшын және қытай тілдері үшін генеративті ретінде көрсетілген, ал оның көлемі 753 млрд параметрді құрайды.
GLM-5.2 архитектурасы «ойлау қарқындылығының» бірнеше деңгейін қамтиды, бұл пайдаланушыға жауап сапасы мен кідіріс арасында таңдау жасауға икемділік береді. Кірістірілген IndexShare механизмдері мен жаңартылған MTP (Multi-Token Prediction) қабаты спекулятивті декодтауды қамтамасыз етеді. IndexShare әр төрт сирек назар қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есе азайтады. MTP жаңартуы растау ұзындығын 20%-ға арттырып, генерацияны жылдамдатады.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық басқа open-source модельдерден сенімді түрде озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық шешімдер арасында көшбасшылық позицияны иеленді.
GLM-5.2 жергілікті орнату үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланды. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді әртүрлі инфрақұрылымдарға біріктіруді жеңілдетеді.
Аналитик пікірі: GLM-5.2 шығарылымы — open-source AI сегментіндегі маңызды қадам. 1 млн токен контекстінің, 753 млрд параметрдің және ашық MIT лицензиясының үйлесімі әзірлеушілер үшін, әсіресе автоматтандыру және бағдарламалау саласында, қуатты құрал жасайды. Дегенмен, мұндай алып модельдер айтарлықтай есептеу ресурстарын қажет ететінін және олардың нақты тиімділігі оқу деректерінің сапасы мен өзектілігіне байланысты болатынын есте ұстаған жөн. Ұзақ мерзімді перспективада бұл open-source модельдер арасындағы бәсекелестікті күшейтіп, бүкіл қауымдастыққа пайда әкелуі мүмкін.