Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және бағдарламалауға арналған ашық код
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмалар мен бағдарламалауға бағытталған GLM-5.2 флагмандық тілдік моделін ұсынды. Ашық бастапқы коды бар бұл шешім 1 миллион токендік контексттік терезеге ие, MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды.
Hugging Face-тегі ресми деректерге сәйкес, модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. GLM-5.2 «ойлау қарқындылығының» бірнеше деңгейін ұсынады, бұл пайдаланушыға жауап сапасы мен кідіріс арасында теңгерімді сақтауға мүмкіндік береді. Архитектураға IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген.
Техникалық инновациялар мен өнімділік
Әзірлеушілер IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланып, токенге шаққандағы операциялар санын 2,9 есеге азайтады деп мәлімдейді. MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл ұзақ контексті күрделі тапсырмалар үшін өте маңызды.
Негізгі бенчмарктерде — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында көшбасшылық орынды иеленді.
Қолжетімділік және орналастыру
Модель ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл GLM-5.2-ні әзірлеушілер мен зерттеушілердің кең ауқымына қолжетімді етеді.
Менің пікірім: GLM-5.2 — ашық бастапқы коды бар тілдік модельдер саласындағы маңызды қадам. Үлкен контексттік терезенің, бағдарламалау мен агенттік тапсырмаларға маманданудың және орналастырудағы икемділіктің үйлесімі бұл құралды кәсіби әзірлеушілер үшін өте тартымды етеді. Zhipu AI-дың батыстық аналогтарды арнайы бенчмарктерде қуып қана қоймай, озып кетуі ерекше әсер қалдырады, бұл қытайлық AI стартаптарының жаһандық аренадағы өсіп келе жатқан рөлін көрсетеді.