Қытайлық алып Zhipu AI компаниясы GLM-5.2 шығарды: 753 миллиард параметр және 1 миллион токен контексті
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ресми түрде таныстырды. Бұл ашық бастапқы коды бар, ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған шешім. Модельдің негізгі ерекшелігі — 1 миллион токендік контекстік терезе, бұл байланыстылықты жоғалтпай үлкен деректер массивтерін өңдеуге мүмкіндік береді.
Hugging Face-тегі спецификацияға сәйкес, GLM-5.2 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. Модель MIT лицензиясы бойынша таратылады, бұл жергілікті орналастыру және коммерциялық пайдалану үшін кең мүмкіндіктер ашады.
Архитектуралық инновациялар
Әзірлеушілер GLM-5.2-ге «ойлау қарқындылығының» бірнеше деңгейін енгізді, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында икемді теңгерімге мүмкіндік береді. Архитектурада сонымен қатар IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты жүзеге асырылды. IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есеге азайтады. MTP өз кезегінде растау ұзындығын 20%-ға дейін арттырады.
Бенчмарк нәтижелері
Негізгі өнімділік сынақтарында — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық қолданыстағы модельдерден асып түсті. Бағдарламалаудың стандартты бенчмарктарында жаңа өнім open-source шешімдер арасында да көшбасшы орындарға ие болды.
Жергілікті орналастыру үшін танымал фреймворктерге қолдау көрсетіледі: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді шектеулі аппараттық ресурстарда да қолдануға мүмкіндік береді.
Аналитикалық пікір: GLM-5.2 шығарылымы — open-source AI үшін маңызды қадам. 1 млн токендік контекст және 753 млрд параметр бұл модельді үздік коммерциялық шешімдермен қатар қояды. Алайда, негізгі мәселе — Zhipu AI модельдің үлкен көлемін ескере отырып, жергілікті құрылғыларда тұрақты өнімділікті қамтамасыз ете ала ма? Қалай болғанда да, бұл ұзақ мәтіндермен және күрделі агенттік тапсырмалармен жұмыс істейтін әзірлеушілер үшін жаңа көкжиектер ашады.