GLM-5.2 Zhipu AI компаниясынан: 753 миллиард параметрі және 1 миллион токен контексті бар Қытай алыбы
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл ашық бастапқы коды бар, ұзақ агенттік тапсырмалар мен бағдарламалауға бағытталған шешім Hugging Face-те қолжетімді. Модель 1 млн токендік әсерлі контексттік терезеге ие және MIT лицензиясы бойынша таратылады, бұл жергілікті орналастыру үшін кең мүмкіндіктер ашады.
GLM-5.2 архитектурасы 753 млрд параметрді қамтиды және ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. Негізгі ерекшелігі — «ойлау қарқындылығын» реттеу мүмкіндігі. Бұл пайдаланушыларға жауап сапасы мен кідіріс арасындағы тепе-теңдікті икемді түрде реттеуге мүмкіндік береді, бұл нақты өндірістік сценарийлер үшін өте маңызды.
Модельге екі инновациялық компонент біріктірілген: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты. IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға арттырады. Бұл оңтайландырулар GLM-5.2-ні тек қуатты ғана емес, сонымен қатар экономикалық тиімді етеді.
Өнімділік және бенчмарктар
Тестілеу нәтижелері әсерлі. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында көшбасшылық позицияны иеленді.
GLM-5.2 SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыру үшін қолжетімді. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолдау көрсетіледі, бұл модельді шектеулі ресурстары бар жабдықта да қолжетімді етеді.
Менің сараптамалық пікірім: GLM-5.2 — бұл үлкен контексті бар кезекті модель ғана емес. Бұл Zhipu AI-дің агенттік жүйелер мен кодты автоматтандыру тауашасын басып алуға бағытталған стратегиялық қадамы. Ашық MIT лицензиясының, икемді ойлау параметрлерінің және әсерлі бенчмарктардың үйлесімі оны жабық шешімдерге күрделі бәсекелес етеді. Алайда, 753 млрд параметр инфрақұрылым үшін сын екенін және нақты табыс қауымдастықтың модельді өз қажеттіліктеріне қаншалықты тиімді бейімдей алатынына байланысты болатынын атап өткен жөн.