Zhipu AI компаниясының GLM-5.2 моделі: 1 миллион токен контекстімен қытайлық алып open-source нарығына сын тастайды
Қытайлық AI-стартап Zhipu AI ұзақ агенттік тапсырмаларды орындауға және күрделі бағдарламалауға бағытталған өзінің флагмандық тілдік моделі GLM-5.2-ні ресми түрде ұсынды. Бұл ашық бастапқы коды бар шешім 1 миллион токендік контекстік терезені ұсынады, MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды.
Техникалық сипаттамалар және архитектура
Hugging Face деректері бойынша, модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. GLM-5.2-нің негізгі ерекшелігі — «ойлау қарқындылығының» бірнеше деңгейін қолдау, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасында икемді теңгерім жасауға мүмкіндік береді. Архитектураға сонымен қатар IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген.
Әзірлеушілер IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге келетін операциялар санын 2,9 есеге азайтады деп мәлімдейді. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға дейін арттырады, бұл тізбектерді өңдеуді айтарлықтай жылдамдатады.
Өнімділік және бенчмарктар
Үш негізгі тестте — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық қолданыстағы модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты бенчмарктарында ол open-source шешімдер арасында да көшбасшы орынға ие болды, бұл оның осы саладағы артықшылығын растайды.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарын қолдау қолжетімді. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді әртүрлі жабдықта пайдалануға икемді етеді.
Сарапшылық пікір
GLM-5.2 шығарылымы — бұл жай ғана кезекті релиз емес, Zhipu AI компаниясының open-source LLM сегментінде көшбасшылық үшін күрестегі стратегиялық қадамы. 1 млн токендік контексті өңдеу мүмкіндігі бағдарламалау тапсырмаларындағы жоғары өнімділікпен үйлесіп, бұл модельді Meta LLaMA және Mistral сияқты алыптарға байыпты бәсекелес етеді. Дегенмен, IndexShare және MTP-дің өндірістік ортадағы нақты тиімділігін мұқият бақылау қажет — әзірлеушілердің теориялық мәлімдемелері әрқашан тәжірибеде растала бермейді.