Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және 753 миллиард параметр — open-source модельдері үшін жаңа стандарт
Қытайлық әзірлеуші Zhipu AI өзінің флагмандық тілдік моделі GLM-5.2-ні ресми түрде ұсынды. Бұл модель ұзақ агенттік тапсырмаларды орындауға және күрделі бағдарламалау сценарийлеріне бағытталған. MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар бұл шешім әсерлі техникалық сипаттамаларының арқасында назар аудартты.
Техникалық мәліметтер: 753 млрд параметр және рекордтық контекст
GLM-5.2 1 миллион токендік контексттік терезеге ие — бұл модельге үлкен көлемді құжаттарды, ұзақ код тізбектерін немесе көп сатылы диалогтарды байланысты жоғалтпай өңдеуге мүмкіндік береді. Модельдің көлемі 753 млрд параметрді құрайды, бұл оны нарықтағы ең ірі open-source шешімдерімен қатарға қояды. Ағылшын және қытай тілдерінде генерациялау қолдау көрсетіледі.
Архитектура «пайымдау қарқындылығының» бірнеше деңгейін қамтиды: пайдаланушы жауап сапасы мен кідіріс арасындағы тепе-теңдікті икемді түрде реттей алады. Негізгі жаңалықтар — IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP (Multi-Token Prediction) қабаты. IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге келетін операциялар санын 2,9 есеге азайтады. MTP өз кезегінде растау ұзындығын 20%-ға дейін арттырады.
Бенчмарк нәтижелері: open-source модельдер арасында көшбасшылық
Үш негізгі тестте — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Стандартты бағдарламалау өнімділігі бенчмарктарында да ол бірінші орынды иеленіп, әзірлеуге арналған ең қуатты open-source моделі мәртебесін растады.
Модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыру үшін қолжетімді. Шектеулі ресурстармен жұмыс істейтін пайдаланушылар үшін llama.cpp, Ollama және LM Studio астында квантизациялар қарастырылған.
Сарапшылық пікір
GLM-5.2 шығарылымы — ашық AI модельдер сегменті үшін маңызды қадам. 1 млн токендік контекст деректердің үлкен көлемін талдау және күрделі бизнес процестерді автоматтандыру үшін жаңа мүмкіндіктер ашады. Алайда Rio 3.5 моделімен болған соңғы жанжалдан кейін, оның басқа шешімдердің тікелей бірігуі екені анықталғанда, нарық Zhipu AI әзірлемелерінің түпнұсқалығы мен тәуелсіздігін мұқият бақылайтын болады. Егер GLM-5.2 шынымен мәлімделген өнімділікті көрсетсе, бұл open-source LLM сегментіндегі күштердің арақатынасын өзгертуі мүмкін.