Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контексті және ашық MIT лицензиясы бар Қытай алыбы
Қытайлық стартап Zhipu AI өзінің флагмандық тілдік моделі GLM-5.2-ні ресми түрде ұсынды, ол ұзақ агенттік тапсырмаларды орындауға және бағдарламалауға бағытталған. Бұл ашық бастапқы коды бар шешім, ол Hugging Face платформасында қолжетімді, 1 млн токендік контексттік терезесімен және MIT лицензиясымен ерекшеленеді, бұл оны жергілікті орналастыру үшін пайдалануға мүмкіндік береді.
753 млрд параметрі бар модель ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. GLM-5.2-нің негізгі ерекшелігі - «ойлау қарқындылығын» реттеу мүмкіндігі: пайдаланушы жауаптың жоғары сапасы мен ең аз кідіріс арасында таңдай алады, бұл нақты қосымшалар үшін өте маңызды.
Архитектуралық инновациялар
GLM-5.2 негізіне екі маңызды жақсарту енгізілген: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты. IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдалануға мүмкіндік береді, бұл токенге шаққандағы операциялар санын 2,9 есе азайтады. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл ұзақ тізбектерді өңдеуді жылдамдатады.
FrontierSWE, PostTrainBench және SWE-Marathon бенчмарктарында GLM-5.2 барлық қолданыстағы ашық бастапқы кодты модельдерден басымдылығын көрсетті. Бағдарламалау өнімділігінің стандартты сынақтарында ол ашық аналогтар арасында да көшбасшылық позицияны иеленді.
Қолжетімділік және орналастыру
Модель MIT лицензиясы бойынша таратылады, бұл коммерциялық пайдалану үшін кең мүмкіндіктер ашады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл GLM-5.2-ні шектеулі жабдықта да іске қосуға мүмкіндік береді.
Сарапшы пікірі: GLM-5.2 шығарылымы - бұл жай ғана кезекті жаңарту емес, Қытайдың AI саласындағы көшбасшылық үшін күресіндегі стратегиялық қадам. 1 млн токендік контекст ашық MIT лицензиясымен үйлескенде әзірлеушілерге, әсіресе бағдарламалау және ұзақ агенттік тапсырмалар саласында қуатты құрал жасайды. Дегенмен, модельдің табысы тек техникалық сипаттамаларға ғана емес, сонымен қатар Zhipu AI оның айналасында құра алатын экожүйеге де байланысты болатынын атап өткен жөн.