Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және агенттерге арналған архитектурасы бар Қытай алыбы
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмалар мен бағдарламалауға бағытталған GLM-5.2 флагмандық тілдік моделін ұсынды. Бұл ашық бастапқы коды бар шешім 1 миллион токендік контекстік терезе, MIT лицензиясы және жергілікті орналастыруды толық қолдауды ұсынады.
Hugging Face платформасында модель ағылшын және қытай тілдеріне арналған генеративті ретінде көрсетілген. Оның көлемі таңқаларлық — 753 миллиард параметр. GLM-5.2 «пайымдау қарқындылығының» бірнеше деңгейін қолдайды, бұл жауап сапасы мен кідіріс уақыты арасында икемді теңгерімге мүмкіндік береді.
Архитектура инновациялық компоненттерді қамтиды: IndexShare механизмі және спекулятивті декодтауға арналған жаңартылған MTP қабаты. IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есе азайтады. MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл күрделі көп қадамды тапсырмалар үшін маңызды.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық басқа open-source модельдерін сенімді түрде басып озды. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық аналогтар арасында көшбасшылық орынға ие болды.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы мәлімделген. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді кең ауқымды әзірлеушілерге қолжетімді етеді.
Менің талдауым: GLM-5.2 шығарылымы — ашық жасанды интеллект модельдері индустриясы үшін маңызды қадам. 1 миллион токендік контекст және агенттік тапсырмаларға оңтайландырылған архитектура Zhipu AI-ды жетекші әлемдік зертханалармен қатар қояды. Алайда, қытайлық модельдер көбінесе қосымша цензура мен сүзгіден өтетінін есте ұстаған жөн, бұл олардың сезімтал салаларда қолданылуын шектеуі мүмкін. Дегенмен, бағдарламалау және ұзақ мерзімді аналитикалық тапсырмалар үшін бұл назар аударуға тұрарлық қуатты құрал.