Zhipu AI компаниясының GLM-5.2: қытайлық стартап 1 миллион токен контексті бар open-source моделін ұсынды
Қытайлық Zhipu AI стартапы ұзақ агенттік тапсырмалар мен бағдарламалауға бағытталған өзінің ең жаңа GLM-5.2 тілдік моделін ресми түрде іске қосты. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім 1 миллион токендік контексттік терезені ұсынады және жергілікті орналастыруды қолдайды.
Hugging Face платформасында қолжетімді модель ағылшын және қытай тілдерінде мәтін генерациялауға арналған және 753 миллиард параметрден тұрады. Бұл оны нарықтағы ең ірі open-source модельдерінің біріне айналдырады.
GLM-5.2 архитектурасы «ойлау қарқындылығының» бірнеше деңгейін қамтиды, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында таңдау жасауға мүмкіндік береді. Негізгі жаңалықтар — IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP (Multi-Token Prediction) қабаты. IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге операциялар санын 2,9 есеге азайтады. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға дейін арттырады.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орындарды иеленді.
GLM-5.2 жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарына қолдау көрсетіледі. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді әртүрлі жабдықта икемді пайдалануға мүмкіндік береді.
Менің сараптамалық пікірім: GLM-5.2 шығарылымы — бұл ашық бастапқы коды бар AI үшін, әсіресе бағдарламалау сегментінде, маңызды қадам. 1 млн токендік контекст кодты талдау және үлкен жобалармен жұмыс істеу үшін жаңа мүмкіндіктер ашады. Алайда, мұндай үлкен модель (753 млрд параметр) елеулі есептеу ресурстарын қажет етеді, бұл оның жаппай енгізілуін шектеуі мүмкін. Дегенмен, MIT лицензиясы және жергілікті орналастыруды қолдау GLM-5.2-ні бұлтты провайдерлерден тәуелсіз болуға ұмтылатын әзірлеушілер үшін тартымды балама етеді.