Zhipu AI GLM-5.2 моделін ұсынды: 1 миллион токендік контексттік терезе және ашық бастапқы AI-дағы серпіліс
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмаларды орындауға және бағдарламалауға бағытталған өзінің флагмандық GLM-5.2 тілдік моделін ресми түрде іске қосты. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім 1 миллион токендік контекстік терезені ұсынады, бұл бір сұраныста үлкен көлемдегі ақпаратты өңдеуге мүмкіндік береді.
Hugging Face платформасында қолжетімді модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауды қолдайды. Алайда GLM-5.2-нің негізгі ерекшелігі — пайдаланушыға жауап сапасы мен кідіріс уақыты арасындағы тепе-теңдікті таңдауға мүмкіндік беретін икемді «пайымдау қарқындылығы» жүйесі. Архитектураға сонымен қатар IndexShare инновациялық механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген.
Әзірлеушілердің мәліметтері бойынша, IndexShare сирек кездесетін назарды оңтайландырады, әрбір төрт қабатқа бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есеге азайтады. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл жоғары дәлдікті қажет ететін тапсырмалар үшін өте маңызды.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық басқа open-source модельдерден асып түсіп, автоматтандырылған бағдарламалау саласындағы көшбасшылығын растады. Кодтау бойынша стандартты өнімділік тесттерінде де ол ашық аналогтар арасында бірінші орынды иеленді.
Жергілікті орналастыру үшін GLM-5.2 SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдайды. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді шектеулі ресурстары бар жабдықта да пайдалануға жарамды етеді.
Сарапшылық пікір: GLM-5.2 шығарылымы — бұл жай ғана кезекті хабарландыру емес, бұл open-source AI модельдерінің енді проприетарлық алыптардан кем түспейтінін көрсететін стратегиялық қадам. 1 миллион токендік контекст және озық пайымдау механизмдері орталықсыздандырылған қосымшалар мен автономды агенттер үшін жаңа көкжиектер ашады. Алайда нақты күрес әзірлеушілер экожүйесі үшін өрбиді: Zhipu AI GLM-5.2 айналасында Llama немесе Qwen сияқты қауымдастық құра ала ма? Бұл әзірге үлкен сұрақ.