Қытайлық алып Zhipu AI компаниясы GLM-5.2 шығарды: 1 млн токен контексті және ашық код
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ұсынды. Бұл шешім ұзақ агенттік сценарийлер мен бағдарламалау міндеттеріне бағытталған. Модель MIT лицензиясы бойынша ашық бастапқы кодпен таратылады, бұл оны әзірлеушілер мен зерттеушілердің кең ауқымына қолжетімді етеді.
GLM-5.2-нің басты ерекшелігі — 1 миллион токендік контексттік терезе. Бұл модельге үлкен көлемдегі ақпаратты өңдеуге мүмкіндік береді, бұл күрделі аналитикалық міндеттер мен үлкен құжаттармен жұмыс істеу үшін өте маңызды. Hugging Face платформасында модель ағылшын және қытай тілдерінде мәтін генерациялау құралы ретінде көрсетілген. Оның көлемі таңқаларлық — 753 миллиард параметр.
Архитектуралық жаңалықтар мен өнімділік
GLM-5.2 «ойлау қарқындылығының» икемді жүйесін ұсынады, бұл пайдаланушыға жауап сапасы мен кідіріс арасындағы теңгерімді таңдауға мүмкіндік береді. Архитектураға екі негізгі компонент біріктірілген: IndexShare және спекулятивті декодтау үшін жаңартылған MTP қабаты. Әзірлеушілердің мәліметінше, IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге келетін операциялар санын 2,9 есеге азайтады. Ал MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады.
FrontierSWE, PostTrainBench және SWE-Marathon бенчмарктарында GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орындарды иеленді.
Қолжетімділік және орналастыру
Модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыру үшін қолжетімді. Жеңіл фреймворктармен жұмыс істейтін пайдаланушылар үшін llama.cpp, Ollama және LM Studio астында квантизациялар қарастырылған. Бұл GLM-5.2-ні серверлік шешімдер үшін де, жеке жобалар үшін де икемді құрал етеді.
Менің сараптамалық талдауым: GLM-5.2-нің шығарылуы — open-source AI үшін маңызды қадам. 1 млн токендік контекст пен архитектуралық оңтайландырулар бұл модельді тек ашық шешімдер арасында ғана емес, сонымен қатар меншікті алыптармен салыстырғанда да бәсекеге қабілетті етеді. Алайда, «ашық» модельдерді мемлекеттік қаражатқа құрудың алдыңғы әрекеттері (Rio 3.5 жағдайындағыдай) плагиат туралы даулар тудырғанын атап өту маңызды. Zhipu AI ашық жолмен жүріп жатқан сияқты, бірақ нарыққа open-source модельдерінің түпнұсқалығын тексеру үшін әлі де нақты стандарттар қажет.