Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контекст және агенттік тапсырмаларға арналған архитектуралық инновациялар
Қытайлық стартап Zhipu AI өзінің жаңа флагмандық GLM-5.2 тілдік моделін ұсынды, ол ұзақ агенттік тапсырмалар мен бағдарламалауды шешуге арналған. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім жергілікті орналастыру үшін қолжетімді және 1 миллион токенге дейінгі контексттік терезені қолдайды.
Модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға бағытталған. GLM-5.2-нің негізгі ерекшеліктерінің бірі «ойлау қарқындылығының» бірнеше деңгейін қолдау болды, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасында икемді теңгерім жасауға мүмкіндік береді.
Архитектуралық инновациялар IndexShare механизмін және спекулятивті декодтау үшін жаңартылған MTP қабатын қамтиды. Әзірлеушілер IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады деп мәлімдейді. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл жоғары дәлдік пен ұзақ тізбектерді қажет ететін тапсырмалар үшін өте маңызды.
FrontierSWE, PostTrainBench және SWE-Marathon бенчмарктарында GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден сенімді түрде озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында ол ашық бастапқы шешімдер арасында да көшбасшылық позицияны иеленді. Бұл Zhipu AI моделінің нақты әзірлеу сценарийлерінде практикалық қолданылуына баға бергенін растайды.
GLM-5.2 SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыруды қолдайды. Шектеулі ресурстармен жұмыс істейтін пайдаланушылар үшін llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді.
Менің сараптамалық пікірім: Бұл релиз — бұл жай ғана кезекті ашық бастапқы модель емес, күшті AI құралдарын демократияландыру бағытындағы маңызды қадам. 1 млн токен контекстінің икемді архитектурамен үйлесуі GLM-5.2-ні жабық шешімдерге, әсіресе күрделі агенттік тапсырмаларды автоматтандыру және бағдарламалық жасақтаманы әзірлеу саласында, елеулі бәсекелес етеді.