Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контексттік терезе және агенттік тапсырмалар үшін ашық код
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмаларды орындауға және күрделі бағдарламалауға бағытталған өзінің жаңа флагмандық GLM-5.2 тілдік моделін ұсынды. MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім 1 млн токен көлеміндегі контексттік терезені ұсынады, бұл үлкен құжаттармен және кодпен жұмыс істеу мүмкіндіктерін түбегейлі кеңейтеді. Модель деректер қауіпсіздігіне талаптары бар корпоративтік пайдаланушылар үшін өте маңызды жергілікті орналастыруды қолдайды.
Hugging Face спецификациясына сәйкес, GLM-5.2 753 млрд параметрден тұрады және ағылшын және қытай тілдерінде мәтін шығарады. Негізгі ерекшелігі — жауап сапасы мен кідіріс арасындағы тепе-теңдікті сақтауға мүмкіндік беретін реттелетін «ойлау қарқындылығы». Архитектураға спекулятивті декодтау үшін IndexShare механизмдері және жаңартылған MTP (Multi-Token Prediction) қабаты біріктірілген. IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады. MTP өз кезегінде растау ұзындығын 20%-ға дейін арттырады.
FrontierSWE, PostTrainBench және SWE-Marathon бенчмарктарында GLM-5.2 барлық қолданыстағы open-source модельдерден асып түсті. Бағдарламалаудың стандартты өнімділік сынақтарында ол бәсекелестер арасында да көшбасшы орындарға ие болды. Модель SGLang, vLLM, Transformers, KTransformers және Docker Model Runner арқылы жергілікті орналастыру үшін қолжетімді, сонымен қатар llama.cpp, Ollama және LM Studio үшін квантизацияны қолдайды.
Бұл релиз — Zhipu AI компаниясының ашық AI модельдер нарығындағы позициясын нығайтудағы кезекті қадамы. Менің ойымша, GLM-5.2 ұзақ контексттермен жұмыс істейтін әзірлеушілер үшін ерекше қызықты: 1 млн токен байланыстылықты жоғалтпай тұтас код базаларын немесе техникалық құжаттаманы өңдеуге мүмкіндік береді.