Zhipu AI компаниясының GLM-5.2: 1 миллион токен контекстінде және ашық MIT лицензиясы
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмаларды орындауға және күрделі бағдарламалауға бағытталған өзінің ең жаңа флагмандық GLM-5.2 тілдік моделін ұсынды. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы коды бар шешім жергілікті орналастыру үшін қолжетімді және 1 миллион токенге дейінгі әсерлі контексттік терезені қолдайды.
Hugging Face платформасындағы техникалық құжаттамаға сәйкес, модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. Дегенмен, оның негізгі ерекшелігі — «пайымдау қарқындылығының» бірнеше деңгейлері арқылы жауап сапасы мен кідіріс арасында таңдау жасауға мүмкіндік беретін икемді архитектура.
Архитектуралық инновациялар: IndexShare және MTP
GLM-5.2-де сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланатын IndexShare механизмі енгізілген. Бұл токенге келетін операциялар санын 2,9 есеге азайтады. Сонымен қатар, жаңартылған MTP спекулятивті декодтау қабаты растау ұзындығын 20%-ға дейін арттырады, бұл генерацияның жоғары жылдамдығын қажет ететін тапсырмалар үшін өте маңызды.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден сенімді түрде озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол көшбасшылық позицияны иеленіп, бүгінгі күнге дейінгі ең қуатты open-source моделі мәртебесін растады.
Қолжетімділік және орналастыру
Модель ашық MIT лицензиясы бойынша таратылады, бұл оны коммерциялық және зерттеу жобаларында шектеусіз пайдалануға мүмкіндік береді. Жергілікті орналастыру үшін танымал фреймворктерге қолдау көрсетіледі: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл GLM-5.2-ні шектеулі ресурстары бар жабдықта жұмыс істеуге мүмкіндік береді.
Аналитик пікірі: 1 млн токен контексті және ашық лицензиясы бар GLM-5.2 шығарылымы — бұл open-source AI үшін маңызды қадам. Жергілікті орналастыру мүмкіндігі және пайымдау қарқындылығын икемді реттеу бұл модельді күрделі агенттік жүйелерді әзірлеушілер үшін ерекше тартымды етеді. Дегенмен, үлкен тілдік модельдер сегментіндегі бәсекелестік күшейіп келеді және Zhipu AI өзінің мәлімделген көрсеткіштерін тәжірибеде, әсіресе нақты пайдалану сценарийлерінде растауы қажет.