Қытайлық алып Zhipu AI компаниясы GLM-5.2 шығарды: 1 миллион токен контексті және ашық код
Қытайлық стартап Zhipu AI өзінің жаңа флагмандық тілдік моделі GLM-5.2-ні ресми түрде ұсынды. Бұл ашық бастапқы коды бар шешім ұзақ мерзімді агенттік тапсырмалар мен бағдарламалауға бағытталған және 1 миллион токендік контексттік терезеге ие. Модель MIT лицензиясы бойынша таратылады, бұл жергілікті орналастыру үшін кең мүмкіндіктер ашады.
Hugging Face-тегі сипаттамаларға сәйкес, GLM-5.2 — ағылшын және қытай тілдерінде мәтін генерациялауға арналған модель, оның 753 миллиард параметрі бар. Әзірлеушілер архитектураға «ойлау қарқындылығының» бірнеше деңгейін енгізді, бұл пайдаланушыға жауап сапасы мен кідіріс арасында икемді таңдау жасауға мүмкіндік береді. Негізгі инновацияларға IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты кіреді.
Команданың мәлімдеуінше, IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есеге азайтады. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады. Бұл оңтайландырулар модельді тек өнімдірек етіп қана қоймай, сонымен қатар есептеу ресурстары тұрғысынан үнемді етеді.
Тестілеуде GLM-5.2 әсерлі нәтижелер көрсетеді. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — модель барлық басқа open-source шешімдерден озып шықты. Сонымен қатар, бағдарламалау өнімділігінің стандартты тесттерінде де ол ашық модельдер арасында көшбасшылық орынды иеленді.
Жергілікті орналастыру үшін GLM-5.2 SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдайды. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді. Бұл модельді әзірлеушілер мен зерттеушілердің кең ауқымына қолжетімді етеді.
Менің сараптамалық пікірім: GLM-5.2 шығарылымы — нарық үшін маңызды сигнал. Zhipu AI батыс бәсекелестерін қуып жетіп қана қоймай, IndexShare сияқты бірегей техникалық шешімдерді ұсынады, бұл үлкен тілдік модельдермен жұмыс істеу экономикасын өзгертуі мүмкін. Ашық MIT лицензиясы және жергілікті орналастыруды қолдау бұл модельді әсіресе деректер қауіпсіздігі мен инфрақұрылымды бақылау маңызды болып табылатын корпоративтік сектор үшін тартымды етеді. Кейбір жобалар, мысалы, жақындағы Rio 3.5, плагиат айыптауларына тап болған кезде, Zhipu AI дербес және терең инженерлік жұмысты көрсетеді.