Қытайлық алып Zhipu AI компаниясы GLM-5.2 шығарды: 753 миллиард параметр және 1 миллион токен контексті
Қытайлық технологиялық стартап Zhipu AI өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл MIT лицензиясы бойынша таратылатын ашық бастапқы кодты шешім ұзақ мерзімді агенттік тапсырмаларды орындауға және күрделі бағдарламалауға бағытталған. Негізгі ерекшелігі — 1 миллион токендік контексттік терезе, бұл модельге байланысты жоғалтпай үлкен көлемдегі деректерді өңдеуге мүмкіндік береді.
Hugging Face-те жарияланған сипаттамаларға сәйкес, GLM-5.2 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациясын қолдайды. Модель архитектурасы «ойлау қарқындылығының» бірнеше деңгейін қамтиды, бұл пайдаланушыларға жауап сапасы мен өңдеу жылдамдығы (кешігу) арасында таңдау жасауға икемділік береді.
Техникалық инновациялар және өнімділік
GLM-5.2 негізінде екі негізгі жаңалық жатыр: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты. Әзірлеушілер IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдалануға мүмкіндік беретінін, токенге операциялар санын 2,9 есе азайтатынын мәлімдейді. Өз кезегінде, жақсартылған MTP растау ұзындығын 20%-ға дейін арттырады, бұл дәлдік пен дәйектілікті талап ететін тапсырмалар үшін өте маңызды.
Нақты бағдарламалау және агенттік тапсырмаларды шешу қабілеттерін өлшейтін бенчмарктерде — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық қолданыстағы open-source модельдерден сенімді түрде озып шықты. Ол сондай-ақ бағдарламалау өнімділігінің стандартты сынақтарында ең қуатты ашық модельге айналды.
Қолжетімділік және орналастыру
Модель жергілікті орналастыру үшін қолжетімді және кең ауқымды құралдарды қолдайды: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. Сонымен қатар, шектеулі есептеу ресурстарымен жұмыс істейтін пайдаланушылар үшін llama.cpp, Ollama және LM Studio астында квантизациялар қарастырылған.
Менің талдауым: GLM-5.2 шығарылымы — бұл бүкіл AI нарығына маңызды сигнал. Zhipu AI батыс бәсекелестерін қуып жетіп қана қоймай, кейбір аспектілерде, әсіресе ұзақ контекстпен және агенттік сценарийлермен жұмыс істеуде, алға шығып отыр. Ашық MIT лицензиясы және жергілікті орналастыруды қолдау бұл модельді бұлтты провайдерлерден тәуелсіз болуға ұмтылатын әзірлеушілер үшін өте тартымды етеді. Дегенмен, 753 миллиард параметр айтарлықтай аппараттық ресурстарды қажет ететінін есте ұстаған жөн, бұл оның жақын арада жаппай енгізілуін шектеуі мүмкін.