Zhipu AI компаниясының GLM-5.2: 1 миллион токен және 753 миллиард параметр — ашық AI модельдерінің жаңа стандарты
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі GLM-5.2-ні шығарды. Бұл ашық бастапқы коды бар, ұзақ мерзімді агенттік тапсырмалар мен бағдарламалауға бағытталған шешім, MIT лицензиясы бойынша қолжетімді. Негізгі ерекшелігі — 1 миллион токендік контексттік терезе, бұл байланыстылықты жоғалтпай үлкен деректер жиымдарын өңдеуге мүмкіндік береді.
Hugging Face-ке жүктелген модель ағылшын және қытай тілдерінде мәтін генерациялауға арналған. Оның көлемі 753 миллиард параметрді құрайды. GLM-5.2 «ойлау қарқындылығының» бірнеше деңгейін ұсынады, бұл пайдаланушыларға жауап сапасы мен кідіріс уақыты арасында икемді теңгерімге мүмкіндік береді.
Архитектураға екі негізгі жаңалық енгізілген: IndexShare және спекулятивті декодтау үшін жаңартылған MTP қабаты. IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады. MTP жаңартуы, өз кезегінде, растау ұзындығын 20%-ға дейін арттырады.
Тестілеу нәтижелері өздері үшін сөйлейді. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орынды иеленді.
Модель ашық MIT лицензиясы бойынша таратылады, бұл әзірлеушілер үшін көптеген құқықтық кедергілерді жояды. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл GLM-5.2-ні аппараттық конфигурациялардың кең ауқымына қолжетімді етеді.
Менің талдауым: GLM-5.2 — бұл open-source AI үшін маңызды қадам. 1 млн токендік контекст және 753 млрд параметр оны үздік меншікті модельдермен бір деңгейге қояды, ал MIT лицензиясы оны коммерциялық өнімдерге интеграциялау үшін өте қолайлы етеді. Алдағы айларда біз осы модельге негізделген шешімдердің, әсіресе кодты автоматтандыру және үлкен мәтіндерді талдау саласында толқынын көретін шығармыз.