Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және open-source саласындағы төңкеріс
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмаларды орындауға және бағдарламалауға бағытталған жаңа флагмандық GLM-5.2 тілдік моделін ұсынды. Ашық бастапқы коды бар бұл шешім 1 млн токендік контекстік терезеге, MIT лицензиясына және жергілікті орналастыру мүмкіндігіне ие — бұл сала үшін маңызды қадам.
Hugging Face деректері бойынша, GLM-5.2 — ағылшын және қытай тілдерінде мәтін генерациялауға арналған, 753 млрд параметр көлеміндегі орасан зор модель. Мұндай архитектура контекстті терең түсінуді қажет ететін күрделі сценарийлерді өңдеуге мүмкіндік береді, бұл кодты әзірлеу және талдау үшін өте маңызды.
Негізгі жаңалық — «ойлау қарқындылығының» бірнеше деңгейін қолдау, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында таңдау жасауға икемділік береді. Архитектураға IndexShare және болжамды декодтау үшін жаңартылған MTP қабаты енгізілген. Әзірлеушілердің айтуынша, IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге шаққандағы операциялар санын 2,9 есеге азайтады. MTP жаңартуы растау ұзындығын 20%-ға арттырады — бұл генерацияны айтарлықтай жылдамдатады.
FrontierSWE, PostTrainBench және SWE-Marathon бенчмарктарында GLM-5.2 барлық басқа open-source модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ашық шешімдер арасында көшбасшылық позицияны иеленді. Бұл Zhipu AI компаниясы жай ғана кезекті модель емес, практикалық тапсырмаларда бәсекелестерден нақты басым түсетін құрал жасай алғанын растайды.
GLM-5.2 MIT лицензиясы бойынша таратылады, бұл коммерциялық пайдалану үшін кең мүмкіндіктер ашады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді — бұл қолданыстағы инфрақұрылымдарға интеграцияны жеңілдетеді.
Аналитикалық пікір: Бұл релиз open-source AI нарығындағы күштер тепе-теңдігінің өзгеруін білдіреді. Қытайлық әзірлеушілер әсерлі техникалық сипаттамалары бар шешімдерді ұсына отырып, батыстық алыптарға белсенді түрде қарсылық көрсетуде. Алайда, 753 млрд параметр жергілікті орналастыру үшін қиындық туғызатынын атап өткен жөн: әрбір пайдаланушы мұндай модельді өз жабдығында іске қоса алмайды. Дегенмен, квантизацияны және икемді ойлау режимдерін қолдау GLM-5.2-ні елеулі есептеу ресурстарына инвестиция салуға дайын адамдар үшін тартымды етеді.