Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және ашық коды бар қытайлық алып
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл ашық бастапқы коды бар, ұзақ агенттік тапсырмалар мен бағдарламалауға бағытталған шешім. Басты ерекшелігі — 1 миллион токен көлеміндегі контекстік терезе, бұл байланыстылықты жоғалтпай үлкен деректер массивтерін өңдеуге мүмкіндік береді. Модель MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды, бұл оны әзірлеушілердің кең ауқымы үшін қолжетімді етеді.
Техникалық сипаттамаларға сәйкес, GLM-5.2 753 миллиард параметрге ие және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. Әзірлеушілер «ойлау қарқындылығының» бірнеше деңгейін енгізді, бұл жауап сапасы мен кідіріс уақыты арасында икемді теңгерімге мүмкіндік береді. Архитектураға сонымен қатар IndexShare технологиялары және спекулятивті декодтау үшін жаңартылған MTP қабаты интеграцияланған. Команданың мәлімдемесі бойынша, IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланып, токенге операциялар санын 2,9 есе азайтады. Өз кезегінде, жақсартылған MTP растау ұзындығын 20%-ға дейін арттырады.
Тестілеу нәтижелері таңқаларлық. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты тесттерінде де ол open-source шешімдер арасында жетекші орынға ие болды. Бұл Zhipu AI инженерлік тапсырмалар үшін жай ғана үлкен емес, сонымен қатар шынымен тиімді модель жасай алғанын растайды.
GLM-5.2 жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдайды. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді. Осылайша, модельді қуатты серверлерде де, қарапайым тұтынушылық құрылғыларда да іске қосуға болады.
Менің сараптамалық пікірім: GLM-5.2 — ашық ЖИ модельдер сегментіндегі маңызды қадам. 1 млн токен контексті ашық MIT лицензиясымен үйлескенде, оны үлкен құжаттарды немесе ұзақ журналдарды өңдеуді қажет ететін enterprise-сектор үшін тартымды етеді. Алайда басты сын — Llama және Qwen сияқты қалыптасқан шешімдермен бәсекелестік. Егер Zhipu AI жабық модельдер деңгейінде тұрақты сапаны қамтамасыз ете алса, бұл нарықтағы күштердің арақатынасын өзгертуі мүмкін.