Қытайлық серпіліс: Zhipu AI компаниясының 1 млн токен контексті бар GLM-5.2 моделі ойын ережелерін өзгертеді
Қытайлық Zhipu AI стартапы күрделі агенттік тапсырмалар мен бағдарламалауға бағытталған жаңа флагмандық тілдік моделі GLM-5.2-ні ұсынды. Ашық бастапқы коды бар бұл шешім 1 миллион токендік контекстік терезесімен таң қалдырады, бұл деректердің ұзын тізбектерін өңдеу үшін жаңа мүмкіндіктер ашады. Модель MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды, бұл оны әзірлеушілердің кең ауқымына қолжетімді етеді.
Hugging Face спецификациясына сәйкес, GLM-5.2 — ағылшын және қытай тілдерінде мәтін генерациялауға арналған, 753 миллиард параметрі бар модель. Мұндай архитектура оған контексті терең түсінуді қажет ететін тапсырмаларда ерекше нәтижелер көрсетуге мүмкіндік береді.
GLM-5.2-нің негізгі ерекшеліктерінің бірі — «пайымдау қарқындылығының» бірнеше деңгейін қолдау, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында таңдау жасауға икемділік береді. Архитектураға инновациялар енгізілген: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP (Multi-Token Prediction) қабаты. Әзірлеушілер IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдалануға мүмкіндік беретінін, токенге операциялар санын 2,9 есе азайтатынын айтады. Өз кезегінде, MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл генерацияны айтарлықтай жылдамдатады.
FrontierSWE, PostTrainBench және SWE-Marathon сияқты бенчмарктарда GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол көшбасшылық позицияны иеленіп, бүгінгі күнге дейінгі ең қуатты open-source моделі мәртебесін растады.
GLM-5.2 SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарын қолдай отырып, жергілікті орналастыру үшін қолжетімді. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл интеграцияны жеңілдетеді.
Менің талдауым: GLM-5.2 шығарылымы — open-source AI үшін маңызды қадам. 1 млн токендік контекст және архитектуралық оңтайландырулар бұл модельді меншікті шешімдерге байыпты бәсекелес етеді. Алайда, параметрлердің ауқымын ескере отырып, жергілікті орналастыру айтарлықтай есептеу ресурстарын қажет етеді, бұл оның шағын командалар үшін қолданылуын шектеуі мүмкін. Дегенмен, Zhipu AI агенттік AI жүйелері үшін жаңа стандарт белгілейді.