Крипто әлеміндегі жаңалықтар

Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл ұзақ агенттік тапсырмалар мен бағдарламалауға бағытталған ашық бастапқы коды бар шешім. Негізгі ерекшелігі — 1 миллион токенге дейінгі контекстік терезе, бұл сапаны жоғалтпай үлкен деректер массивтерін өңдеуге мүмкіндік береді.

Модель 753 миллиард параметрден тұрады және ағылшын және қытай тілдерінде мәтін генерациялауға арналған. Әзірлеушілер GLM-5.2-нің MIT еркін лицензиясы бойынша таратылатынын атап өтеді, бұл жергілікті орналастыру мен теңшеуге мүмкіндік береді.

Архитектура бірнеше бірегей механизмдерді қамтиды. Атап айтқанда, IndexShare технологиясы сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есеге азайтады. Спекулятивті декодтауға арналған жаңартылған MTP қабаты растау ұзындығын 20%-ға арттырады, бұл генерация жылдамдығына тікелей әсер етеді.

Өнімділік сынақтарында GLM-5.2 әсерлі нәтижелер көрсетті. Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — модель барлық басқа open-source шешімдерден озып шықты. Стандартты бағдарламалау сынақтарында да ол ашық модельдер арасында көшбасшылық позицияны иеленді.

Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланды. Llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді әртүрлі жабдықта икемді пайдалануға мүмкіндік береді.

Сарапшылық пікір: GLM-5.2 — бұл ИИ-дің open-source сегменті үшін маңызды қадам. 1 млн токендік контекст және жетілдірілген назар аудару архитектурасы оны тек бағдарламалау тапсырмаларында ғана емес, сонымен қатар корпоративтік және қаржылық қосымшалар үшін өте маңызды ұзақ құжаттарды талдауда да бәсекеге қабілетті етеді. Алайда, мұндай ауқымды модельді — 753 млрд параметрді тиімді жергілікті орналастыру негізгі қиындық болып қала береді, өйткені ол айтарлықтай есептеу ресурстарын қажет етеді.