Қытайдың жасанды интеллект алыбы Zhipu AI GLM-5.2 шығарды: 1 миллион токендік контекст және ашық код
Қытайлық Zhipu AI стартапы өзінің жаңа флагмандық тілдік моделі — GLM-5.2-ні ресми түрде ұсынды. Бұл ашық бастапқы коды бар шешім, ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған. Негізгі ерекшелігі — 1 миллион токендік контекстік терезе, бұл модельге үлкен көлемді құжаттарды, код базаларын және күрделі диалогтарды өзектілігін жоғалтпай өңдеуге мүмкіндік береді.
Модель MIT лицензиясы бойынша таратылады, бұл әзірлеушілерге коммерциялық және зерттеу мақсатында пайдалану үшін барынша еркіндік береді. Hugging Face платформасында GLM-5.2 ағылшын және қытай тілдеріне арналған генеративті модель ретінде жарияланған, оның көлемі 753 миллиард параметрді құрайды.
Архитектуралық инновациялар және өнімділік
GLM-5.2-де «ойлау қарқындылығының» бірнеше деңгейіне қолдау көрсетілген — пайдаланушы жауап сапасы мен кідіріс арасындағы теңгерімді таңдай алады. Архитектураға IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген. Әзірлеушілердің мәліметінше, IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдалануға мүмкіндік береді, бұл токенге шаққандағы операциялар санын 2,9 есеге азайтады. MTP жаңартуы растау ұзындығын 20%-ға арттырады, бұл инференсті айтарлықтай жылдамдатады.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық қолданыстағы open-source модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты сынақтарында да ол көшбасшылық позицияларды иеленіп, осы сегменттегі ең қуатты ашық модель мәртебесін растады.
Қолжетімділік және орналастыру
GLM-5.2 жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner фреймворктарын қолдайды. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді шектеулі аппараттық ресурстарда да пайдалануға жарамды етеді.
Менің сараптамалық пікірім: GLM-5.2 шығарылымы — бүкіл AI нарығына маңызды сигнал. Қытайлық әзірлеушілер тек қуып жетіп қана қоймай, кей жерлерде open-source сегментінде батыстық бәсекелестерден озып кетті. 1 млн токендік контекст және ашық MIT лицензиясы кезіндегі 753 млрд параметр — бұл Llama және басқа аналогтардың үстемдігіне тікелей қауіп. Инвесторлар мен әзірлеушілер бұл жобаны мұқият қадағалауы керек: ол агенттік жүйелер мен кодтау үшін жаңа стандартқа айналуы мүмкін.