Zhipu AI компаниясының GLM-5.2: 1 миллион токендік контексті бар ашық модельдердегі серпіліс
Қытайлық Zhipu AI стартапы ұзақ мерзімді агенттік тапсырмаларды орындауға және күрделі бағдарламалауға бағытталған өзінің жаңа флагмандық GLM-5.2 тілдік моделін ұсынды. Бұл ашық бастапқы коды бар шешім 1 миллион токендік контекстік терезеге ие, MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды.
Hugging Face бетіндегі модель парақшасында GLM-5.2 ағылшын және қытай тілдерінде мәтін генерациялауға арналғаны көрсетілген. Модель көлемі 753 миллиард параметрді құрайды — бұл бүгінгі күні open-source шешімдер арасындағы ең үлкен көрсеткіштердің бірі.
GLM-5.2-нің негізгі ерекшелігі «ойлау қарқындылығының» бірнеше деңгейін қолдау болды, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында икемді теңгерім жасауға мүмкіндік береді. Архитектураға инновациялық компоненттер: IndexShare және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген.
Әзірлеушілердің мәліметі бойынша, IndexShare сирек назар аударудың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге келетін операциялар санын 2,9 есеге азайтады. MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл генерацияны айтарлықтай жылдамдатады.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден сенімді түрде озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында жетекші орындарды иеленді.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады, бұл оны әзірлеушілердің кең ауқымы үшін қолжетімді етеді. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді шектеулі ресурстары бар жабдықта да іске қосуға мүмкіндік береді.
Сарапшының пікірі: GLM-5.2 шығарылымы — бұл жай ғана кезекті жаңарту емес, бүкіл ашық ЖИ экожүйесі үшін маңызды қадам. 1 млн токендік контекст және IndexShare сияқты архитектуралық инновациялар бұл модельді ұзын шақыру тізбектерімен және күрделі агенттік сценарийлермен жұмыс істейтін әзірлеушілер үшін ерекше тартымды етеді. Мен GLM-5.2 меншікті шешімдерге, әсіресе бағдарламалау және автоматтандыру тауашасында, байыпты бәсекелес болады деп күтемін.