Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және MIT лицензиясы бар open-source модельдердің жаңа дәуірі
Қытайлық Zhipu AI стартапы ұзақ агенттік тапсырмалар мен бағдарламалауға бағытталған өзінің флагмандық GLM-5.2 тілдік моделін ұсынды. Ашық бастапқы коды бар бұл шешім 1 млн токендік контекстік терезесімен жабдықталған, MIT лицензиясы бойынша таратылады және жергілікті орнатуды қолдайды.
Hugging Face платформасында модель ағылшын және қытай тілдерінде мәтін генерациялау құралы ретінде сипатталған. GLM-5.2 көлемі 753 млрд параметрді құрайды, бұл оны ең ірі open-source аналогтарымен қатарға қояды.
Архитектуралық инновациялар мен өнімділік
GLM-5.2 «ойлау қарқындылығының» бірнеше деңгейін ұсынады, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында икемді теңгерімге мүмкіндік береді. Архитектураға IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты енгізілген. Әзірлеушілердің мәліметінше, IndexShare әрбір төрт сирек назар қабатына бір индексаторды қайта пайдаланады, бұл токенге операциялар санын 2,9 есе азайтады. MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады.
Негізгі бенчмарктерде — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты тесттерінде де ол open-source шешімдер арасында көшбасшылық позицияны иеленді.
Қолжетімділік және орнату
GLM-5.2 ашық MIT лицензиясы бойынша таратылады, бұл оны әзірлеушілердің кең ауқымына қолжетімді етеді. Жергілікті орнату үшін танымал фреймворктерге қолдау көрсетілген: SGLang, vLLM, Transformers, KTransformers және Docker Model Runner. Сондай-ақ llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл қолданыстағы жобаларға интеграцияны жеңілдетеді.
Менің сараптамалық пікірім: GLM-5.2 open-source модельдерінің меншікті шешімдерді қуып қана қоймай, бағдарламалау және ұзақ контекстермен жұмыс істеу сияқты мамандандырылған тапсырмаларда олардан асып түсетінін көрсетеді. MIT лицензиясы және жергілікті орнатуды қолдау бұл модельді деректерді бақылау маңызды болып табылатын корпоративтік сектор үшін ерекше тартымды етеді. Алдағы айларда GLM-5.2 нақты бизнес-процестерге енгізілу толқынын көретініміз әбден мүмкін.