Қытайлық стартап Zhipu AI GLM-5.2 моделін ұсынды: 1 миллион токен контексті және MIT ашық лицензиясы
Қытайлық Zhipu AI компаниясы ұзақ агенттік сценарийлер мен бағдарламалау тапсырмаларына бағытталған GLM-5.2 флагмандық тілдік моделін шығарды. Ашық бастапқы коды бар бұл шешім 1 миллион токендік контекстік терезе, MIT лицензиясы және жергілікті орналастыруды қолдау мүмкіндігін алды.
Техникалық сипаттамалар мен архитектура
Hugging Face сайтындағы спецификацияға сәйкес, GLM-5.2 ағылшын және қытай тілдерінде мәтін генерациялауға арналған. Модель параметрлерінің көлемі 753 миллиардты құрайды. Әзірлеушілер «ойлау қарқындылығының» бірнеше деңгейін енгізді, бұл жауап сапасы мен кідіріс арасында икемді теңгерімге мүмкіндік береді. Архитектураға сонымен қатар IndexShare механизмдері және спекулятивті декодтау үшін жаңартылған MTP қабаты интеграцияланған.
IndexShare әрбір төрт сирек назар аудару қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есеге азайтады. MTP жаңартуы растау ұзындығын 20%-ға дейін арттырады, бұл күрделі сценарийлерде инференсті айтарлықтай жылдамдатады.
Өнімділік және бенчмарктар
Үш негізгі тестте — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 барлық қолданыстағы open-source модельдерден асып түсті. Бағдарламалау өнімділігінің стандартты бенчмарктарында қытайлық әзірлеме ашық кодты аналогтар арасында да көшбасшылық орынға ие болды.
Қолжетімділік және орналастыру
GLM-5.2 ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. Сонымен қатар, llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл модельді тұтынушылық жабдықта пайдалануға жарамды етеді.
Сарапшы пікірі: GLM-5.2 шығарылымы ашық бастапқы коды бар ИИ модельдері жарысында маңызды кезеңді белгілейді. 1 миллион токендік контекст және MIT лицензиясы — бұл OpenAI мен Google-дің меншікті шешімдеріне тікелей сын. Дегенмен, негізгі мәселе осындай модельдің кәдімгі жабдықта практикалық қолданылуы болып қалады: 753 миллиард параметр, тіпті квантизацияны ескерсек те, айтарлықтай есептеу ресурстарын қажет етеді. Нарық агенттік бағдарламалаудың нақты тапсырмаларында өнімділіктің тәуелсіз сынақтарын күтеді.