Zhipu AI GLM-5.2 моделін ұсынады: 1 миллион токендік контекст және ашық бастапқы AI-дағы төңкеріс
Қытайлық Zhipu AI стартабы ұзақ агенттік тапсырмаларды орындауға және күрделі бағдарламалауға арналған өзінің ең жаңа флагмандық GLM-5.2 тілдік моделін шығарды. Бұл MIT лицензиясы бойынша қолжетімді ашық бастапқы коды бар шешім 1 млн токендік контекстік терезені ұсынады және жергілікті орналастыруды қолдайды — бұл оны деректерді толық бақылауға ұмтылатын әзірлеушілер үшін ерекше тартымды етеді.
Hugging Face сайтындағы сипаттамаларға сәйкес, GLM-5.2 — ағылшын және қытай тілдерінде мәтін генерациялауға арналған, 753 млрд параметрлік орасан зор көлемі бар модель. Мұндай архитектура оған күрделі сұрауларды жоғары дәлдікпен өңдеуге мүмкіндік береді, бірақ мұндағы негізгі инновация — «пайымдау қарқындылығының» икемді жүйесі. Пайдаланушылар жауап сапасы мен кідіріс арасында таңдай алады, бұл чат-боттардан бастап автоматтандырылған агенттерге дейінгі нақты уақыттағы қосымшалар үшін өте маңызды.
GLM-5.2 архитектурасы екі принциптік жаңалықты қамтиды: IndexShare және спекулятивті декодтауға арналған жаңартылған MTP қабаты. IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге келетін операциялар санын 2,9 есе азайтады. Бұл үлкен контексті модельдер үшін масштабтау мәселесінің тікелей шешімі. MTP, өз кезегінде, растау ұзындығын 20%-ға арттырып, сапаны жоғалтпай генерацияны жылдамдатады.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол open-source шешімдер арасында көшбасшылық позицияны иеленді. Бұл Zhipu AI компаниясының жай ғана қуып жету дамуына емес, GPT-4 сияқты меншікті алыптармен бәсекелесе алатын құрал жасауға бағытталғанын растайды.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады, бұл оны коммерциялық жобаларда шектеусіз пайдалануға мүмкіндік береді. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді, бұл кәдімгі жабдықта интеграцияны жеңілдетеді.
Менің талдауым: GLM-5.2 — бұл жай ғана кезекті open-source модель емес, ЖИ-ді демократияландыруға бағытталған маңызды қадам. 1 млн токендік контекст үлкен құжаттарды, кодты және мультимодальды деректерді талдау үшін жаңа мүмкіндіктер ашады, ал MIT лицензиясы енгізуге кедергілерді азайтады. Дегенмен, 753 млрд параметр әсерлі есептеу ресурстарын қажет етеді және мұнда квантизация арқылы оңтайландыру шешуші рөл атқарады. Егер Zhipu AI тұтынушылық жабдықта өнімділікті сақтай алса, бұл нарықтағы ойын ережелерін өзгертеді.