Zhipu AI компаниясының GLM-5.2: 1 миллион токен контексті және 753 миллиард параметр — ашық AI модельдеріндегі жаңа серпіліс
Қытайлық Zhipu AI стартапы өзінің GLM-5.2 атты жаңа флагмандық тілдік моделін ұсынды, ол бүкіл крипто және AI қауымдастығының назарын аударды. Бұл ашық бастапқы коды бар шешім, ұзақ агенттік тапсырмалар мен бағдарламалауға арналған, 1 миллион токендік контекстік терезеге ие. Модель MIT лицензиясы бойынша таратылады және жергілікті орналастыруды қолдайды — бұл құпиялылық пен бұлттық қызметтерден тәуелсіздікті бағалайтындар үшін негізгі фактор.
Hugging Face платформасында әзірлеме ағылшын және қытай тілдерінде мәтін генерациялауға арналған модель ретінде көрсетілген. Оның көлемі таңғалдырады — 753 млрд параметр. Сонымен қатар, GLM-5.2 «пайымдау қарқындылығының» бірнеше деңгейін ұсынады, бұл пайдаланушыларға жауап сапасы мен кідіріс арасында икемді тепе-теңдік сақтауға мүмкіндік береді. Архитектураға инновациялар да енгізілген: IndexShare механизмі және спекулятивті декодтау үшін жаңартылған MTP қабаты.
Әзірлеушілердің мәліметінше, IndexShare сирек назардың әрбір төрт қабатына бір индексаторды қайта пайдаланады, бұл токенге шаққандағы операциялар санын 2,9 есе азайтады. Ал MTP жаңартуы растау ұзындығын 20%-ға арттырады. Бұл оңтайландырулар модельді күшті ғана емес, сонымен қатар тиімді етеді.
Үш негізгі бенчмаркта — FrontierSWE, PostTrainBench және SWE-Marathon — GLM-5.2 ашық бастапқы коды бар барлық басқа модельдерден озып шықты. Бағдарламалау өнімділігінің стандартты сынақтарында да ол ең қуатты open-source модель болды. Бұл орталықтандырылмаған AI шешімдері үшін маңызды қадам.
GLM-5.2 ашық MIT лицензиясы бойынша таратылады. Жергілікті орналастыру үшін SGLang, vLLM, Transformers, KTransformers және Docker Model Runner қолдауы жарияланған. llama.cpp, Ollama және LM Studio үшін квантизациялар қолжетімді. Бұл әртүрлі жобаларға, соның ішінде орталықтандырылмаған қосымшалар мен аналитикалық платформаларға интеграциялау үшін кең мүмкіндіктер ашады.
Менің сараптамалық пікірім: GLM-5.2 — бұл жай ғана кезекті модель емес, AI шешімдерінің жарысы жаңа кезеңге өтіп жатқанының белгісі. Криптоқауымдастық үшін ашықтық пен жергілікті орналастыру мүмкіндігі ерекше маңызды, бұл орталықтандырылған провайдерлерге тәуелділікті азайтады. Параметрлердің ауқымы мен 1 млн токендік контексті ескере отырып, бұл модель жаңа орталықтандырылмаған деректерді талдау және автоматтандыру құралдарының негізіне айналуы мүмкін. DeFi протоколдары мен AI агенттерінің әзірлеушілеріне оған назар аударуды ұсынамын.