Жасанды интеллект индустриясында тыныш революция пісіп жетілуде: модельдер дәстүрлі тілдік кедергіні айналып өтіп, өзара әрекеттесуді үйренуде. Бұл телепатия туралы емес, ИИ жүйелеріндегі есептеу экономикасын түбегейлі өзгерте алатын ішкі күйлердің математикалық дәлдікпен тексерілген алмасуы туралы.
Mostik зерттеу платформасының ұжымы нейрожелілерге бір-біріне мәтінді емес, жасырын векторлық көріністерді бере алатын тәсілді әзірледі. Бірнеше LLM классикалық байланысында аралық буын әрқашан генерацияланған жауап болып табылады — бұл баяу және ресурсты қажет етеді. Жаңа архитектура арнайы адаптивті модульді («көпір») пайдаланады, ол бір модельдің ішкі «ойлауын» екіншісіне түсінікті форматқа аударады, ал нейрожелілердің өздерінің параметрлері өзгеріссіз қалады.
Негізгі идея мынада: бір токенді генерациялау кезінде үлкен тілдік модель жүзден астам жасырын векторларды — шамамен миллион сандық мәндерді (шамамен 2 МБ деректер) қалыптастырады. Қорытынды мәтіндік жауапқа осы ақпараттың тек шамалы бөлігі ғана түседі. Жаңа байланыс арнасы дәл осы бай аралық көріністерді беруге бағытталған, бұл тапсырманы «түсінудің» әлдеқайда терең деңгейіне қол жеткізуді ашады.
Практикалық тексеру: алып пен ергежейлі
Әдістің тиімділігін көрсету үшін команда Z.ai компаниясының қуатты GLM-5.2 моделін (753 млрд параметр) Alibaba компаниясының ықшам Qwen-3.5 моделімен (4 млрд параметр) біріктірді. Экспериментте алып желі сұранысты тек талдады, жауап генерацияламады, содан кейін «көпір» арқылы өз күйін қорытынды мәтінді қалыптастыратын кіші модельге берді.
Нәтижелер әсерлі: мұндай байланыс кіші және үлкен модельдер арасындағы жауап сапасындағы алшақтықты шамамен екі есе қысқартты. Сонымен қатар, дәстүрлі мәтіндік берумен салыстырғанда жаңа әдіс бірдей есептеу шығындары кезінде 10 пайыздық тармаққа дейін артықшылық көрсетті. Одан әрі, орташа өлшемді модельдің нәтижелерімен салыстыруға болатын гибридті жүйе 2,5 есе аз есептеуді қажет етті — бұл масштабтау үшін өте маңызды көрсеткіш.
Ортақ математикалық тіл іздеу
Mostik компаниясының бас ғылыми қызметкері Станислав Смирнов іргелі күрделілікті атап өтеді: әртүрлі нейрожелілердің ішкі репрезентациялары тікелей салыстыруға келмейді, тіпті бірдей тапсырмаларды шешу кезінде олар ақпаратты әртүрлі кодтайды. Ол мұндай аударма үшін қолайлы математикалық тіл әлі жоқ екенін, бірақ дәл осы іздеу әртүрлі ИИ жүйелерінің деректерді қалай қабылдайтыны мен өңдейтініне жарық түсіруі мүмкін екенін атап өтеді.
�зірлеменің практикалық құндылығы индустрия үшін айқын. Google DeepMind компаниясының бұрынғы зерттеушісі Карл Туйлс ресурстарды асимметриялық пайдалану әлеуетін көреді: қымбат үлкен модельді тек сұранысты талдау үшін пайдалануға болады, ал жауап генерациясын айтарлықтай жеңіл желіге жүктеуге болады. Тағы бір сценарий — әмбебап және тар мамандандырылған модельдерді гибридтендіру, мысалы, жалпы пайымдауларды биология немесе физика саласындағы сараптамамен біріктіру, барлық деректерге бірден бір монолитті желіні оқыту қажеттілігінсіз.
ARC-AGI-3 эксперименті және перспективалар
Mostik өз тәсілін ARC-AGI-3 бенчмаркінде де қолданды, онда ИИ нақты уақыт режимінде жаңа ережелерге бейімделуі керек. Әзірлеушілердің мәлімдемесі бойынша, «көпірі» бар жүйе ағымдағы рейтингтегі ең үздік нәтижелердің бірін көрсетеді, алайда жарыс аяқталғанға дейін мәліметтер ашылмайды. Бұл деректердің «превью» мәртебесіне ие екенін және қорытынды емес екенін, ал қалған тиімділік көрсеткіштері команданың ішкі эксперименттеріне негізделгенін атап өту маңызды.
Дегенмен, концепцияның өзі OpenAI компаниясының ИИ-агенттер арасындағы жасырын байланыс арналары туралы соңғы жаңалықтарымен үндеседі, бұл ішкі күйлер деңгейіндегі тікелей өзара әрекеттесу — бұл фантастика емес, нақты және жылдам дамып келе жатқан бағыт екенін растайды.
Менің талдауым: Бұл тәсіл алып әмбебап модельдерден модульдік жүйелерге көшу үшін катализатор бола алады. Егер технология тәуелсіз сынақтармен расталса, біз парадигманың ауысуын көреміз: параметрлер үшін жарыстың орнына — мамандандырылған «милардың» ақылды құрастырылуы, бұл күрделі ИИ шешімдерін әзірлеуге кіру шегін айтарлықтай төмендетеді.