Жасанды интеллект индустриясында тыныш революция пісіп жетілуде: біз модельдер арасындағы байланыс әрқашан мәтін арқылы жүзеге асатынына үйреніп қалдық. Алайда Mostik бренді астындағы әзірлеушілер тобы мүлдем басқа тәсілді ұсынады — вербализация сатысын айналып өтіп, нейрожелінің «ойларын» тікелей беру. Аралық мәтінді генерациялаудың орнына мен «көпір» деп атайтын арнайы бейімделгіш модуль қолданылады. Ол бір модельдің ішкі векторлық көріністерін екіншісіне түсінікті форматқа түрлендіреді, ал жүйелердің өз параметрлері өзгеріссіз қалады.
Бұл түбегейлі өзгеріс. Тіпті бір токенді генерациялау кезінде үлкен тілдік модель жүзден астам жасырын вектор шығарады — шамамен миллион сандық мән, бұл шамамен 2 МБ дерекке тең. Мәтіндік жауапқа осы ақпараттың тек мардымсыз бөлігі ғана енеді. Жаңа арна дәл осы бай аралық күйлерді беруге бағытталған.
Эксперимент: алып ойлайды, ергежейлі сөйлейді
Гипотезаны тексеру үшін зерттеушілер Z.ai компаниясының GLM-5.2 (753 млрд параметр) және Alibaba компаниясының Qwen-3.5 (4 млрд параметр) модельдерінен құрама жинады. Негізгі сәт: үлкен модель сұранысты өңдеді, бірақ жауап генерацияламады. Оның ішкі күйі «көпір» арқылы кіші модельге берілді, ол қорытынды мәтінді қалыптастырды.
Нәтижелер таңқаларлық. Мұндай құрама кіші және алып модельдер арасындағы сапа айырмашылығының шамамен жартысын жапты. Классикалық мәтіндік беріліспен салыстырғанда жаңа әдіс бірдей есептеу шығындары кезінде 10 пайыздық тармаққа дейін артықшылық көрсетті. Сонымен қатар, орташа модельмен сапасы бойынша салыстыруға келетін гибридті жүйе шамамен 2,5 есе аз есептеуді қажет етті.
Ортақ математикалық тілді іздеу
Mostik компаниясының бас ғылыми қызметкері Станислав Смирнов іргелі мәселені әділ атап өтеді: әртүрлі нейрожелілердің ішкі көріністерін тікелей салыстыру мүмкін емес. Бір тапсырманы шешкеннің өзінде модельдер ақпаратты өздерінің жасырын күйлерінде әртүрлі кодтайды. «Қолайлы математикалық тіл әзірге жоқ сияқты», — дейді ол. Бұл зерттеудің жаңа саласын ашады: латентті кеңістіктер арасындағы сәйкестіктерді зерттеу ЖИ-дің білімді қалай ұсынатыны және шешім қабылдайтыны туралы жарық түсіруі мүмкін.
Тәсілдің практикалық құндылығы айқын. Google DeepMind компаниясының бұрынғы зерттеушісі Карл Туйлс ресурсты қажет ететін модель тек «ойлау» үшін қолданылатын, ал мәтін генерациясы ықшам жүйеге жүктелетін сценарийді көреді. Тағы бір жол — әмбебап модельдің мамандандырылған модельдермен (биология, физика) симбиозы, бұл монолитті жүйелерді барлық деректерге бірден оқыту қажеттілігінен құтқарады.
ARC-AGI-3-те көшбасшылыққа өтінім
Әзірлеушілер әдісті ЖИ нақты уақытта жаңа ережелерге бейімделуі тиіс ең күрделі ARC-AGI-3 бенчмаркінде қолданды. «Көпірі» бар жүйе ағымдағы рейтингтегі ең үздік нәтижелердің бірін көрсетті, дегенмен мәліметтер әзірге ашылмайды — жарыс жалғасуда. Алайда, бұл деректерге абай болу керек: «превью» мәртебесі тесттердің толық емес жиынтығын білдіреді, ал қалған көрсеткіштер команданың ішкі эксперименттеріне негізделген.
Менің талдауым: Бұл көптен күткен мәселенің талғампаз шешімі. ЖИ экономикасы инференс құнына тіреледі, ал модельдер арасында «еңбекті бөлу» мүмкіндігі — бұл жай оптимизация емес, интеллектінің модульдік архитектурасына қадам. Алайда демонстрациядан өнеркәсіптік енгізуге дейінгі жол ұзақ: бізге әлі кез келген архитектуралар арасында әмбебап «көпірлер» құруды үйрену керек, тек нақты жұптар арасында ғана емес.