Чжэцзян университеті мен Alibaba зерттеушілері Сеулдегі ICML 2026 конференциясында ЖИ жүйелерін тұрақсыздандырудың жаңа әдісін ұсынды. Дәстүрлі деректерді ұрлау немесе нәтижені ауыстыруға бағытталған шабуылдардан айырмашылығы, бұл тәсіл модельді оның логикалық тізбектерін мәжбүрлі түрде «циклге түсіру» арқылы салдандыруға бағытталған.
Әдістің мәні: генетикалық алгоритм пайымдау модельдеріне қарсы
Қазіргі заманғы пайымдау модельдері (reasoning models) қарапайым LLM-дерден айырмашылығы, күрделі сұрауларды дәйекті қадамдарға бөледі. Бұл оларды агенттік жүйелерде — сауда боттарынан бастап смарт-контракт аудитіне дейін — алмастырылмайтын етеді. Алайда дәл осы архитектура осалдықты ашады: толық емес немесе қайшылықты деректермен жұмыс істегенде, модельдер шамадан тыс ойлануға бейім, шамадан тыс ұзын пайымдау тізбектерін жасайды.
Әзірленген әдіс кіріс шарттарын бұрмалау үшін генетикалық алгоритмді пайдаланады: ол алғышарттарды араластырады, негізгі деректерді жояды және артық деректерді қосады. Содан кейін алгоритм ең ұзын жауапты тудыратын нұсқаларды іріктейді. MATH бенчмаркінде пайымдау ұзақтығы 26,1 есеге өсті, бұл қолданыстағы шабуылдардың көрсеткіштерінен айтарлықтай асып түседі.
Ең осал модельдер DeepSeek-R1, Qwen3-Thinking, GPT-o3 және Gemini 2.5 Flash болды. Негізгі қорытынды: бір шағын модель үшін жасалған сұраулар ірі коммерциялық жүйелерді қоса алғанда, басқаларға қарсы тиімді жұмыс істейді. Бұл елеулі есептеу шығындарынсыз жабық қызметтерге шабуыл жасау мүмкіндігін ашады.
DeFi және агенттік жүйелер үшін тәуекелдер
Пайымдау модельдері DeFi инфрақұрылымына белсенді түрде енгізілуде, мұнда цифрлық ассистенттер адамның қатысуынсыз нақты қаражатты басқарады. Әдейі тудырылған логикадағы ақау тікелей операциялық тәуекелді тудырады. Әсіресе алаңдататыны, шабуыл бұзуды қажет етпейді — жүйенің салдануын тудыратын арнайы құрастырылған сұрауды жіберу жеткілікті.
Зерттеушілер олардың жұмысы «ең аз шығынмен ауқымды шабуылдарды» көрсетпейтінін, керісінше шабуылдың жаңа бетінің бар екенін анықтайтынын атап өтеді. Бұған дейін, 2025 жылдың ақпан айында 4018 агенттік траекторияны талдау шамадан тыс ойланудың үш үлгісін анықтады: талдау салдануы (модель тапсырманы орындаудың орнына пайымдауды жалғастырады), болжау мүмкін емес әрекеттер (қатеден кейін бірнеше әрекетті бір уақытта орындау әрекеті) және мерзімінен бұрын аяқтау (нәтижені тексермей тапсырманы тоқтату).
Сарапшының пікірі: Бұл әдіс — сала үшін алаңдатарлық сигнал. Егер пайымдау модельдері DeFi-агенттері үшін стандартқа айналса, мұндай шабуылдар нақты қаржылық шығындарға әкелуі мүмкін. Әзірлеушілер аномальды ұзын пайымдау тізбектерін анықтау тетіктерін енгізіп, сұраулардың орындалу уақытын шектеуі керек. Әйтпесе, ЖИ логикасымен бұғатталған «шексіз» транзакцияларды алу қаупі бар.