Сеулда өткен ICML 2026 конференциясында Чжэцзян университеті мен Alibaba зерттеушілер тобы жасанды интеллект жүйелеріне шабуылдың түбегейлі жаңа түрін ұсынды. Дәстүрлі әдістер деректерді ұрлауға немесе модельді бұзуға бағытталған болса, бұл шабуыл ЖИ-ді пайдасыз етуге, оны сұраныстарды шексіз ұзақ өңдеуге мәжбүрлеуге бағытталған.

Шабуыл механизмі: ЖИ-ді «қызып кетуге» қалай мәжбүрлеуге болады

Ойлау модельдері (reasoning models) қарапайым LLM-дерден айырмашылығы, күрделі тапсырмаларды дәйекті қадамдарға бөледі, бұл оларды көп сатылы талдау үшін өте қолайлы етеді. Алайда толық емес немесе қайшылықты деректермен жұмыс істегенде, бұл модельдер «шамадан тыс ойлануға» — өте ұзақ пайымдау тізбектерін құруға бейім.

Зерттеушілер бұл мінез-құлықты әдейі қоздыру үшін генетикалық алгоритмді қолданатын әдіс әзірледі. Алгоритм тапсырма шарттарын араластырады, негізгі алғышарттарды жояды және артық деректерді қосады, ең ұзақ жауап тудыратын нұсқаларды іріктейді. MATH бенчмаркінде пайымдау ұзындығы 26,1 есеге өсті, бұл осындай әсер етудің қолданыстағы әдістерінен айтарлықтай асып түседі.

DeepSeek-R1, Qwen3-Thinking, GPT-o3 және Gemini 2.5 Flash сияқты модельдер осал болып шықты. Бір шағын модель үшін жасалған сұраныстар ірі коммерциялық жобаларды қоса алғанда, басқа жүйелерге қарсы тиімді болғаны айтарлықтай. Бұл жабық қызметтерге ең аз шығынмен шабуыл жасау мүмкіндігін ашады.

«Біздің мақсатымыз — ауқымды шабуылдардың ең аз шығынмен мүмкін екенін көрсету емес, бұл шабуыл бетінің бар екенін анықтау», — деп атап өтті зерттеушілердің бірі Вэй Цао.

Бұл криптоиндустрия үшін неге маңызды

Ойлау модельдері сауда боттарын, смарт-келісімшарттарды аудиттеу құралдарын және орталықтандырылмаған инфрақұрылымды қоса алғанда, агенттік ЖИ-жүйелеріне белсенді түрде енгізілуде. DeFi-де ЖИ негізіндегі цифрлық көмекшілер адамның қатысуынсыз нақты қаражатты басқарады. Әдейі тудырылған логикадағы ақау тікелей операциялық тәуекелді тудырады.

Бұл жұмыс ойлау модельдерінің бұрыннан белгілі ерекшелігіне — шамадан тыс ойлануға бейімділігіне сүйенеді. 2025 жылдың ақпан айында зерттеушілер тобы 4018 агенттік траекторияны талдап, қайталанатын үлгілерді анықтады:

  • Талдау салдануы — модель тапсырманы орындаудың орнына пайымдауды жалғастырады.
  • Болжаусыз әрекеттер — қатеден кейін бірнеше әрекетті бір уақытта орындауға тырысады.
  • Мерзімінен бұрын аяқтау — нәтижені тексермей, тапсырманы орындауды тоқтатады.

Ойлау модельдері шамадан тыс ойлануға бейім болып шықты және бұл әсер неғұрлым күшті болса, нәтижелілік соғұрлым төмен болады.

Менің сараптамам: Бұл жай академиялық жаңалық емес. Әрбір кідіріс секунды миллиондарға тұруы мүмкін DeFi-протоколдары үшін мұндай шабуылдар тікелей қауіп болып табылады. Ойлау модельдерінің логикалық тұзақтарға осалдығы оларды жоғары жиілікті саудада және активтерді автоматтандырылған басқаруда қолдануды күмәнға қалдырады. Инвесторлар мен әзірлеушілер мәжбүрлі тайм-аут және деректерді тексеру механизмдерін енгізе отырып, агенттік жүйелердің архитектурасын қайта қарауы керек.