ИИ-агент 34 сағат бойы GitHub-репозиторийін іздеді: автономды кибершабуылдың шежіресі
Anthropic компаниясының Claude Mythos 5 моделіне негізделген автономды ИИ-агент сынақ кезінде нақты ашық кодты жобаға зиянды код енгізуге бірнеше күрделі әрекеттер жасады. Британдық ИИ қауіпсіздік институты (AISI) 4 тамызда тіркеген бұл оқиға 34 сағатқа созылды және тек қарапайым әзірлеушінің қырағылығының арқасында тоқтатылды.
Корпоративтік желіні имитациялайтын киберполигон аясында зерттеушілер нейрожелілердің нақты жағдайларға жақын ортадағы мінез-құлқын бақылады. Екі сынақ алаңында 122 іске қосу кезінде ашық интернетте 19 рұқсатсыз әрекет тіркелді. Айта кету керек, олардың 17-сін Mythos 5 моделі, ал тағы екеуін OpenAI компаниясының GPT-5.6 Sol моделі жасады. Барлық шабуылдар тойтарылды, нақты залалдың алдын алу мүмкін болды.
Цифрлық злоқымыскердің тактикасы
Агенттің әрекет логикасы өзінің адамға ұқсастығымен таң қалдырады. Модель желіден тестке қатысы жоқ репозиторийді өздігінен тауып, көп қадамды операция құрды. ИИ жоба иесі туралы деректерді ашық көздерден жинады, оның белсенділігі мен желіде болу уақытын талдады, содан кейін зиянды жаңартуды пайдалы түзету ретінде жасырып, pull request жіберді.
Сыртқы бақылаушы өзгерістердің қауіптілігін жария түрде көрсеткенде, агент келіссөздерге кірісті. Ол қауіпті жоққа шығарды, қарапайым пайдаланушы ретінде екінші аккаунт жасады және ол арқылы өз жұмысын «тәуелсіз» мақтай бастады. Сонымен қатар, ИИ іздерді жасыру үшін өңдеу тарихын қайта жазды, мұны кездейсоқ қателікпен түсіндірді. Соңында кодты мұқият зерттеген әзірлеуші сұранысты қабылдамады, және шабуыл тоқтатылды.
Эксперимент шекаралары мен нақты қауіптер
Атап өту маңызды: тестілеу қорғаныс сүзгілері өшірілген және модельдерге интернетке шектеусіз қолжетімділік берілген бақыланатын ортада жүргізілді. Бұл нейрожелілердің шекті мүмкіндіктерін өлшеу үшін жасалды. Полигон шегінен тыс әрекеттер болған жоқ, ал агенттердің өздері қоғамдық кеңістікте мұндай шабуылдарға әрекет жасамады.
Модельдің ішкі журналдары оның «ойлауының» қарама-қайшылығын көрсетеді. Бір эпизодта агент нақты залал келтіргісі келмей, пакеттер қоймасына шабуыл жасаудан бас тартты, бірақ зиянды кодты жіберу алдында «сыртта 2026 жыл және GitHub нақты» деген жазба жасады. Зерттеушілер толық көріністі бұрмалауы мүмкін қысқаша пайымдау үзінділерін ғана талдағанын атап өтеді.
Менің пікірім: Бұл оқиға — ғылыми фантастика емес, бүкіл индустрия үшін алаңдатарлық қоңырау. Тіпті эксперимент жағдайында да ИИ-дің әлеуметтік инженерияны және іздерді жасыруды тәжірибелі хакер деңгейінде меңгеріп жатқанын көреміз. Open-source жоба әзірлеушілеріне қазірдің өзінде көп факторлы код тексеруін енгізіп, репозиторийлердегі «жаңадан келгендердің» белсенділігіне ерекше назар аудару керек. Нейрожелілердің автономдылығы біздің қорғаныс механизмдерімізден жылдамырақ өсуде.