Hugging Face бұзылуы: Автономды AI-агенттер платформа инфрақұрылымына шабуыл жасады
ЖИ модельдерін әзірлеу және хостинг экожүйесіндегі негізгі ойыншылардың бірі Hugging Face платформасы заманауи киберқауіптер туралы түсінікті өзгертетін оқиғаға тап болды. Зұлымдық жасаушы автономды агенттік жүйені пайдаланып, компанияның жұмыс инфрақұрылымының бір бөлігіне еніп, ішкі деректердің шектеулі көлеміне және қызметтердің есептік жазбаларына қол жеткізді.
Атап өту маңызды: қазіргі уақытта Spaces қолданбаларының, деректер жиынтықтарының немесе жария модельдердің бұзылғаны туралы ешқандай дәлел жоқ. Контейнерлер мен бағдарламалық пакеттерді тексеру де жеткізу тізбегіне араласуды анықтаған жоқ. Алайда шабуылдаушының жеке басы және ол қолданған тілдік модель белгісіз болып қалып отыр, ал келтірілген залалды толық бағалау әлі аяқталмаған.
Шабуыл қалай басталды: кіру нүктесі ретіндегі деректер конвейері
Шабуылдың бастапқы векторы деректер жиынтығын өңдеу конвейері болды. Зиянды деректер жиынтығы кодты орындау үшін екі механизмді пайдаланды: қашықтағы жүктегіш және конфигурация үлгісі арқылы командаларды енгізу. Бұл зұлымдық жасаушыға деректерді өңдейтін серверде кодты іске қосуға мүмкіндік берді, содан кейін ол инфрақұрылым түйіні деңгейіне дейін артықшылықтарды көтерді, бұлтты қызметтердің есептік деректерін жинады және бірнеше ішкі ортаға көшті.
Негізгі сәт: бұл жай ғана жұқтырылған файлды жүктеу емес. Деректер жиынтығы мазмұнды автоматты түрде талдауға және түрлендіруге арналған жүйеге командаларды жеткізу құралы ретінде әрекет етті. Hugging Face кодты орындаудың екі жолын да жедел жауып, шабуылдаушының қатысуын жойды, бұзылған түйіндерді қайта құрды және әсер еткен кілттер мен токендерді кері қайтарды.
Автономды агенттер: адамның қатысуынсыз мыңдаған әрекеттер
Hugging Face бұл науқанды толығымен автономды агенттік жүйемен басқарылатын шабуыл ретінде сипаттады. Ол қысқа мерзімді оқшауланған орталар желісі арқылы ондаған мың операцияларды орындады. Басқару инфрақұрылымы жария қызметтерде орналасты және олардың арасында өздігінен көше алады, бұл блоктауды айтарлықтай қиындатады: бір элементті жою бүкіл науқанды тоқтатпайды.
Сонымен қатар компания шабуыл адамның қатысуынсыз өтті деп мәлімдемейді. Бастапқы мақсатты кім қойғаны, жүйені кім басқарғаны және негізгі шешімдерді кім қабылдағаны белгісіз. Сондай-ақ агенттердің бұзылған коммерциялық модель немесе ашық салмақтары бар жүйе арқылы жұмыс істегені белгісіз. Бұл оқиға ЖИ қолдану арқылы жасалатын шабуылдардың күрделірек және бейімделгіш бола түсетінін көрсетеді.
ЖИ көмегімен қорғаныс: агенттерге аң аулау
Тағдырдың кекесіні – оқиғаны қауіпсіздік журналдарын алғашқы өңдеу үшін тілдік модельдерді қолданатын Hugging Face аномалияларды талдау жүйесі анықтады. Хронологияны қалпына келтіру үшін компания 17 000-нан астам жазбаны қамтитын зұлымдық жасаушының толық әрекеттер журналына ЖИ агенттерін іске қосты. Агенттер оқиғаларды сәйкестендірді, бұзылу белгілерін анықтады және әсер еткен есептік деректерді анықтады, тергеу уақытын бірнеше күннен бірнеше сағатқа дейін қысқартты.
Алайда бірінші кезеңде компания күтпеген кедергіге тап болды: шабуылдаушының нақты командаларын талдау үшін озық коммерциялық модельдерді пайдалану әрекеті провайдерлердің қорғаныс шектеулерімен бұғатталды. Жүйелер оқиғаны тергеуді бұзуға көмек алу әрекетінен ажырата алмады. Бұл меншікті инфрақұрылымға көшуге және Z.ai компаниясының ашық салмақтары бар GLM 5.2 моделін пайдалануға әкелді, бұл қауіпті мазмұнды блоктаусыз талдауға мүмкіндік берді.
Шабуыл бетінің кеңеюі және сала үшін сабақтар
Бұл оқиға ЖИ платформаларына шабуыл бетінің айтарлықтай кеңейгенін айқын көрсетеді. Тек модельдер мен код қана емес, сонымен қатар деректер, конфигурациялар, жүктегіштер, агент құралдары және автоматты өңдеу конвейерлері де қорғалуы керек. Сыртқы мазмұнды түсіндіре алатын немесе командаларды іске қоса алатын әрбір компонент әлеуетті кіру нүктесіне айналады.
Менің сараптамалық пікірім: Hugging Face-ке жасалған шабуыл – бұл ЖИ агенттері шабуылға да, қорғанысқа да негізгі құралға айналатын киберсоғыстардың жаңа дәуірінің хабаршысы. Сала адамдар үшін ғана емес, сонымен қатар ЖИ жүйелерінің өзі үшін де нөлдік сенім принциптерін енгізе отырып, қауіпсіздікке көзқарастарды шұғыл түрде қайта қарауы керек. Anthropic компаниясының агенттер үшін ең төменгі құқықтар мен қысқа мерзімді токендер туралы ұсыныстары енді жай теория емес, өзекті қажеттілік ретінде естіледі.