Hugging Face-ке шабуыл: Автономды ЖИ-агенттер алғаш рет инфрақұрылымды бұзу үшін пайдаланылды
Hugging Face ИИ-модельдерін әзірлеуге және хостингке арналған платформа бұрын-соңды болмаған шабуылдың мәліметтерін жариялады, оның барысында злоумышниктер автономды агенттік жүйені пайдаланған. Жұмыс инфрақұрылымының бір бөлігіне әсер еткен оқиға киберқауіптер эволюциясының жаңа кезеңін белгілейді: енді шабуылдарды адам емес, өз бетінше шешім қабылдай алатын және желілер бойынша жылжи алатын бағдарламалық агент жүргізе алады.
Шабуыл сценарийі: деректер жиынтығынан бұлтты кластерлерге дейін
Кіру нүктесі деректер жиынтығын өңдеу конвейері болды. Зиянды деректер жиынтығы кодты орындау үшін екі механизмді пайдаланды: қашықтағы жүктегіш және конфигурация үлгісі арқылы командаларды енгізу. Өңдеу серверінде кодты іске қосқаннан кейін, шабуылдаушы инфрақұрылым түйініне дейін артықшылықтарды көтерді, бұлтты қызметтер мен кластерлердің есептік деректерін жинады, содан кейін ішкі орталарға көшті. Бұл классикалық жұқтырылған файлды жүктеу емес екенін атап өту маңызды — деректер жиынтығы мазмұнды автоматты түрде талдауы тиіс жүйеге командаларды жеткізу құралы ретінде қызмет етті.
Hugging Face осалдықтарды жедел жойды, бұзылған түйіндерді қайта құрды және әсер еткен кілттерді кері қайтарды. Компания сондай-ақ құпияларды ауқымды ауыстыруды бастады және кластерлерге кіру саясатын күшейтті.
Автономды агенттер: адам бақылауынсыз мыңдаған операциялар
Hugging Face деректері бойынша, науқан басынан аяғына дейін автономды агенттік жүйемен басқарылды. Ол қысқа уақыт өмір сүрген оқшауланған орталар желісі арқылы мыңдаған операцияларды орындады. Басқару инфрақұрылымы жария қызметтерде орналасты және олардың арасында өз бетінше көші-қон жасай алды, бұл блоктауды өте қиындатады: бір элементті жою бүкіл науқанды тоқтатпайды.
Сонымен қатар, компания шабуыл адамның қатысуынсыз өтті деп мәлімдемейді. Бастапқы мақсатты кім қойғаны, жүйені кім басқарғаны және негізгі шешімдерді кім қабылдағаны белгісіз. Сондай-ақ, агенттер бұзылған коммерциялық модель немесе ашық салмақтары бар жүйе арқылы жұмыс істегені ашылмады.
Қорғаныстағы ИИ: ауытқулар мен тергеу
Оқиғаны Hugging Face-тің қауіпсіздік журналдарын бастапқы өңдеу үшін тілдік модельдерді пайдаланатын ауытқуларды талдау жүйесі анықтады. Хронологияны қалпына келтіру үшін компания 17 000-нан астам жазбаны қамтитын злоумышниктің әрекеттерінің толық журналы бойынша ИИ-агенттерін іске қосты. Агенттер оқиғаларды салыстырды, бұзылу белгілерін анықтады және әсер еткен есептік деректерді анықтады. Hugging Face бағалауы бойынша, бұл жұмыс бірнеше күннің орнына сағаттарды алды.
Бір қызығы, бірінші кезеңде компания коммерциялық API арқылы озық модельдерді пайдалануға тырысты. Алайда, провайдерлердің қорғаныс шектеулері сұрауларды бұғаттады, себебі жүйелер оқиғаны тергеуді бұзуға көмек алу әрекетінен ажырата алмады. Hugging Face өңдеуден бас тартқан қызметтерді атамады.
Бас тартулардан кейін тергеу өз инфрақұрылымына ауыстырылды, Z.ai компаниясының ашық салмақтары бар (MIT лицензиясы) GLM 5.2 моделін пайдалана отырып. Бұл автоматты блоктаусыз қауіпті мазмұнды талдауға және ішкі ортадан шықпауға мүмкіндік берді. Алайда, компанияда дұрыс атап өтілгендей, ашық модельдің өзі қауіпсіз емес — инфрақұрылым мен кіруді басқару жауапкершілігі ұйымға жүктеледі.
Қорытындылар мен ұсыныстар
Оқиға тек модельдер мен кодты ғана емес, қорғау қажет екенін көрсетті. Деректер, конфигурациялар, жүктегіштер, агент құралдары және автоматты конвейерлер қауіп төндіреді. Сыртқы мазмұнды түсіндіре алатын немесе командаларды іске қоса алатын әрбір компонент әлеуетті кіру нүктесіне айналады. Агенттің бұлтты ресурстар мен есептік деректерге қол жеткізе алатын жүйелерінде тәуекел әсіресе жоғары.
Hugging Face клиенттерге кіру токендерін ауыстыруды және аккаунттың соңғы белсенділігін тексеруді ұсынды. Жария модельдердің немесе пайдаланушы деректер жиынтықтарының бұзылғаны туралы тікелей дәлелдер әзірге жоқ, бірақ салдарлардың соңғы бағасы аяқталмаған.
Сарапшының пікірі: Бұл шабуыл бүкіл сала үшін дабыл қоңырауы. Біз шабуылдаушы адам емес, жалғыз хакерге қол жетімсіз ауқымда әрекет ете алатын автономды агент бола алатын дәуірге кіріп жатырмыз. Бұрын Anthropic-те айтылған агенттер үшін нөлдік сенім (zero trust) принципі ұсыныс емес, қажеттілікке айналады. ИИ-мен жұмыс істейтін платформалар өздерінің қауіп модельдерін қайта қарауға мәжбүр болады, оларға ИИ-жүйелерінің өзі бастаған шабуылдарды қосады.