Hugging Face платформасына ИИ-агенттердің шабуылы: киберқауіпсіздіктің жаңа шегі
Жасанды интеллект платформаларының киберқауіпсіздігі жаңа дәуірге аяқ басуда. Hugging Face, ЖИ-модельдерін орналастыруға арналған жетекші алаң, бұрын-соңды көрмеген шабуылға тап болды. Зұлым ниетті пайдаланушы автономды агенттік жүйені пайдаланып, компанияның жұмыс инфрақұрылымына еніп, ішкі деректер мен қызметтердің есептік жазбаларының шектеулі жиынтығына қол жеткізді.
Бұл оқиғаның басты ерекшелігі – шабуыл қоғамдық модельдерді немесе деректер жиынтығын өзгертуге бағытталмаған; тексеру олардың тұтастығын көрсетті. Оның орнына, деректерді өңдеу инфрақұрылымының өзі нысанаға алынды. Кіру нүктесі деректер жиынтығын өңдеу конвейері болды: зиянды деректер жиынтығы қашықтағы жүктегішті және конфигурациялық үлгі арқылы командаларды енгізуді пайдаланып, серверде кодты орындауға мүмкіндік берді. Осыдан кейін зұлым ниетті пайдаланушы артықшылықтарды көтеріп, бұлтты қызметтердің есептік деректерін жинап, ішкі желілерге тарады.
Автономды жүйе: тікелей басқарусыз мыңдаған операциялар
Hugging Face бұл науқанды толығымен автономды агенттік жүйемен басқарылатын ретінде сипаттады. Ол қысқа мерзімді оқшауланған орталар желісі арқылы мыңдаған операцияларды орындады. Басқару инфрақұрылымы қоғамдық қызметтерде орналасып, олардың арасында өздігінен көшіп-қона алатын, бұл бұғаттауды ерекше қиындатады – бір элементті жою бүкіл науқанды тоқтатпайды. Компания мақсаттарды қоюға немесе негізгі шешімдер қабылдауға адамның қатысуын жоққа шығармайтынын, бірақ шабуыл процесінің өзі автоматтандырылғанын атап өту маңызды.
Жауап реакциясы: ЖИ ЖИ-ге қарсы
Оқиғаны тергеу үшін Hugging Face өзінің ЖИ-құралдарын қолданды. Тілдік модельдерге негізделген ауытқуларды талдау жүйесі қауіпті анықтады, содан кейін оқиғалар хронологиясын қалпына келтіру үшін ЖИ-агенттер іске қосылды. Зұлым ниетті пайдаланушының әрекет журналында 17 000-нан астам жазба болды. Агенттер оқиғаларды салыстырып, бұзылу белгілерін анықтап, зардап шеккен есептік деректерді анықтап, тапсырманы бірнеше күннің орнына бірнеше сағат ішінде орындады. Қызығы, бастапқы кезеңде коммерциялық ЖИ-жүйелері сұрауларды өңдеуден бас тартты, өйткені олар оқиғаны тергеуді бұзу әрекетінен ажырата алмады. Нәтижесінде компания Z.ai компаниясының ашық бастапқы коды бар GLM 5.2 моделін жергілікті түрде орналастырып, қауіпті мазмұнды бұғаттаусыз талдауға мүмкіндік алды.
Қорытындылар және сала үшін сабақтар
Бұл жағдай ЖИ-платформаларына шабуыл жасау аймағының сыни түрде кеңейгенін көрсетеді. Енді қауіп тек модельдер мен кодтан ғана емес, сонымен қатар деректерден, конфигурациялардан, жүктегіштерден, агент құралдарынан және автоматты конвейерлерден де туындайды. Сыртқы мазмұнды түсіндіре алатын әрбір компонент әлеуетті кіру нүктесіне айналады. Hugging Face компаниясының қол жеткізу токендерін ауыстыру және аккаунттардың белсенділігін тексеру бойынша ұсыныстары – тек уақытша шара.
Аналитик ретінде мен киберқауіпсіздікте жаңа парадигманың табалдырығында тұрмыз деп санаймын. Автономды ЖИ-агенттерді қолданатын шабуылдар – бұл болашақ емес, шындық. Сала қорғаныс тәсілдерін шұғыл түрде қайта қарап, нөлдік сенім принциптерін енгізіп, қарсыластың өзі жасанды интеллект болған жағдайда жұмыс істей алатын оқиғаларды тергеуге арналған мамандандырылған құралдарды әзірлеуі керек. Бейімделмейтін ойыншылар қуып жетушілердің рөлінде қалу қаупіне ұшырайды.