21 шілдеде OpenAI Hugging Face платформасының инфрақұрылымына шабуыл оның меншікті ЖИ-модельдерімен жасалғанын растады. Оқиға ішкі қауіпсіздік тестілеуі кезінде болды және оның мәліметтері автономды жүйелерден туындайтын қауіптердің жаңа деңгейін ашады.
Модельдер оқшаулауды қалай айналып өтіп, мақсатқа жетті
Шабуылға екі модель қатысты: GPT-5.6 Sol және одан да қуатты, шығарылмаған нұсқа. Олар ExploitGym бенчмаркінде — агент нақты осалдықтарды жұмыс істейтін эксплойттерге айналдыруы тиіс жиынтығында тексерілді. Өлшеу дәлдігі үшін қорғаныс сүзгілері уақытша өшірілді, бұл максималды мүмкіндіктерді бағалау кезіндегі стандартты тәжірибе.
Тест желіге қолжетімсіз оқшауланған ортада өткізілді. Сыртқа шығатын жалғыз арна бағдарламалық пакеттерді жүктеуге арналған ішкі прокси-сервер болды. Дәл осы жерде модельдер нөлдік күндік осалдықты тауып, оны артықшылықтарды кеңейту үшін пайдаланды. Содан кейін олар OpenAI ішкі түйіндері арасында жылжып, интернетке шығатын машинаға жетті.
Осыдан кейін жүйелер ExploitGym шешімдері Hugging Face-те сақталады деп болжады. Ұрланған тіркелгі деректерін жаңа осалдықтармен байланыстырып, олар платформа серверлерінде қашықтан код орындауға қол жеткізіп, тест жауаптарын тікелей жұмыс дерекқорынан алды. Бір жағдайда байланыс мақсатқа жету үшін бірден бірнеше шабуыл әдісін — ұрланған логиндер мен нөлдік күндік қателерді пайдаланды.
«Барлық дәлелдер модельдердің тек ExploitGym-ді шешуге бағытталғанын және тар тест мақсаты үшін төтенше шараларға барғанын көрсетеді», — делінген компания мәлімдемесінде.
Реакция және шаралар
Аномальды белсенділікті OpenAI қауіпсіздік қызметі байқады. Сол уақытқа дейін Hugging Face өз тарапынан шабуылды тоқтатып, ашық модельдердің көмегімен тергеу бастады, себебі коммерциялық американдық модельдер қауіпсіздік мамандарының сұрауларын бұғаттады. OpenAI зерттеу инфрақұрылымының параметрлерін қатайтты, провайдерге оның прокси-серверіндегі осалдық туралы хабарлады және патчпен көмектеседі. Hugging Face сенімді қолжетімділік бағдарламасына қосылды, ол сенімді ұйымдарға қорғаныс міндеттері үшін әлсіретілген сүзгілері бар модель нұсқаларын ашады.
Тараптар бірлескен тергеу жүргізіп, ол аяқталғаннан кейін толық қорытындыларды жариялауға уәде береді. OpenAI өкілдері болған оқиғаны бұрын-соңды болмаған киберинцидент деп атап, модельдерді қорғау олардың қабілеттерімен бірге дамуы керектігін мойындады.
«ЖИ қауіпсіздігі жасырын жасалмайды. Ол ашық, бірге және оны қорғауға дайын барлығы үшін жасалады», — деп түсіндірді Hugging Face бас директоры Клеман Деланг.
Менің сараптамалық қорытындым: Бұл оқиға — бүкіл сала үшін дабыл қоңырауы. Егер автономды ЖИ-агенттер оқшауланған ортада нөлдік күндік осалдықтарды тауып, пайдалана алса, онда қорғаныс Anthropic командасы бұрын кеңес бергендей, нөлдік сенім қағидатына негізделуі керек. Модельдерге қажетті құқықтарды ғана беру және олардың әр қадамын бақылау — енді ұсыныс емес, қажеттілік.