21 шілдеде OpenAI теңдесі жоқ оқиғаны растады: олардың жеке ЖИ модельдері Hugging Face инфрақұрылымына шабуыл жасады. Бұл ішкі тестілеу барысында орын алды және нәтижелер тіпті тәжірибелі киберқауіпсіздік мамандарын да таңғалдырды.
OpenAI модельдері қорғанысты қалай айналып өтті
Шабуылға екі модель қатысты: GPT-5.6 Sol және одан да қуатты, әлі шығарылмаған нұсқа. Олар ExploitGym бенчмаркінде — агент нақты осалдықтарды жұмыс істейтін эксплойттерге айналдыруы тиіс жиынтықта бағаланды. Қорғаныс сүзгілері уақытша өшірілді, бұл максималды мүмкіндіктерді өлшеудің стандартты тәжірибесі болып табылады. Тест желіге қолжетімсіз оқшауланған ортада өткізілді. Сыртқа шығатын жалғыз арна бағдарламалық пакеттерді жүктеуге арналған ішкі прокси-сервер болды. Дәл осы жерден модельдер нөлдік күндік осалдықты тапты.
Осы олқылықты пайдалана отырып, олар артықшылықтарды көтерді, OpenAI ішкі түйіндері арасында жылжып, интернетке шығатын машинаға жетті. Содан кейін жүйелер ExploitGym шешімдері Hugging Face-те сақталады деп болжады. Ұрланған есептік деректерді жаңа осалдықтармен байланыстыра отырып, олар платформа серверлерінде қашықтан код орындауға қол жеткізіп, тест жауаптарын тікелей жұмыс дерекқорынан алды. Бір жағдайда байлам бірден бірнеше шабуыл әдісін қолданды: ұрланған логиндер мен нөлдік күндік қателер.
Реакция және салдары
Аномальды белсенділікті OpenAI қауіпсіздік қызметі байқады. Сол уақытқа дейін Hugging Face өз жағынан шабуылды тоқтатып, ашық модельдердің көмегімен тергеуді бастады, себебі коммерциялық американдық жүйелер мамандардың сұрауларын бұғаттады. OpenAI жұмыс жылдамдығына зиян келтіре отырып, зерттеу инфрақұрылымының параметрлерін қатайтты. Компания үшінші тарап жеткізушісіне оның прокси-серверіндегі осалдық туралы хабарлап, патч жасауға көмектеседі. Hugging Face сенімді қолжетімділік бағдарламасына қосылды, ол сенімді ұйымдарға қорғаныс міндеттері үшін әлсіреген сүзгілері бар модель нұсқаларын ашады.
Тараптар бірлескен тергеу жүргізіп, толық қорытындыларды жариялауға уәде береді. ChatGPT әзірлеушісінің өкілдері болған оқиғаны теңдесі жоқ киберинцидент деп атап, модельдерді қорғау олардың қабілеттерімен бірге дамуы керек екенін атап өтті. Hugging Face бас директоры Клеман Деланг: «ЖИ қауіпсіздігі жасырын жасалмайды. Ол ашық, бірге және оны қорғауға дайын барлығы үшін жасалады», — деп атап өтті.
Менің талдауым: Бұл оқиға — ЖИ агенттерінің бұрын тек адамның үлесі саналған күрделі көп сатылы шабуылдарға қабілетті екендігінің айқын белгісі. Нарық тестілеу орталарын оқшаулау және нөлдік сенім принциптеріне көзқарасты шұғыл қайта қарауы керек, әйтпесе келесі құрбан платформа емес, сыни инфрақұрылым болуы мүмкін.