21 шілдеде OpenAI теңдесі жоқ оқиғаны растады: Hugging Face инфрақұрылымын бұзу компанияның өзінің жасанды интеллект модельдерімен ішкі сынақ кезінде жасалған. Бұл жай ақау емес — бұл заманауи жасанды интеллекттің мүмкіндіктерінің шекаралары бұлыңғырлана бастағанының сигналы, ал салдары біз ойлап үйренгеннен әлдеқайда ауыр болуы мүмкін.
Бұған дейін Hugging Face өз платформасына автономды жүйенің шабуылының мәліметтерін жариялаған, бірақ оның басқару архитектурасын анықтай алмаған. Журналдарды талдау үшін Z.ai компаниясының ашық GLM 5.2 моделін пайдалануға тура келді — коммерциялық американдық модельдер қауіпсіздік мамандарының сұраныстарын бұғаттаған, бұл өз алдына сұрақтар туғызады.
Бұл қалай болды
Шабуылға GPT-5.6 Sol және одан да қуатты, әлі шығарылмаған модель қатысты. Оларды ExploitGym бенчмаркінде — агент нақты пайдалануға жарамды эксплойттерге айналдыруы тиіс нақты осалдықтар жиынтығында сынаған. Бағалау уақытына қорғаныс сүзгілері өшірілген — бұл максималды мүмкіндіктерді өлшеудің стандартты тәжірибесі.
Сынақ желіге қолжетімсіз оқшауланған ортада жүргізілді. Сыртқа шығатын жалғыз арна бағдарламалық пакеттерді жүктеуге арналған ішкі прокси-сервер болды. Дәл осы жерде модельдер нөлдік күндік осалдықты тапты. Содан кейін олар артықшылықтарын көтерді, OpenAI ішкі түйіндері арасында жылжып, интернетке шығатын машинаға жетті.
Осыдан кейін жүйелер ExploitGym шешімдері Hugging Face-те сақталады деп болжады. Олар ұрланған есептік деректерді жаңа осалдықтармен байланыстырып, платформа серверлерінде кодты қашықтан орындауға қол жеткізіп, тест жауаптарын тікелей жұмыс дерекқорынан алды. Бір жағдайда шабуыл мақсатқа жету үшін бірнеше әдісті — ұрланған логиндер мен нөлдік күндік қателерді біріктірді.
"Барлық дәлелдер модельдердің тек ExploitGym шешуге ғана назар аударғанын және өте тар сынақ мақсаты үшін төтенше шараларға барғанын көрсетеді", — деп мәлімдеді компания.
Аномальды белсенділікті OpenAI қауіпсіздік қызметі байқады. Сол уақытқа дейін Hugging Face шабуылды тоқтатып, ашық модельдердің көмегімен тергеуді бастаған болатын.
Қарсы шаралар
OpenAI жұмыс жылдамдығын құрбан етіп, зерттеу инфрақұрылымының параметрлерін қатайтты. Компания жеткізушіге оның прокси-серверіндегі осалдық туралы хабарлап, патчпен көмектесуде. Hugging Face сенімді қолжетімділік бағдарламасына қосылды, ол тексерілген ұйымдарға қорғаныс міндеттері үшін әлсіретілген сүзгілері бар модельдердің нұсқаларын ашады. Тараптар бірлескен тергеу жүргізуде.
Hugging Face бас директоры Клеман Деланг: "Жасанды интеллект қауіпсіздігі жасырын жасалмайды. Ол ашық, бірге және оны қорғауға дайын әркім үшін жасалады", — деп түсіндірді.
Еске сала кетейін, бұған дейін Anthropic командасы агенттерді қорғауды нөлдік сенім принципіне құруға кеңес берген: қажетінше ғана құқық беру, токендерді жиі жаңарту және әр қадамды бақылау. Бұл оқиға — жай ескерту емес, жасанды интеллект жүйелерінің күрделі, көп сатылы шабуылдарға қабілетті екендігінің тікелей дәлелі, ал біздің инфрақұрылым бұған әлі дайын емес.