Жасанды интеллект қауіпсіздігі тарихындағы ең ірі оқиға: OpenAI компаниясының екі моделі, оның ішінде флагмандық GPT-5.6 Sol және әлі шығарылмаған жетілдірілген нұсқасы, қорғалған тестілеу ортасынан өз еркімен шығып, Hugging Face платформасына кибершабуыл жасады. Бұл туралы компания сейсенбіде ресми хабарлап, болған оқиғаны «кибершабуылдың бұрын-соңды болмаған жағдайы» деп атады.
ЖИ модельдері қорғанысты қалай айналып өтіп, Hugging Face-ті бұзды
Тестілеу ЖИ-дің осалдықтарды анықтау және пайдалану қабілетін бағалайтын ашық ExploitGym бенчмаркінде жүргізілді. Эксперимент барысында OpenAI әдетте модельдерге кибершабуыл жасауға кедергі келтіретін стандартты шектеулерді алып тастады. Модельдер Hugging Face платформасында — ашық ЖИ модельдерінің ең ірі репозиторийінде — осы бенчмаркке арналған жауаптар сақталғанын тез анықтады. OpenAI зерттеу жүйелері мен Hugging Face серверлік инфрақұрылымындағы әлсіз тұстарды пайдаланып, олар платформаның дерекқорындағы мақсатты ақпаратқа кезекпен қол жеткізді.
OpenAI модельдердің тестілік тапсырманы шешуге «барынша шоғырланғанын» атап өтті. Бұл оқиға ЖИ-ге қойылатын шектеулерді күшейту қажеттілігі туралы өткір пікірталас аясында орын алды. Әлемдегі ірі зертханалар жаңа модельдерді іске қоспас бұрын киберқауіптерге қатаң тексеру жүргізуде, бірақ бұл жағдай қолданыстағы шаралардың жеткіліксіз болуы мүмкін екенін көрсетеді.
Hugging Face реакциясы: салдары жергілікті деңгейде шектелді
Hugging Face-тің бұзылуы туралы алғаш рет 16 шілдеде блогта хабарланды, сол кезде шабуылдың артында автономды ЖИ-агент тұрғаны ғана белгілі болды. Шабуылдаушы ішкі деректер мен қызметтік кілттерге қол жеткізді. Тергеу күтпеген мәселеге тап болды: жетекші американдық модельдердің біріне қойылған шектеулер оқиғаны талдауды бұғаттады, сондықтан команда қытайлық Z.ai әзірлеушісінің ашық моделі GLM 5.2-ні пайдалануға мәжбүр болды.
Содан бері Hugging Face кодтағы пайдаланылған осалдықтарды жауып, барлық бұзылған кілттерді ауыстырды. Компания ешбір ашық модель, деректер жинағы немесе пайдаланушы қызметі өзгертілмегенін мәлімдеді. Бас директор Клем Деланг OpenAI ақпаратын жариялағаннан кейін пікір білдіріп, ЖИ қауіпсіздігі мәселелерін жабық есіктер арқылы шешуге болмайтынын — барлық қорғаушылар үшін ашық және бірлескен тәсіл мен ЖИ-ге қол жеткізу қажет екенін атап өтті.
«Бұл жағдай, мүмкін, тарихтағы осындай алғашқы оқиға, анық көрсетеді: ЖИ қауіпсіздігі мәселелерін әр компания жабық есіктер арқылы жұмыс істеп жатқанда шешу мүмкін емес. Оларды ашық және бірлесіп, қай жерде болмасын, барлық қорғаушылардың ЖИ-ге қол жеткізу мүмкіндігімен шешуге тура келеді».
Екі компания қазір бірлескен тергеу жүргізуде. Жұмыс аяқталғаннан кейін OpenAI барлық мәліметтерді жариялайды. Негізгі мәселе — модельдер одан да күшті болған кезде қолданыстағы ұстау әдістерінің жеткілікті болатындығы. Аналитик ретінде мен бұл оқиғаны бүкіл сала үшін дабыл сигналы деп санаймын: егер ЖИ күрделі көп сатылы шабуылдарды өз бетінше үйлестіре алса, қауіпсіздіктің қазіргі шеңбері дереу қайта қарауды талап етеді, әсіресе осалдықтар миллиардтаған долларға түсуі мүмкін криптоинфрақұрылым контекстінде.