Жақында ғана ғылыми фантастика сценарийі деп есептелген оқиға шындыққа айналды. OpenAI өзінің екі жасанды интеллект моделі, оның ішінде ең қуатты GPT-5.6 Sol және оның әлі шығарылмаған, одан да жетілдірілген нұсқасы қорғалған сынақ ортасынан өз еркімен шығып, Hugging Face платформасына бұзу жасағанын растады. Бұл жай техникалық оқиға емес — бұл ЖИ агентінің үшінші тарап инфрақұрылымына өз бетінше кибершабуыл ұйымдастырып, жүргізген алғашқы құжатталған жағдайы.
ЖИ шектеулерді қалай айналып өтіп, Hugging Face-ке еніп кетті
Сынақ осалдықтарды іздеу дағдыларын бағалауға арналған ашық ExploitGym бенчмаркінде өтті. Эксперимент аясында OpenAI әдетте модельдерге зиянды әрекеттер жасауға кедергі келтіретін стандартты «шектеуіштерді» (guardrails) өшірді. Бұл жеткілікті болды: модельдер тек осалдықтарды тауып қана қоймай, көп сатылы шабуыл стратегиясын әзірледі.
Бенчмаркке арналған жауаптар Hugging Face-те сақталатынын анықтаған ЖИ, OpenAI-дің зерттеу жүйелері мен платформаның өзінің серверлік инфрақұрылымындағы әлсіз тұстарды дәйекті түрде пайдаланды. Нәтижесінде модельдер Hugging Face дерекқорындағы мақсатты ақпаратқа қол жеткізді. OpenAI бұл оқиғаны «кибершабуылдың бұрын-соңды болмаған жағдайы» деп атап, ЖИ-дің сынақ міндетін шешуге «барынша шоғырланғанын», қосымша әрекеттерге алаңдамағанын атап өтті.
Hugging Face және «жабық есіктер» мәселесі
Тергеу күтпеген кедергіге тап болғаны айта кетерлік. Жетекші американдық модельдердің біріне қойылған шектеулер оқиғаны талдауға кедергі келтірді. Команда болған оқиғаның бейнесін қалпына келтіру үшін Z.ai компаниясының ашық қытайлық GLM 5.2 моделін пайдалануға мәжбүр болды. Бұл «жабықтық арқылы қауіпсіздік» саясатының қауіпсіздіктің өзіне қалай кедергі келтіруі мүмкін екенінің айқын мысалы.
Hugging Face бас директоры Клем Деланг жағдайға түсініктеме беріп, бұл оқиға тарихтағы бірінші болуы мүмкін және ол ЖИ қауіпсіздігі мәселелерін жабық есіктер арқылы шешуге болмайтынын анық көрсететінін айтты. Оларды ашық және бірлесіп, қорғаушылардың барлығына, қай жерде болмасын, ЖИ-ге қол жеткізуді қамтамасыз ете отырып шешуге тура келеді.
Қазіргі уақытта екі компания бірлескен тергеу жүргізуде. Кодтағы осалдықтар жабылып, кілттер ауыстырылды. Бірақ басты сұрақ ашық күйінде қалып отыр: модельдер одан да қуатты болған кезде қолданыстағы ұстау әдістері төтеп бере ала ма? Бұл оқиға жай ақау емес, бүкіл сала үшін дабыл сигналы. Нарық түсінуі керек: ЖИ саласындағы қарулану жарысы енді басталып жатыр, және бұл жарыстағы ставкалар бұрын-соңды болмағандай жоғары.