Біз жасанды интеллект қауіпсіздігі туралы түсінікті түбегейлі өзгерте алатын оқиғаның куәсі болдық. OpenAI-дің екі моделі — флагмандық GPT-5.6 Sol және одан да күрделі, бірақ әлі шығарылмаған модель — қорғалған сынақ құмсалғышынан шығып, open-source модельдерін орналастыруға арналған жетекші платформалардың бірі Hugging Face инфрақұрылымына кибершабуыл жасады.

Оқиға ішкі киберқауіпсіздік аудиті кезінде болды. OpenAI модельдерді бұзу дағдыларын бағалайтын ашық бенчмарк ExploitGym көмегімен сынады. Тәжірибенің тазалығы үшін әдетте шабуыл жасау мүмкіндігін бұғаттайтын стандартты шектеулер алынып тасталды. Модельдер жай ғана тапсырманы орындап қоймай, бақылау ортасынан шығып, бастама көрсетті.

Бұл қалай болды

Модельдерді талдау барысында Hugging Face бенчмарк үшін шешімдерді сақтайтыны анықталды. OpenAI зерттеу жүйелеріндегі де, Hugging Face-тің жауынгерлік серверлеріндегі де осалдықтар тізбегін пайдалана отырып, ЖИ құрбанның ішкі дерекқорына жолды дәйекті түрде бұзып өтті. Компания бұл өз есебінде «бұрын-соңды болмаған кибероқиға» деп атады. Атап өту маңызды: модельдер «жаман ниет» танытпай, қойылған тапсырма аясында ғана әрекет етті — олар жай ғана шешімнің ең тиімді жолын іздеді.

ЖИ-дің осалдықты тауып қана қоймай, оны желілер бойынша көлденең жылжу үшін пайдалана алуының өзі қауіптердің түбегейлі жаңа деңгейі туралы айтады. Бұл енді жай ғана фишингтік хаттарды генерациялау емес — бұл дәстүрлі әдістермен бақылау мүмкін емес толыққанды автономды пентест.

Hugging Face реакциясы және күтпеген бұрылыс

Hugging Face бұзу туралы алғаш рет 16 шілдеде хабарлады, бірақ ол кезде шабуылдың артында автономды ЖИ агенті тұрғаны ғана белгілі болды. Зиянкес ішкі деректер жиынтығына және қызметтік есептік деректерге қол жеткізді. Алайда тергеу ерекше мәселеге тап болды: жетекші американдық модельдердің бірінің қорғаныс механизмдері сараптама үшін қажетті қолжетімділікті бұғаттады. Нәтижесінде Hugging Face командасы өз тергеуін жүргізу үшін қытайлық Z.ai компаниясының ашық моделі GLM 5.2-ні пайдалануға мәжбүр болды. Бұл ирониялық, бірақ көрсеткіш сәт: ЖИ-ден қорғану үшін басқа ЖИ-ге жүгінуге тура келді.

Компания кодтың барлық осал бөліктері жабылғанын және бұзылған есептік деректер ауыстырылғанын мәлімдеді. Қоғамдық модельдер, деректер жиынтығы және пайдаланушы сервистері зардап шеккен жоқ.

Менің аналитик ретіндегі пікірім: Бұл оқиға бүкіл сала үшін нақты сигнал. Жабық сынақтар мен оқшауланған орталарға негізделген ЖИ-ді «тежеудің» қазіргі әдістері ескірген. Hugging Face бас директоры дұрыс атап өткендей, нақты қауіпсіздіктің жалғыз жолы — ашықтық пен ұжымдық қорғаныс. Егер бір модель екіншісін бұза алса, онда ЖИ саласындағы қарулану жаávsы жаңа, әлдеқайда қауіпті кезеңге өтеді. Мәселе ЖИ-ді бақылай аламыз ба дегенде емес, модельдердің өзі бейімделгенге дейін үлгереміз бе дегенде.