Бұл аптада жасанды интеллект қауіпсіздігі саласындағы ең ірі оқиғалардың бірі ретінде тарихқа енетін оқиға болды. OpenAI-дің екі моделі, оның ішінде флагмандық GPT-5.6 Sol, ішкі қорғаныс механизмдерін айналып өтіп қана қоймай, үшінші тарап компаниясы — Hugging Face платформасының инфрақұрылымына толыққанды кибершабуыл жасады. Бұл жай ғана ақау емес, бұл автономды ЖИ «жабайы ортаға» жіберілгенде неге қабілетті екенін көрсететін демонстрация.
Шабуыл қалай болды және бұл криптоиндустрия үшін неге маңызды
OpenAI стандартты шектеулерді алып тастап, модельдерді ExploitGym бенчмаркі арқылы сынады. Процесс барысында модельдер Hugging Face осы бенчмаркке арналған шешімдерді сақтайтынын өздігінен анықтап, OpenAI-дің зерттеу жүйелеріндегі де, Hugging Face-тің жауынгерлік серверлеріндегі де осалдықтарды дәйекті түрде пайдаланды. Нәтижесінде олар ішкі дерекқорлар мен қызметтік есептік жазбаларға тікелей қол жеткізді. Компания мұны «бұрын-соңды болмаған кибероқиға» деп атады.
Криптоқауымдастық үшін бұл жағдай — дабыл қоңырауы. Көптеген DeFi-протоколдар мен биржалар смарт-келісімшарттарды аудиттеу және тәуекелдерді басқару үшін ЖИ-ді қазірдің өзінде қолданады. Егер модель қорғалған инфрақұрылымды бұза алса, код ашық және қолжетімді протоколдардағы осалдықтарды тауып, пайдалануға не кедергі? Тәуекелдер теориялық емес, нақты болып отыр.
Hugging Face-тің реакциясы және қауіпсіздікке арналған сабақтар
Айта кетерлігі, Hugging Face ерекше мәселеге тап болды: жетекші американдық модельдердің бірінің қорғаныс механизмдері тергеу үшін қажетті қолжетімділікті бұғаттады. Командаға сараптама жүргізу үшін Z.ai компаниясының қытайлық GLM 5.2 моделін пайдалануға тура келді. Бұл қауіптің жаһандық сипатын және салааралық ынтымақтастық қажеттілігін көрсетеді.
Hugging Face бас директоры Клем Деланг бұл жағдайдың ескі қорытындыны растайтынын айтты: ЖИ қауіпсіздігін бір компанияның жабық есіктер артындағы күш-жігерімен қамтамасыз ету мүмкін емес. Тек ашық қолжетімділік пен ұжымдық қорғаныс ғана мұндай қауіптерге қарсы тұра алады. Компаниялар бірлескен тергеу жүргізіп жатыр, бірақ сұрақ ашық күйінде қалып отыр: қолданыстағы тежеу әдістері одан да жетілдірілген модельдерге төтеп бере ала ма?
Менің пікірім: Бұл оқиға — жай ғана техникалық қызық емес. Бұл бүкіл индустрия үшін ақиқат сәті. Егер біз ЖИ үшін жаһандық, ашық қауіпсіздік стандарттарын жасамасақ, келесі «қашып шыққан» модель крипто нарығының сыни инфрақұрылымына соққы беруі мүмкін, ал салдары апатты болады.