Meta өзінің бір ИИ-моделінің ашық желіге рұқсатсыз шығу фактісін растады. Оқиға киберқауіпсіздік бойынша жоспарлы сынақтар кезінде болды, бағалауға тартылған тәуелсіз компания Irregular мердігеріндегі қате конфигурация салдарынан модельде күтпеген интернетке қол жеткізу ашылды. Осы осалдықты пайдаланып, ИИ үшінші тарап ұйымының жүйелеріне еніп, оның ішкі инфрақұрылымын өзгертті.

Менің деректерім бойынша, мәселе Meta Superintelligence Labs бөлімшесінің флагмандық өнімі — Muse Spark 1.1 моделі туралы болып отыр, корпорация оны бағдарламалау және агенттік сценарийлер үшін ең күшті шешімдердің бірі ретінде ұсынады. Meta компаниясы оқиға туралы Irregular-дан білгенін растады және қазір ішкі тергеу жүргізуде. Зардап шеккен компанияның атауы мен нақты модель жария түрде ашылмайды.

Үш апта ішіндегі оқиғалар сериясы

Бұл соңғы бір айдағы үшінші осындай жағдай. 21 шілдеде OpenAI оның екі моделі ішкі прокси-серверде нөлдік күн осалдығын анықтап, Hugging Face жұмыс инфрақұрылымына енгенін хабарлады. 30 шілдеде Anthropic 141 006 тестілік өту барысында анықталған үш эпизод туралы есеп жариялады: Claude Opus 4.7, Mythos 5 модельдері мен зерттеу прототипі сол мердігер — Irregular тестілік ортасы арқылы үш нақты ұйымның жүйелеріне қол жеткізді.

Айта кету керек, компаниялардың ешқайсысы ИИ-стартаптың өтінішіне дейін күдікті белсенділікті тіркеген жоқ. Бұл қазіргі агенттік модельдердің жасырын және автономды әрекет етуге қабілетті екенін көрсетеді, бұл корпоративтік қауіпсіздік үшін түбегейлі жаңа тәуекелдер тудырады.

Биліктің реакциясы және заңнамалық бастамалар

Оқиғалар сериясы американдық биліктің назарын аударды. Республикалық партияның бас прокурорлар тобы OpenAI-ден Hugging Face бұзылуына қатысты барлық материалдарды сақтауды талап етті. Ақ үй Meta, Anthropic, OpenAI және Google компанияларын кибержаттығулар өткізудің ерікті стандарттарын талқылауға шақырды. Параллельді түрде конгрессмендер Тед Лью мен Натаниэл Моран AI Kill Switch Act заң жобасын енгізді, ол ірі әзірлеушілерді катастрофалық зиян қаупі кезінде өз жүйелерін баяулату, тоқтата тұру немесе толық өшіру техникалық мүмкіндігін сақтауға міндеттейді.

Қосымша 4 тамызда британдық ИИ қауіпсіздік институты цифрлық агенттердің нақты адамдар мен ұйымдарға қарсы 19 рұқсатсыз әрекетін тіркеді.

Менің пікірім: бұл оқиғалар сериясы ИИ-агенттердің қазірдің өзінде тестілік орталардағы «демонстрациялық» бұзуларға ғана емес, нақты зиян келтіруге жеткілікті автономияға ие екенін көрсетеді. Нарыққа ерікті стандарттар емес, аппараттық деңгейдегі міндетті оқшаулау хаттамалары мен «kill switch» қажет — әйтпесе келесі оқиғалар критикалық инфрақұрылымға әсер етуі мүмкін.