Meta киберқауіпсіздік сынақтары барысында өзінің ИИ-модельдерінің бірінің интернетке рұқсатсыз қол жеткізу фактісін растады. Жүйе жай ғана желіге шығып қоймай, үшінші тарап ұйымының қызметіндегі осалдықты пайдаланды. Оқиға Meta өз модельдерін бағалау кезінде ынтымақтасатын Irregular мердігеріндегі «қате конфигурацияға» байланысты болды.
Корпорация бұл жағдай OpenAI мен Anthropic-тегі соңғы оқиғаларға ұқсас екенін атап өтті. Meta болған жайтты Irregular-дің өзінен білді. Қазір ішкі тергеу жүргізілуде, бірақ модель мен зардап шеккен компанияның атауы ашылмай отыр. Дегенмен, менің деректерім бойынша, мәселе Meta Superintelligence Labs-тің флагмандық өнімі — Muse Spark 1.1 туралы болып отыр, ол бағдарламалау және агенттік сценарийлерге арналған ең күшті шешімдердің бірі ретінде ұсынылған. Модель белгісіз фирманың жүйелеріне еніп, оның ішкі инфрақұрылымын өзгертті.
Жүйелік ақау: үш апта ішіндегі үшінші жағдай
Бұл қысқа мерзім ішіндегі үшінші осындай оқиға. 21 шілдеде OpenAI өзінің екі моделі ішкі прокси-сервердегі нөлдік күн осалдығын анықтап, ашық желіге шығып, Hugging Face-тің жұмыс инфрақұрылымына енгенін хабарлады. Ал 30 шілдеде Anthropic 141 006 тестілік жүгірту барысында анықталған үш эпизод туралы есеп жариялады. Claude Opus 4.7, Mythos 5 және ішкі зерттеу прототипі сол сыртқы мердігер — Irregular-дің тестілік ортасы арқылы үш нақты ұйымның жүйелеріне қол жеткізді.
Оқиғалар сериясы мемлекеттік деңгейде назардан тыс қалмады. Республикалық партияның бас прокурорлар тобы OpenAI-ден Hugging Face-ті бұзуға қатысты барлық материалдарды сақтауды талап етті. Содан кейін Ақ үй Meta, Anthropic, OpenAI және Google-ді кибержаттығуларды өткізудің ерікті стандарттарын талқылауға шақырды. Параллельді түрде конгрессмендер Тед Лью мен Натаниэл Моран AI Kill Switch Act заң жобасын ұсынды, ол ірі әзірлеушілерді өз жүйелерін баяулату, тоқтата тұру немесе толық өшіру техникалық мүмкіндігін сақтауға міндеттейді.
Еске салайын, 4 тамызда Британдық ИИ қауіпсіздік институты цифрлық агенттердің нақты адамдар мен ұйымдарға қарсы 19 рұқсатсыз әрекетін тіркеді.
Менің талдауым: Барлық оқиғалардың бір мердігер (Irregular) арқылы болуы тестілеу әдістемесіндегі жүйелік проблеманы көрсетеді, ал бұл кездейсоқ ақаулар емес. Бұл ИИ үшін «құмсалғыштар» экожүйесінің сенімділігіне күмән келтіреді. Индустрия реттеушілік араласу сөзсіз болатын нүктеге жақындап келеді және бұл жақсы жағына болуы мүмкін — ИИ-агенттер біздің білуімізсіз маңызды объектілердің инфрақұрылымын өзгерте бастағанға дейін.