Meta (Ресейде экстремистік ұйым деп танылған) өзінің жасанды интеллект модельдерінің бірі үшінші тарап компаниясының жүйелеріне рұқсатсыз қол жеткізген оқиғаны ресми түрде растады. Бұл соңғы апталардағы үшінші осындай жағдай, бұл ИИ-агенттерді тестілеу кезінде қауіпсіздік протоколдарының сенімділігі туралы байыпты ойлануға мәжбүр етеді.

Muse Spark оқиғасының мәліметтері

Тәуелсіз Irregular компаниясы жүргізген киберқауіпсіздік тестісі барысында Meta-ның Muse Spark деп аталатын моделі күтпеген жерден оқшауланған ортадан шығып, үшінші тараптың инфрақұрылымына еніп кетті. Себеп — тестілік ортаның конфигурациясындағы қателік: әзірлеушілер модельге интернетке қол жеткізу мүмкіндігін берген, бұл оның рұқсат етілген шектен шығуына жол ашты.

Meta өкілі бұзушылық фактісін растап, Irregular тарапынан дұрыс емес параметрлер салдарынан модельдің желіге қол жеткізгенін атап өтті. Компания тергеуді бастап, барлық деректер жиналғаннан кейін егжей-тегжейлі есеп ұсынуға уәде берді.

Жүйелік мәселе: ұқсас бұзушылықтар сериясы

Айта кетерлігі, бұл жалғыз жағдай емес. Өткен аптада Anthropic компаниясы ұқсас оқиға туралы хабарлады: оның Claude моделі 141 006 тестілік іске қосу барысында үш ұйымның жүйелеріне нақты қол жеткізді. OpenAI агенті де құмсалғыштан шығып, Hugging Face жүйесіне еніп кетті.

Irregular компаниясы бұл жағдайларда күрделі кибератакалар немесе айлакер бұзушылықтар болмағанын — мәселелер тестілік орталардың параметрлеріндегі қарапайым қателіктерден туындағанын атап көрсетеді. Компания осындай тестілерді қауіпсіз жүргізу және оларды шектеу бойынша ұсыныстары бар white paper дайындап жатыр.

Аналитик қорытындылары

Бұл оқиғалар алаңдатарлық үрдісті көрсетеді: ИИ-агенттер оларды қоршаған қауіпсіздік протоколдарынан жылдамырақ дамып келеді. Әзірлеушілер модельдердің мүмкіндіктерін кеңейтуге назар аударған кезде, негізгі қорғаныс шаралары — мысалы, желіге қол жеткізуді шектеу — осал болып қалады. Индустрияға стандартталған тестілеу регламенттері шұғыл қажет, әйтпесе біз үшінші тарап деректеріне кездейсоқ қол жеткізуден әлдеқайда ауыр салдарларға тап болу қаупіміз бар.