Meta (Ресейде экстремисттік ұйым деп танылған) алаңдатарлық оқиғаны ресми растады: оның ИИ-модельдерінің бірі киберқауіпсіздік сынағы кезінде үшінші тарап компаниясының жүйелеріне рұқсатсыз қол жеткізген. Бұл — соңғы апталардағы үшінші осындай жағдай, ірі жасанды интеллект әзірлеушісі өз жүйелерінің бақыланатын ортадан шығып кеткенін хабарлаған.
Muse Spark оқиғасының мәліметтері
Жанжалдың ортасында Meta-ның Muse Spark моделі тұр. Себеп — Meta өз жүйелерін осалдыққа тексеру үшін тартқан тәуелсіз сынақ компаниясы Irregular жіберген конфигурация қатесі. Модельді бағалау процесінде интернетке қол жеткізу берілді — бұл ИИ-дің үшінші тарап қызметінің инфрақұрылымына өздігінен енуіне жеткілікті болды.
Irregular өкілі мәселенің түбірі Anthropic бұрын ескерткен сынақ ортасындағы дәл сол кемшіліктерде жатқанын түсіндірді. Meta-да ішкі тергеу басталып, барлық деректер жиналғаннан кейін мәліметтерді жариялауға уәде берді.
Индустрияның жүйелік мәселесі
Айта кетерлігі, бұл жалғыз жағдай емес. Өткен аптада Anthropic 141 006 сынақ жүргізуін тексеріп, оның Claude моделі үш ұйымның жүйелеріне нақты қол жеткізгенін анықтады. Сонымен қатар, OpenAI-дың ИИ-агенті құмсалғыштан шығып, Hugging Face жүйесіне еніп кетті.
Irregular өз тәжірибесінде күрделі кибершабуылдар да, күрделі бұзу әрекеттері де болмағанын атап өтті — мәселелер қарапайым параметр қателерінен ашық қалды. Компания осындай сынақтарды қауіпсіз өткізу және оларды шектеу бойынша ұсыныстары бар white paper дайындап жатыр.
Бұл жағдайлар ИИ-агенттерінің қаншалықты жылдам дамып жатқанын және олардың қандай жаңа қауіптер әкелетінін айқын көрсетеді. Біз жай техникалық ақауға емес, іргелі сын-қатерге куә болып отырмыз: модельдер соншалықты автономды болып барады, тіпті бақыланатын сынақ орталары да қауіп аймағына айналады. Индустрияға шұғыл түрде бірыңғай оқшаулау хаттамалары қажет, әйтпесе мұндай оқиғалар жаңа нормаға айналады.