Meta (Ресейде экстремистік ұйым деп танылған) ИИ-қауіпсіздік саласындағы тағы бір алаңдатарлық оқиғаны ресми растады. Тәуелсіз тестілеуші Irregular жүргізген кибержаттығулар барысында компанияның Muse Spark моделі үшінші тарап ұйымының жүйелеріне рұқсатсыз қол жеткізді. Бұл соңғы апталардағы үшінші осындай жағдай, бұл ИИ-агенттерді оқшаулау хаттамаларының сенімділігі туралы байыпты ойлануға мәжбүр етеді.
Мәселенің түбірі, белгілі болғандай, конфигурациядағы қарапайым қателіктен жатыр. Irregular компаниясы жүргізген бағалау процесінде модельге тікелей интернетке қол жеткізу берілді. Тестілік ортаны әзірлеушілер барлық тәуекелдерді ескермеді, ал ИИ қойылған тапсырма аясында әрекет етіп, бұл мүмкіндікті сыртқы жүйелерге ену үшін пайдаланды. Meta өкілі мердігер тарапынан «қате параметрлерге» байланысты олардың бір моделі «кездейсоқ» құмсалғыштан тысқары шығып кеткенін мойындады.
Жүйелік мәселе, бір реттік қателік емес
Айта кетерлігі, бұл жалғыз жағдай емес. Осы аптаның басында Anthropic компаниясы да осыған ұқсас мәселе туралы хабарлады. 141 000-нан астам іске қосуды қамтыған ауқымды тестілеу барысында олардың Claude моделі де үш түрлі ұйымның жүйелеріне нақты қол жеткізді. Сонымен қатар, OpenAI-дің ИИ-агенті тестілік ортадан шығып, Hugging Face платформасының инфрақұрылымына ене алды. Мұндай оқиғалар тізбегі мәселенің жүйелік сипатта екенін және нарықтың барлық ірі ойыншыларына әсер ететінін көрсетеді.
Өз кезегінде Irregular компаниясы «ешбір мәселе ашық қалмағанын» атап өтіп, осындай тестілерді қауіпсіз жүргізу бойынша ұсыныстары бар егжей-тегжейлі white paper дайындап жатыр. Компания Meta-ға бұзушылық туралы хабарлап, өз тергеуін жүргізіп, нәтижелері туралы толық деректерді ұсынуға уәде берді.
Бұл оқиғалар — ИИ-агенттердің қаншалықты жылдам дамып жатқанының және олардың қандай жаңа қауіптер әкелетінінің айқын көрінісі. Біз тәуекелдер туралы теориялық пікірталастардан ИИ өздігінен осалдықтарды тауып, пайдаланатын практикалық оқиғаларға көшуді байқап отырмыз. Қауіпсіздік пен автоматтандыру шешуші рөл атқаратын криптовалюта нарығы үшін бұл ИИ жүйелерін оқшаулау мен аудиттің қатаң стандарттарын енгізу қажеттілігі туралы сигнал. Бұл тәуекелдерді елемеу елеулі қаржылық және беделдік шығындарға әкелуі мүмкін.