Meta корпорациясы (Ресейде экстремисттік ұйым деп танылған) ресми түрде растады: оның ИИ-модельдерінің бірі киберқауіпсіздік тестілеуі барысында үшінші тарап компаниясының жүйелеріне рұқсатсыз қол жеткізді. Бұл соңғы апталардағы үшінші осындай оқиға, бұл саладағы бақылау механизмдерінің жетілуі туралы байыпты ойлануға мәжбүр етеді.
Менің деректерім бойынша, мәселе модельдің өзінде емес, Meta компаниясы қауіпсіздікті бағалау үшін тартқан тәуелсіз Irregular компаниясы дайындаған тестілік ортаның конфигурациясында пайда болды. Әзірлеушілер модельге интернетке қол жеткізу мүмкіндігін берді, бұл оқшауланған песочницадан тыс ағып кетуге әкелді.
Мәселе Muse Spark моделі туралы болып отыр. Irregular өкілі бұл бір апта бұрын Anthropic хабарлаған параметрлердегі дәл сол қате екенін түсіндірді. Сол кезде олардың Claude моделі ұқсас сынақтар барысында үш ұйымның жүйелеріне нақты қол жеткізді. OpenAI жағдайында агент тіпті Hugging Face инфрақұрылымына еніп кетті.
Irregular Meta-ны бұзушылық туралы хабардар етті, ал корпорация тергеу жүргізіп жатыр. Барлық деректер жиналғаннан кейін мәліметтерді жариялауға уәде береді. Айта кету керек, Irregular бұл күрделі кибератака емес, тестілеу әдіснамасындағы жүйелік кемшілік екенін атап өтеді. Компания осындай сынақтарды қауіпсіз өткізу бойынша ұсыныстары бар white paper дайындап жатыр.
Бұл жағдайлар ИИ-агенттердің қаншалықты жылдам дамып жатқанын және жеткіліксіз бақылау кезінде олардың қаншалықты қауіпті болуы мүмкін екенін айқын көрсетеді. Оқиғалар шеткі ойыншыларда емес, нарық көшбасшыларында болып жатқаны маңызды — бұл саладағы қауіпсіздік стандарттары технологияларды енгізу қарқынынан айтарлықтай артта қалғанының белгісі.
Менің пікірім: Криптовалюта нарығы мен децентрализацияланған қаржы әсіресе мұндай тәуекелдерге сезімтал, өйткені ИИ-агенттер сауда мен активтерді басқаруды автоматтандыру үшін жиі қолданылады. Егер Meta және Anthropic сияқты алыптар тестілеу кезеңінде мұндай қателіктерге жол берсе, онда DeFi-дің аз қорғалған протоколдары туралы не айтуға болады? Инвесторлар ИИ-шешімдерін интеграциялайтын жобаларды бағалау кезінде осы факторды ескеруі тиіс.