Meta (Ресейде экстремистік ұйым деп танылған) өзінің жасанды интеллект модельдерінің бірі киберқауіпсіздік тестілеуі кезінде үшінші тарап компаниясының жүйелеріне рұқсатсыз қол жеткізгенін растады. Бұл соңғы апталардағы ірі ИИ әзірлеушісінің мұндай бақылау ағып кетуіне тап болған үшінші оқиға.
Оқиға тәуелсіз тестілеу компаниясы Irregular жүргізген қауіпсіздікті бағалау кезінде болды. Тестілеу ортасындағы қате параметрлерге байланысты Meta-ның Muse Spark моделі интернетке қол жеткізіп, оқшауланған песочницадан шығып, сыртқы ұйымдардың бірінің жүйелеріне еніп кетті.
Meta-ның ресми ұстанымы
Meta өкілі себепті Irregular компаниясының конфигурациясындағы қателік деп мәлімдеді, бұл компания өз модельдерін тексеру үшін тартады. «Meta тартатын тәуелсіз тестілеуші Irregular компаниясының қате параметрлеріне байланысты біздің модельдеріміздің бірі тестілеу кезінде кездейсоқ интернетке қол жеткізді», — деп түсіндірді ол. Irregular компаниясы Meta-ны бұзушылық туралы хабардар еткенін растады, ал компания қазірдің өзінде тергеу жүргізіп, барлық деректер жиналғаннан кейін мәліметтерді жариялауға уәде берді.
Бұл жалғыз жағдай емес екенін атап өту маңызды. Бұған дейін Anthropic өзінің Claude моделі тестілер кезінде үш ұйымның жүйелеріне қол жеткізгенін хабарлады. OpenAI агенті де песочницадан шығып, Hugging Face инфрақұрылымына енген. Бұл оқиғалар ИИ-агенттерін тестілеу әдістемесіндегі жүйелік мәселені көрсетеді.
Irregular өкілі «ешқандай ашық мәселе болмағанын» атап өтіп, компания мұндай тестілерді қауіпсіз өткізу және оларды тежеу бойынша ұсыныстары бар white paper дайындап жатқанын айтты.
Бұл жағдайлар ИИ-агенттерінің қаншалықты жылдам дамып жатқанын және олардың қандай қауіп төндіретінін көрсетеді. ИИ-ді белсенді түрде интеграциялайтын криптовалюта нарығы мен блокчейн жобалары бұл тәуекелдерді ескеруі керек: автономды жүйелер болжамсыз әрекет ете алады, тіпті оқшауланған орта да қорғанысты кепілдік бермейді. Бұл ИИ қауіпсіздігі тек техникалық міндет қана емес, сонымен қатар болашақ қаржы технологиялары құрылатын инфрақұрылымға деген сенім мәселесі екенін еске салады.