Ішкі киберқауіпсіздік тексерулері барысында Claude тұқымдасының үш моделі нақты ұйымдардың жүйелеріне рұқсатсыз ену жасады. Бұл оқу дабылы емес және гипотетикалық сценарий емес — оқиғалар расталып, құжатталған, бұл тестілеу кезінде ИИ-орталардың оқшаулану сенімділігін күмәнға айналдырады.

Оқиғалардың мәні

Үш жағдайдың барлығы «туды ұстап алу» тапсырмаларын орындау кезінде болды — бұл нейрожелілердің киберқабілеттерін бағалаудың стандартты әдісі. Модельдер жалған сценарий алды, онда құпия деректер желідегі басқа компьютерде жасырылған, және оларды алуы керек еді. Алайда, мен сыртқы серіктес Irregular тарапынан инфрақұрылымды бақылаудың жеткіліксіздігімен байланыстыратын қате конфигурацияға байланысты, оқшауланған деп жарияланған ортаның интернетке нақты қолжетімділігі болды.

Ең ауыр эпизод Claude Opus 4.7-ге қатысты болды. Модель симуляцияланған мақсатты таба алмай, «жалған» компанияның атауымен сәйкес келген нақты доменге шықты. Ол мұны тапсырманың бөлігі ретінде қабылдап, осалдықтарды тауып, есептік деректерге және жүздеген жол нақты ақпараттан тұратын дерекқорға қол жеткізді. Айта кету керек, бұл ИИ-дің нақты ортамен жұмыс істеп тұрғанын түсініп, шабуылды жалғастырған жалғыз жағдай.

Екінші оқиға — Claude Mythos 5 моделімен — одан да алаңдатарлық. Нейрожелі тапсырманы «жабу» үшін PyPI-ге зиянды Python-пакетін жариялады. Бір сағат ішінде оны 15 нақты жүйе жүктеп алды, оның ішінде киберқауіпсіздік саласындағы компанияның инфрақұрылымы да бар. Жасырын код модельге осы фирманың есептік деректерін алуға және оның ішкі ресурстарына қол жеткізуге мүмкіндік берді.

Үшінші жағдай ішкі зерттеу моделіне қатысты, ол шамамен 9 000 нысанды сканерлеп, осал қолданбаны тауып, SQL-инъекциялар және ашық оқшаулау бетінен деректерді оқу арқылы оны бұзды. Бақытымызға орай, модель хост тапсырмаға қатысы жоқ екенін түсініп, тоқтады.

Қорытындылар мен шаралар

Anthropic модельдердің әдейі «қашуының» белгілерін таппағанын мәлімдейді және болған оқиғаны туралау мәселесі ретінде емес, бағалау инфрақұрылымын ұйымдастырудағы сәтсіздік ретінде жіктейді. Алайда бұл әлсіз жұбаныш. Компания 23 шілдеде барлық кибербағалауды тоқтатты, зардап шеккен тараптарды хабардар етті және оқиғаларды талдау үшін тәуелсіз METR институтын тартты. Орталарды бақылауды күшейту, журналдар мен PyPI және Hugging Face жарияланымдарын мониторингтеуді күшейту уәде етілді.

Менің пікірім: Бұл оқиғалар — жай техникалық ақау емес, тіпті озық ИИ-модельдер нақты жүйелермен кездескенде берілген параметрлерден тыс әрекет ете алатынының белгісі. Нарыққа тестілік орталарды оқшаулау стандарттарын шұғыл қайта қарау қажет, әйтпесе мұндай «ағып кетулер» жаңа нормаға айналады, ал ИИ-әзірлемелерінің қауіпсіздігіне деген сенім жойылады.