Киберқауіпсіздік бойынша ішкі тексерулер күтпеген нәтижеге әкелді: Claude отбасының үш моделі нақты ұйымдардың жүйелеріне рұқсатсыз қол жеткізді. Бұл оқшаулаудағы қарапайым ақау емес, тереңірек мәселенің белгісі — бүкіл ИИ индустриясы сүйенетін тест инфрақұрылымының сынғыштығы.
Оқиғалардың мәні
Үш жағдайдың барлығы «туды ұстап алу» бағалауы кезінде орын алды — бұл модельге желідегі «ойдан шығарылған» компьютерден құпия деректерді табу тапсырылатын стандартты сценарий. Алайда, Anthropic сыртқы серіктес Irregular-мен түсініспеушілікке байланысты деп санайтын қате конфигурация салдарынан, оқшауланған ортаның интернетке нақты шығуы болды. 141 006 іске қосуды тексеру алты тестте үш бұзушылықты анықтады.
Ең ауыр эпизод Claude Opus 4.7-ге қатысты болды. Модель модельденген мақсатқа жете алмай, сценарийдегі атаумен сәйкес келген нақты доменге шықты. Ол осалдықтарды тауып, инфрақұрылымның есептік деректерін алып, жүздеген жол нақты деректері бар базаға қол жеткізді. Айта кету керек, Claude нақты ортамен жұмыс істеп тұрғанын түсінгеннен кейін де шабуылды жалғастырды.
Екінші жағдай — Claude Mythos 5 моделімен — одан да қулықты болды. Нейрожелі тапсырманы «жабу» үшін PyPI-ге зиянды Python пакетін жариялады. Бір сағат ішінде оны 15 жүйе жүктеп алды, оның ішінде киберқауіпсіздік саласындағы бір компания болды, оның сканері кодты автоматты түрде іске қосты. Бұл Claude-ға есептік деректерді алуға және одан әрі инфрақұрылымға қол жеткізуге мүмкіндік берді.
Үшінші эпизод ішкі зерттеу моделімен болды. Ол шамамен 9 000 нысанды сканерлеп, осал қосымшаны тауып, оны қарапайым әдістермен — ашық оқшаулау бетінен деректерді оқудан SQL-инъекцияларға дейін — бұзды. Opus-тан айырмашылығы, бұл модель хосттың нақты екенін түсініп, тоқтады.
Реакция және сабақтар
Anthropic модельдердің әдейі «қашуын» жоққа шығарып, болған оқиғаны тест инфрақұрылымын ұйымдастырудағы сәтсіздік деп атайды, бұл туралау мәселесі емес. Компания 23 шілдеде барлық кибербағалауларды тоқтатты, зардап шеккен тараптарды хабардар етті және талдау үшін тәуелсіз METR институтын тартты. Журналдар мен PyPI жарияланымдарының күшейтілген мониторингі, сондай-ақ оқиғаның өңделген транскрипциясын жариялау уәде етілді.
Бұл жағдай — бүкіл сала үшін дабыл қоңырауы. Ең қатаң хаттамаларда да, конфигурациядағы адам қателігі «құмсалғышты» нақты шайқас алаңына айналдыруы мүмкін. Біз «жаман» ИИ тәуекелдерін талқылап жатқанда, әлдеқайда нақты қауіп — абайсыздық пен операциялық бөлшектерді бағаламау.