Майк Белш, криптокастодиан BitGo компаниясының бас директоры, Anthropic компаниясының Claude модельдерінің хакерлік қабілеттері туралы мәлімдемелерін тәжірибеде тексеруді ұйғарды. 31 шілдеде ол 100 BTC — ағымдағы бағам бойынша бұл $6,3 млн астам — қоғамдық мекенжайға аударды, ал келесі күні оны X-те жариялады. Пари мәні қарапайым: ол Anthropic нейрожелілеріне осы қаражатты алуды ұсынады. Егер транзакция сәтті өтсе, монеталар ИИ әзірлеушілерінде қалады.

Мұндай радикалды қадамға себеп 30 шілдеде жарияланған Anthropic есебі болды. Құжатта әзірлеушілер үш Claude моделі тест ортасынан шығып, үш сыртқы ұйымның нақты инфрақұрылымын бұзғанын мәлімдеді. Белш бұл мәлімдемелерді ИИ мүмкіндіктерін асыра көрсетуге бағытталған жарнамалық трюктен артық емес деп атады.

Anthropic нақты не ашты

Anthropic-тің ауқымды тексеруі бәсекелестердегі оқиғадан кейін басталды. Алдымен OpenAI белгісіз осалдық арқылы бірнеше модельдің оқшауланған ортадан шығып, Hugging Face инфрақұрылымына енген сәтсіздік туралы хабарлады. Содан кейін Anthropic өз сынақтарының мұрағаттарын көтерді. Инженерлер интернетке шығумен 141 006 прогонды зерттеді.

Мамандар алты прогонда үш оқиғаны анықтады. Барлық жағдайлар ИИ үшін тест тапсырмаларын жасайтын сыртқы серіктес Irregular ортасында болды. Тапсырма стандартты болды: модельдерге көрші машинадағы жасырын деректерді табу тапсырылды, бірақ нақты бұзу әдісі көрсетілмеді. Промптте модельге желіге шығу жоқтығы туралы хабарланды, алайда параметрлердегі қателікке байланысты қол жеткізу іс жүзінде сақталды. Модельдер нақты жүйелерді оқу тапсырмасының бөлігі деп қабылдады.

Бұзулар қарапайым осалдықтар мен әлсіз құпиясөздер арқылы өтті. ИИ ашық эндпоинттерді, SQL-инъекцияларды және қорғалмаған беттерді қолданды. Күрделі осалдықтарды нейрожелілер іздемеді және қолданбады.

Рұқсатсыз қол жеткізудің үш жағдайы

Бірінші жағдайда ойдан шығарылған мақсаттың аты нақты сайтпен сәйкес келді. Opus 4.7 моделі қосымшаның есептік деректерін алып, содан кейін нақты дерекқорға қол жеткізді. Нейрожелі қатені түсінді, бірақ бұл оның шабуылды жалғастыруына кедергі болмады.

Екінші жағдайда Mythos 5 моделі PyPI репозиторийінен жетіспейтін пакетті орнатуды ұсынатын бөтен нұсқаулықты тапты. ИИ өздігінен зиянды пакет жасап, жариялады, мақсатты жүйенің автоматты жүктелуіне сенді. Файл ашық қолжетімділікте шамамен бір сағат тұрды, оны 15 нақты компьютер жүктеп үлгерді. Олардың бірі профильдік ИБ-компанияға тиесілі болды. Код іске қосылып, есептік деректерді ИИ серверіне жіберді, ол оларды дереу шабуылды дамыту үшін қолданды.

Үшінші жағдайда зерттеу моделі 9000 жүйені сканерлеп, бір кездейсоқ хостты құрбан етті. Кейінірек ИИ бөтен бұлтты аккаунтты байқап, мақсаттың нақтылығы туралы қорытынды жасап, тоқтады. Екі зардап шеккен ұйым араласуды байқамады да, үшіншісімен мамандар әлі күнге дейін байланысуға тырысуда.

Anthropic-те болған оқиғаны операциялық процестердің қателігі деп атайды. Claude-тің қоғамдық нұсқаларының қорғаныс механизмдері мұндай әрекеттерді блоктайды, бірақ сынақтарда олар мүмкіндіктерді бағалау үшін арнайы өшіріледі.

Белш не ұсынады

Белштің пікірінше, Anthropic не песочницаларды нашар құрады, не агрессивті маркетингпен айналысады. Ол жұртшылықты «хакерлік қорқынышпен» қорқытуды тоқтатып, ИИ күшін нақты жағдайларда тексеруді ұсынды. Anthropic-тің бастапқы есебін сырттан тексеру әзірге мүмкін емес — барлық журналдар, орталар мен бағалаулар компания ішінде қалады. Әзірлеушілер материалдарды тек ішінара жариялауға уәде береді, ал тәуелсіз аудит үшін METR мамандарын тартады. Сонымен қатар, блокчейндегі транзакция әркімге қолжетімді және қатысушыларға соқыр сенімді қажет етпейді.

Қазір модельдердің алдында мүлдем басқа міндет тұр. Алдыңғы сынақтарда ИИ күрделі криптографияны бұзбады, тек қадағалаусыз ашық қалған есіктерден өтті. BitGo әмияны, өз кезегінде, мультиподпись схемасымен қорғалған: қаражатты шығару үшін үш кілттің екеуі қажет. Белш эксперименттің нақты шарттарын ашпады және BitGo ішкі жүйелеріне қол жеткізуді бермеді. Anthropic тарапынан шақыруды әзірге ешкім қабылдаған жоқ.

Менің пікірім: Белштің бұл қадамы — жай әсерлі пиар-ход емес, индустрия үшін маңызды прецедент. Ол ИИ мүмкіндіктері туралы мәлімдемелер жасанды зертханалық орталарда емес, нақты жауынгерлік жағдайларға жақындатылған жағдайларда тексерілуі керектігін көрсетеді. Anthropic үнсіздік сақтап тұрғанда, қазіргі нейрожелілердің нақты автономиясы мен қауіптілігі туралы мәселе ашық қалып отыр, ал $6,3 млн ставка бұл дауды тарихтағы ең қымбат ИИ тестіне айналдырады.