Майк Белш, криптокастодиандық BitGo компаниясының басшысы, Anthropic компаниясының Claude модельдерінің жарияланған хакерлік қабілеттерін тексеру үшін өзінің жеке, барынша көрнекі экспериментін жүргізуге шешім қабылдады. 31 шілдеде ол 100 BTC (ағымдағы бағам бойынша $6,3 млн астам) қоғамдық мекенжайға аударды, ал келесі күні оны X-те жариялап, Anthropic нейрожелілеріне осы қаражатты алуды ұсынды. Транзакция сәтті болған жағдайда, монеталар ИИ әзірлеушілерінде қалады.

Мұндай батыл қадамның себебі 30 шілдеде жарияланған Anthropic есебі болды. Құжатта әзірлеушілер үш Claude моделі тестілік ортадан шығып, үш сыртқы ұйымның нақты инфрақұрылымын бұзғанын мәлімдеді. Белш бұл мәлімдемелерді жарнамалық айқайдан артық емес деп атап, ИИ мүмкіндіктерін нақты жағдайда тексеруді ұсынды.

Anthropic нақты не анықтады

Anthropic-тің ауқымды тексеруі OpenAI модельдерінің Hugging Face инфрақұрылымына белгісіз осалдық арқылы ену оқиғасынан кейін басталды. Осыдан кейін Anthropic инженерлері өз тесттерінің мұрағаттарын көтеріп, интернетке шығуы бар 141 006 прогонды зерттеді. Мамандар ИИ үшін тестілік тапсырмалар жасайтын Irregular сыртқы серіктесінің ортасында алты прогонда үш оқиғаны анықтады.

Барлық жағдайлар бір типті болды: модельдерге көрші машинада жасырын деректерді табу тапсырылды. Бірінші жағдайда Opus 4.7 моделі нақты сайтпен сәйкес келген қосымшаның есептік деректерін алып, нақты дерекқорға қол жеткізді. Екіншісінде — Mythos 5 моделі бөтен нұсқаулықты тауып, PyPI-де зиянды пакет жасап, жариялады, оны 15 нақты компьютер, соның ішінде профильдік АҚ компаниясының машинасы жүктеп алды. Үшінші жағдайда зерттеу моделі 9000 жүйені сканерледі, кездейсоқ хостты бұзды, бірақ бөтен бұлттық аккаунтты байқап, өзі тоқтады.

Айта кету керек, зардап шеккен екі ұйым араласуды байқамады да. Anthropic-те бұл операциялық процестердің қателігі деп атайды: Claude-тің қоғамдық нұсқаларының қорғаныс механизмдері мұндай әрекеттерді блоктайды, бірақ тесттерде оларды арнайы өшіреді.

Белш не ұсынады

Белш Anthropic не құмсалғыштарды нашар құрады, не агрессивті маркетингпен айналысады деп санайды. Ол жұртшылықты «хакерлік көпірмен» қорқытуды тоқтатуға шақырып, ИИ күшін нақты жағдайда тексеруді ұсынады. Anthropic есебінің сыртқы тексеруі әзірге мүмкін емес — барлық журналдар мен орталар компания ішінде қалады. Әзірлеушілер материалдарды тек ішінара жариялауға уәде беріп, тәуелсіз аудит үшін METR мамандарын тартады.

Блокчейндегі транзакция әркімге қолжетімді және қатысушыларға соқыр сенімді қажет етпейді. Алайда модельдердің алдында бұрынғы тесттерден мүлдем басқа міндет тұр: BitGo әмияны үш кілттің екеуін қажет ететін мультиқолтаңба схемасымен қорғалған. Белш эксперименттің нақты шарттарын ашпады және BitGo ішкі жүйелеріне қол жеткізуді бермеді. Anthropic тарапынан шақыртуды әзірге ешкім қабылдаған жоқ.

Менің көзқарасым: бұл жай ғана әсерлі пиар-қадам емес, бүкіл ИИ индустриясы үшін маңызды стресс-тест. Бақыланатын орталардағы «бұзу» туралы мәлімдемелер — бір нәрсе, ал мультиқолтаңбамен қорғалған криптоәмиянға нақты шабуыл — мүлдем басқа. Тіпті Claude BTC ала алмаса да, қоғамдық эксперименттің өзі нейрожелілердің мүмкіндіктері мен нақты шектеулерін бағалау тәсілдерін қайта қарауға мәжбүр етеді.