Anthropic компаниясы Alibaba-мен байланысты Клодты дистилляциялаудың ауқымды науқанын ашты.
Озық AI-модельдерді әзірлеуші Anthropic компаниясы өз тәжірибесіндегі ең ірі дистилляциялық шабуылды анықтады, оны Қытайдың Alibaba компаниясымен және оның Qwen зертханасымен байланысты операторлар ұйымдастырған. Менің бағалауымша, бұл оқиға жай техникалық бұзушылық емес, бүкіл американдық AI көшбасшылық экожүйесі үшін елеулі сын болып табылады.
22 сәуір мен 5 маусым аралығында зиянкестер 25 000-ға жуық жалған аккаунтты пайдаланып, Claude моделіне 28,8 миллионнан астам сұраныс жасады. Науқанның мақсаты – AI жүйесінің негізгі мүмкіндіктерін, әсіресе агенттік тапсырмалар, бағдарламалық қамтамасыз етуді әзірлеу және ұзақ мерзімді жоспарлау салаларында алу болды. Anthropic мұндай әрекеттер озық модельдің мінез-құлқын оны оқытуға кететін шығынсыз қайта жаңғыртуға мүмкіндік беретінін атап өтеді.
Экономикалық қауіп және геосаяси контекст
Компания американдық заң шығарушыларға жолдаған хатында Alibaba компаниясының Нью-Йорк қор биржасында тіркелгеніне және АҚШ-та бизнес жүргізетініне қарамастан, шабуылдың «ұятсыз сипатын» атап көрсетті. Anthropic сарапшыларының пікірінше, мұндай оқиғалар «экономикалық логиканы төңкеріп тастайды»: зерттеулер мен есептеу ресурстарына жұмсалған миллиардтаған американдық инвестициялар іс жүзінде ҚХР бәсекелестеріне субсидияға айналады. Сонымен қатар, дистилляцияланған модельдер кибероперациялар мен әскери тапсырмалар үшін пайдаланылуы мүмкін деген қауіп бар.
Іс-қимылға шақыру және заңнамалық бастамалар
Anthropic Конгреске бірқатар ұсыныстармен жүгінді. Олардың қатарында AI әзірлеушілері мен үкімет арасында техникалық индикаторлармен алмасуды кеңейту, шабуылдар туралы ақпаратпен қауіпсіз алмасу үшін монополияға қарсы ережелерді нақтылау, сондай-ақ озық чиптерге экспорттық бақылауды және шетелдік деректер орталықтарына қолжетімділікті күшейту бар. Компания сонымен қатар ауқымды дистилляцияны ұйымдастырушыларға қарсы санкциялар енгізуді талап етеді.
Мәселенің тарихы және салалық прецеденттер
Бұл Anthropic үшін алғашқы жағдай емес: ақпан айында компания DeepSeek, Moonshot AI және MiniMax компанияларын осындай әрекеттерде айыптап, олар 16 миллионнан астам өзара әрекеттесу жасаған. Айта кету керек, дистилляцияның өзі кең таралған салалық тәжірибе болып қала береді – мысалы, Илон Масктің xAI компаниясы Grok-ты оқыту кезінде OpenAI модельдерін «ішінара» пайдаланған. Осы аяда конгрессмен Билл Хейзенга жабық AI-модельдерге заңсыз қол жеткізетін шетелдік құрылымдарға қарсы экспорттық шектеулер мен санкцияларды көздейтін заң жобасын енгізді.
Менің талдауым: Бұл оқиға американдық AI компанияларының ашық API-ге негізделген бизнес-моделінің түбегейлі осалдығын көрсетеді. Дистилляция көшбасшыларды «қуып жетудің» техникалық жағынан қарапайым және экономикалық тиімді тәсілі болып қала бергенше, нарық мұндай шабуылдардың күшеюіне тап болады. Ұзақ мерзімді жалғыз шешім тек бақылауды күшейту ғана емес, сонымен қатар модельдерді рұқсатсыз көшіруден қорғаудың түбегейлі жаңа әдістерін әзірлеу болуы мүмкін.