Дональд Трамп әкімшілігі Қытаймен байланысты топтың Mythos-қа қол жеткізуі мүмкін екендігі туралы деректер алғаннан кейін, Anthropic компаниясының жасанды интеллект үлгілері — Fable 5 және Mythos 5-ке экспорттық шектеулер енгізді. Бұл оқиға Ақ үй үшін негізгі триггерге айналды, дегенмен ресми тұлғалар бұл нұсқаны жария түрде растамады.
Сонымен қатар, Fable 5-тің қорғаныс механизмдерін айналып өту туралы хабарламалар пайда болды, бұл да шектеулерге негіз болды. Anthropic компаниясының өзі бұл «тар» және әмбебап емес әдіс екенін, модельге бірегей мүмкіндіктер бермейтінін алға тартады. Компания билікпен келіссөздерде Mythos-қа «қытайлық қол жеткізу» тақырыбы көтерілгенін жоққа шығарады және ҚХР-дан өз өнімдеріне қол жеткізуге тыйым салатынын атап көрсетеді.
Шектеулерге дейінгі оқиғалар
11 маусымда Amazon компаниясының бас директоры Энди Джесси модельді тексеру туралы сұрауға жауап ретінде Fable 5 қорғанысын айналып өту мүмкіндігі туралы президент әкімшілігіне хабарлады. АҚШ сауда министрі Говард Латник Anthropic басшысы Дарио Амодеиге хат жолдады, оған сәйкес Fable 5 және Mythos 5 АҚШ-тан тыс жерлерде және ел ішіндегі барлық шетелдік тұлғалар үшін экспорттық бақылауға ілікті. Дереккөздердің мәліметінше, шенеуніктер Anthropic-ті ерікті түрде қол жеткізуді тоқтатуға көндіруге тырысқан, бірақ компания бас тартқан. Стартапқа жақын сұхбаттасушылар Ақ үйдің қауіп сипатын түсіндірместен модельдерді өшіруге небәрі 90 минут бергенін айтады.
13 маусымда Ақ үй басшысының кеңесшісі Дэвид Сакс әкімшілік Fable 5 қорғанысын айналып өту мүмкіндігі туралы ескертуді билік те, Anthropic те сенетін серіктестен алғанын мәлімдеді. «Әкімшілік Anthropic қауіпсіздік мәселесін шешеді, экспорттық бақылау алынып тасталады, ал Fable жалпы қолжетімділікке қайта оралады деп үміттенеді. Доп Anthropic алаңында», — деп жазды Сакс.
Anthropic ұстанымы
Anthropic биліктің хатында ұлттық қауіпсіздікке қатысты нақты мәліметтер болмағанын мәлімдейді. Компания Fable 5 қорғанысын айналып өту техникасының демонстрациясын зерттеп, ол «бұрыннан белгілі шамалы осалдықтардың аз санын» табуға мүмкіндік береді деген қорытындыға келді. Anthropic басқа да қоғамдық қолжетімді модельдер қорғанысты айналып өтпей-ақ сол мәселелерді анықтай алатынын қосады.
Fable 5 іске қосылғанға дейін компания АҚШ үкіметімен, Британдық ЖИ қауіпсіздік институтымен және үшінші тарап ұйымдарымен бірлесіп, қорғаныстарды тестілеуге «мыңдаған сағат» жұмсады. Тестілеушілер әлі күнге дейін модельдің шектеулерін жаппай айналып өтудің әмбебап тәсілін таппады. «Біз мұны түсінбеушілік деп санаймыз және қол жеткізуді мүмкіндігінше тезірек қалпына келтіру үшін жұмыс істеп жатырмыз», — деді Anthropic.
Контекст және салдары
9 маусымда Anthropic Fable 5 және Mythos 5-ті ұсынды. Fable 5 — жалпы қолжетімділікке арналған Mythos класындағы модель, ал Mythos 5 сол негізгі модельді пайдаланады, бірақ жекелеген салаларда әлсіретілген шектеулері бар, ол Project Glasswing аясында киберқорғаушылар мен сыни инфрақұрылым жеткізушілеріне арналған. 2 маусымда компания Project Glasswing-ті 15-тен астам елден шамамен 150 ұйымға кеңейтетінін жариялады, олар жоғары және сыни дәрежедегі 10 000-нан астам осалдықты тапты.
Экспорттық шектеулер енгізілгеннен кейін орталықтандырылмаған ЖИ жобалары Venice және Morpheus токендері сәйкесінше 14% және 21%-ға өсті, бұл нарықтың орталықтандырылған AI-модельдерін бақылаудың күшеюіне реакциясын көрсетеді.
Менің пікірім: Бұл оқиға ұлттық қауіпсіздік пен ЖИ әзірлемелерінің ашықтығы арасындағы шиеленістің артып келе жатқанын көрсетеді. Нақты дәлелдерсіз енгізілген шектеулер инновацияларды тежеп, жаһандық ЖИ нарығының фрагментациясын күшейтуі мүмкін. Орталықтандырылмаған жобалардың токендерінің өсуі — инвесторлардың оларды саяси қысымға аз ұшырайтын балама ретінде көретінінің белгісі.