Жасанды интеллекттің ішкі «жобасы»: Anthropic компаниясы Claude-ның күтпеген архитектурасын ашты
Жасанды интеллект әлемінде үлкен тілдік модельдердің жұмыс істеу принципі туралы түсінігімізді өзгертетін оқиға болды. Claude-ды әзірлеуші Anthropic компаниясының зерттеушілері оның архитектурасынан инженерлер бастапқыда жобаға енгізбеген таңғажайып құрылымды анықтады. Бұл «J-space» деп аталатын — модельдің оқу процесінде өзі жасаған ішкі жұмыс кеңістігі.
J-space дегеніміз не және ол қалай жұмыс істейді?
J-space — бұл Claude кез келген тапсырманы орындау кезінде негізгі ақпаратты тартатын виртуалды «тақтадан» басқа ештеңе емес. Күрделі сұраққа жауап беру, код жазу немесе мәтінді талдау болсын — маңызды деректер алдымен осы бірыңғай кеңістікте жиналады, содан кейін модельдің әртүрлі компоненттеріне таратылады. Оны анықтау үшін Anthropic тобы арнайы құрал — «J-lens» әзірледі, ол нейрондық желі ішіндегі ақпарат қозғалысын нақты уақыт режимінде бақылауға мүмкіндік береді.
Ең таңғаларлығы — бұл құрылым өздігінен пайда болды. Ол бағдарламаланбаған, бірақ оқу процесінде эволюцияланып, когнитивтік ғылымда адамның «жаһандық жұмыс кеңістігі» деп аталатын нәрсені еске түсіреді. Біз сұрақты естігенде, фактіні еске түсіріп, жауапты құрастырғанда, миымыз осы процестердің барлығын біріктіреді. Claude дәл солай істейді, бірақ цифрлық түрде.
Бұл ЖИ қауіпсіздігіндегі ойын ережелерін неге өзгертеді?
Криптоиндустрия және жоғары технологиялар саласы үшін бұл жаңалықтың орасан зор маңызы бар. Модельдің «санасына» қол жеткізу — тіпті тырнақшада болса да — қауіпсіздік үшін жаңа көкжиектер ашады. Егер біз J-space белсенділігін бақылай алсақ, ЖИ мінез-құлқының жасырын себептерін анықтауға, осалдықтарды табуға және, ең бастысы, зұлымдық ниетті адам жауапты басқаруға тырысатын prompt-injection шабуылдарын тануға мүмкіндік аламыз.
Эксперименттер J-space мазмұнын қолмен өзгерту Claude-ның түпкілікті жауабын да, оның мінез-құлқын да өзгертетінін көрсетті. Бұл біз модельдің «ойлау процесін» тікелей басқару тұтқасын аламыз дегенді білдіреді, оның шығыс деректерін ғана түзетпейміз.
Дегенмен, маңызды ескерту жасау керек: Claude есептеулерінің көп бөлігі әлі де J-space шегінен тыс жүреді. Бұл айсбергтің көрінетін бөлігі ғана. Соған қарамастан, Anthropic J-lens бастапқы кодын ашып, демо-нұсқасын Neuronpedia-ға жүктеп, барлық ғылыми қоғамдастықты нәтижелерді іс жүзінде тексеруге шақырды.
Сарапшының пікірі: J-space анықталуы — бұл жай академиялық қызық емес. Бұл шешімдерін тек тексеріп қана қоймай, болжауға болатын «мөлдір» ЖИ құруға жасалған қадам. DeFi нарығы мен автоматтандырылған басқару жүйелері үшін бұл қауіпсіздіктегі әлеуетті серпілісті білдіреді: егер біз ЖИ-агенттің «ойларын көре» алсақ, апатты істен шығулар орын алғанға дейін олардың алдын ала аламыз. Anthropic Claude-да сананың бар екенін мәлімдемейтінін атап өтеді, бірақ мұндай құрылымның пайда болу фактісі бізге жауаптардан гөрі көбірек сұрақтар қояды.