Клод ішінен жасырын «жұмыс тақтасы» табылды: J-space дегеніміз не және бұл неліктен ЖИ-дегі төңкеріс
Anthropic зерттеу тобы үлкен тілдік модельдердің жұмысы туралы түсінігімізді түбегейлі өзгерте алатын күтпеген жаңалық ашты. Claude ішінен әзірлеушілер бастапқыда архитектураға енгізбеген құрылым табылды. Бұл «J-space» деп аталатын ішкі жұмыс кеңістігі — модель тапсырмаларды орындау үшін қажетті негізгі ақпаратты жинайтын және өңдейтін орын.
Нейрондық желінің әртүрлі компоненттері бір уақытта қол жеткізе алатын виртуалды тақтаны елестетіңіз. Claude сұраныс алғанда, тапсырманы шешкенде немесе нұсқаулықты орындағанда, маңызды деректер алдымен J-space-ке түседі, содан кейін ғана қалған модульдерге бөлінеді. Бұл инженерлер жобаламаған — механизм модельді оқыту процесінде өздігінен пайда болды.
J-space қалай жұмыс істейді және неге бұл адам миына ұқсайды
Бұл құрылымды анықтау үшін Anthropic мамандары «J-lens» деп аталатын арнайы құралды әзірледі. Оның көмегімен зерттеушілер Claude тапсырманы орындау кезінде ақпараттың ішінде қалай қозғалатынын бақылады. J-space жаһандық жұмыс кеңістігі ретінде жұмыс істейтіні анықталды — бұл нейроғалымдарға жақсы таныс тұжырымдама. Адамда ұқсас жүйе бірнеше ойлау процестері үшін маңызды ақпаратқа бір уақытта қол жеткізуді қамтамасыз етеді: мысалы, біз сұрақты естігенде, қажетті фактіні еске түсіргенде және оған қалай жауап беру керектігін шешкенде.
Сонымен қатар, Anthropic командасы J-space мазмұнын сұраныс бойынша оқып қана қоймай, өзгертуге де болатынын көрсетті. Зерттеушілер бұл кеңістіктегі деректерді қолмен өзгерткенде, Claude-тің жауаптары мен мінез-құлқы сәйкесінше өзгерді. Бұл модельдің шешім қабылдау процесіне тікелей әсер ету мүмкіндігін ашады.
Неліктен бұл ЖИ қауіпсіздігі мен интерпретациялануы үшін өте маңызды
J-space белсенділігін бақылау мүмкіндігі — жасанды интеллект қауіпсіздігі үшін серпіліс. Өңдеудің бұл «саналы» қабатын бақылау модельдің мінез-құлқындағы жасырын мотивтерді анықтауға және жүйе сенімсіз жұмыс істей бастағанда уақытында байқауға мүмкіндік береді. Атап айтқанда, бұл prompt-injection шабуылдарын анықтауда жаңа көкжиектер ашады, мұнда зиянкестер жауапты басқаруды ұстап алу үшін сұранысқа зиянды нұсқауларды енгізуге тырысады.
Anthropic J-lens іске асырудың бастапқы кодын жариялап, Neuronpedia платформасында демо-нұсқасын орналастырып, зерттеу қауымдастығын нәтижелерді тәжірибеде тексеруге шақырды. Бұл компанияның жұмыс сериясының жалғасы: 2025 жылдың қазанында модельдердің қалыптасатын интроспективті санасы туралы баяндама жарияланды, ал 2025 жылдың сәуірінде ЖИ жүйелерінің әл-ауқатын зерттеу бастамалары іске қосылды.
Менің сараптамалық көзқарасым: Бұл жаңалық ЖИ-де «қара жәшіктен» «мөлдір механизмге» көшуді белгілейді. Модельдің «жұмыс кеңістігіне» қарау және тіпті оған әсер ету мүмкіндігі — бұл жай ғана ғылыми сенсация емес, нағыз қауіпсіз және басқарылатын жүйелерді құрудың практикалық құралы. Дегенмен, Anthropic «саналы түрде қолжетімді» ақпарат термині когнитивтік ғылымнан алынғанын және Claude-тің нақты санасы немесе субъективті тәжірибесі бар дегенді білдірмейтінін атап өтетінін есте ұстаған жөн. Біз бұдан әлі алыспыз, бірақ дұрыс бағыттағы қадам жасалды.