Клод ішінен инженерлер жоспарламаған «жаһандық жұмыс кеңістігі» — J-space табылды.
Anthropic зерттеушілері күтпеген жаңалық ашты: Claude тілдік моделінің ішінде әзірлеушілер бағдарламаламаған ішкі құрылым қалыптасқан. J-space деп аталатын бұл механизм модельдің әртүрлі компоненттері тапсырмаларды орындау кезінде жүгінетін бірыңғай жұмыс кеңістігі ретінде жұмыс істейді.
6 шілдеде жарияланған бұл жаңалық үлкен тілдік модельдердің «капотының астында» не болып жатқанын түсінудегі маңызды қадам болып табылады. J-space-ті негізгі ақпарат жиналатын және өңделетін виртуалды «тақта» ретінде елестетуге болады. Claude сұраққа жауап бергенде немесе мәселені шешкенде, маңызды деректер модельдің әртүрлі бөліктері олармен әрекеттесуі үшін осы кеңістікте пайда болады.
J-space қалай жұмыс істейді және бұл неге маңызды?
J-space-ті анықтау үшін арнайы құрал — J-lens әзірленді. Оның көмегімен зерттеушілер ақпараттың модель ішінде нақты уақыт режимінде қалай қозғалатынын бақылады. Таңқаларлығы, J-space оқыту процесінде өздігінен пайда болды — инженерлер оны архитектураға тікелей енгізбеген.
Функционалдығы бойынша J-space нейроғылымда «жаһандық жұмыс кеңістігі» деп аталатын нәрсені еске түсіреді. Адамда бұл жүйе бірнеше ойлау процестері үшін маңызды ақпаратқа бір мезгілде қол жеткізуді қамтамасыз етеді. Мысалы, біз сұрақты естігенде, фактіні еске түсіргенде және жауапты тұжырымдағанда — ми барлық деректерді бір нүктеге жинайды.
Зерттеушілер Claude-тің J-space мазмұнын сұраныс бойынша сипаттап қана қоймай, оны өзгерте алатынын көрсетті. Сонымен қатар, J-space-ке қолмен араласу модельдің жауаптарына және тапсырмаларды орындау кезіндегі мінез-құлқына тікелей әсер етті.
Қауіпсіздік, интерпретациялану мүмкіндігі және ЖИ-дің болашағы
Бұл жаңалық жасанды интеллект қауіпсіздігі үшін үлкен маңызға ие. J-space белсенділігін бақылау мүмкіндігі модельдердің мінез-құлқындағы жасырын себептерді анықтауға жол ашады. Жүйе сенімсіз жұмыс істей бастаған сәттерді тиімдірек байқай аламыз.
Бұл әсіресе шабуылдардан қорғану тұрғысынан перспективалы. J-space мониторингі модель prompt-injection — жауапты басқаруды ұстап алу үшін зиянды нұсқауларды енгізу әрекеттеріне тап болғанда көруге мүмкіндік береді. Өңдеудің бұл «саналы» қабатына ішінара қол жеткізудің өзі зерттеулер үшін маңызды перспективалар ашады.
Әзірге мүмкіндіктер шектеулі: Claude-тегі ақпаратты өңдеудің үлкен бөлігі әлі де J-space-тен тыс жүреді. Дегенмен, Anthropic J-lens бастапқы кодын жариялап, Neuronpedia-да демо-нұсқасын орналастырып, ғылыми қоғамдастыққа нәтижелерді тәжірибеде тексеруді ұсынды.
Маңызды ескерту: компания Claude-тің санасы немесе субъективті тәжірибесі бар деп мәлімдемейтінін атап өтеді. Жұмыста когнитивті ғылымнан алынған «саналы түрде қолжетімді» ақпарат термині қолданылады — бұл нақты сананың болуын білдірмейді.
Сарапшының пікірі: Бұл жаңалық — біздің қазіргі нейрондық желілердің қалай жұмыс істейтінін әлі де өте нашар түсінетініміздің тағы бір дәлелі. J-space-тің өздігінен пайда болуы күрделі жүйелердің эмерджентті қасиеттерін еске түсіреді. Криптовалюта және DeFi нарығы үшін, мұнда ЖИ талдау және сауда үшін жиі қолданылады, бұл бір нәрсені білдіреді: ішкі механизмдерін терең түсінбей «қара жәшікке» сену — тәуекелді стратегия.