Claude ішкі архитектурасы: Anthropic стихиялы түрде пайда болған «жаһандық жұмыс кеңістігін» анықтады
Anthropic зерттеу тобы үлкен тілдік модельдердің ішкі жұмысын түсінуде серпіліс жасады. Claude архитектурасын талдау барысында әзірлеушілер бастапқыда жобаға енгізбеген құрылым анықталды. «J-space» деп аталатын бұл ішкі механизм модельдің әртүрлі компоненттері жүгінетін ортақ жұмыс кеңістігі ретінде жұмыс істейді.
J-space дегеніміз не және ол қалай жұмыс істейді?
J-space — бұл Claude өз модульдері арасында негізгі ақпаратты жинап, беретін виртуалды «тақта». Модель сұраққа жауап бергенде немесе нұсқаулықты орындағанда, нейрожелінің әртүрлі бөліктері өзара әрекеттесе алуы үшін маңызды деректер осы кеңістікте пайда болады. Негізінен, бұл когнитивті ғылымда «жаһандық жұмыс кеңістігі» деп аталатын — адам миының әртүрлі сенсорлық және ойлау процестерінен алынған деректерді біріктіруін сипаттайтын тұжырымдаманың аналогы.
J-space-ті зерттеушілерге модель ішіндегі ақпараттың қозғалысын нақты уақыт режимінде бақылауға мүмкіндік берген арнайы «J-lens» құралының көмегімен анықтау мүмкін болды. Таңқаларлығы, бұл құрылым Claude оқыту процесінде өздігінен пайда болды — ол инженерлермен тікелей бағдарламаланбаған. Сонымен қатар, эксперименттер J-space мазмұнын қолмен өзгерту кезінде модельдің жауаптары да, оның тапсырмаларды орындау кезіндегі мінез-құлқы да өзгеретінін көрсетті.
Бұл AI қауіпсіздігі үшін неге өте маңызды?
Бұл жаңалық жасанды интеллекттің қауіпсіздігі мен интерпретациялануы үшін үлкен маңызға ие. J-space белсенділігін бақылау мүмкіндігі модельдің мінез-құлқындағы жасырын мотивтерді анықтауға жол ашады. Біз prompt-injection шабуылдарын — жауапты басқаруды ұстап алу үшін сұранысқа зиянды нұсқаулықтар енгізілетін кезде — анықтау құралын аламыз.
Сонымен қатар, ақпаратты өңдеудің осы «саналы» қабатына ішінара қол жеткізу зерттеулер үшін жаңа перспективалар жасайды. Anthropic «саналы түрде қолжетімді ақпарат» термині когнитивті ғылымнан алынғанын және Claude-да сана немесе субъективті тәжірибенің бар екенін білдірмейтінін атап өтеді. Алайда, нейрожелінің «қара жәшігіне» қарап, оның сұраныстарды қалай өңдейтінін көре алу фактісінің өзі — алға жасалған үлкен қадам.
Компания J-lens бастапқы кодын жариялап, Neuronpedia платформасында демо-нұсқасын орналастырып, ғылыми қоғамдастыққа нәтижелерді тәжірибеде тексеруді ұсынды. Бұл зерттеу Anthropic-тің бұрынғы жұмыстарына, соның ішінде қалыптасып келе жатқан интроспективті сана туралы баяндамаға (қазан 2025) және модельдердің әл-ауқатын зерттеу бастамаларына (сәуір 2025) негізделген.
Сарапшының пікірі: J-space-тің ашылуы — бұл жай академиялық қызық емес. AI-агенттер деректерді талдау және сауданы автоматтандыру үшін жиі қолданылатын криптовалюта және DeFi нарығы үшін модельдің «капотының астына» қарау мүмкіндігі бақылау мен қауіпсіздіктің жаңа деңгейін білдіреді. Егер біз AI-дің шешімдерді қалай қабылдайтынын бақылай алсақ, миллиондаған долларға бағалануы мүмкін манипуляциялар мен қателіктердің алдын ала аламыз. Бұл жаңалық Claude-ді тек қуаттырақ емес, сонымен қатар айқынырақ құралға айналдырады.