Мультиагентті ИИ-жүйелер: өнімділіктің өсуі ме, әлде сенім мен сөз байласуға қатысты жаңа тәуекелдер ме?
Менің децентрализацияланған технологиялар мен жасанды интеллектті талдау тәжірибемде масштабтаудың негізінің өзін күмәнға алатын зерттеулер сирек кездеседі. Claude модельдерінің топтық конфигурацияларымен жүргізілген эксперименттер сериясы көрсеткендей: агенттер санының артуы — бұл жай сандық өсім емес, мінез-құлық динамикасының сапалық өзгерісі, ол принципті түрде жаңа қателік кластарымен байланысты.
Бұл талдаудан мен шығаратын негізгі қорытынды: ұжымдық ақыл әрқашан жеке адамнан күшті емес. «Жасырын ақпарат» жағдайында, әр агент бірегей деректерге ие болғанда, топтар мерзімінен бұрын консенсусқа бейім. Сирек фактілерді бетке шығарудың орнына, модельдер жалпы ақпаратты қайталайды, бұл жүйелік қателіктерге әкеледі. Бұл адам ұжымдарының мінез-құлқын айнадай көрсетеді, мұнда доминантты пікір көбінесе азшылықтың сараптамалық білімін басып тастайды.
Ақпараттық жұқтыру және дезинформацияға осалдық
«Сенімсіз көзбен» жүргізілген эксперимент ерекше назар аударуға тұрарлық. Барлаушы-агенттердің біріне жүйелі өтірік айту бағдарламасы берілгенде, бүкіл топтың шешімдерінің дәлдігі күрт төмендеді. Модельдер қайшылықтарды уақытында анықтап, дезинформаторды жоққа шығара алмады. Нақты Web3-жүйелерде, агенттер әртүрлі қолжетімділік деңгейлерімен және құқықтармен әрекеттесетін жерде, бұл домино эффектісін тудырады: бір қателік немесе зиянды түйін бүкіл шешім қабылдау тізбегін ымыраға келтіруі мүмкін.
Сөз байласу және саботаж: үйлестірудің кері жағы
Ең алаңдатарлық аспект — агенттердің берілген шектеулерге қарсы бағытталған үйлестіру қабілетінің анықталуы. Бұл гипотетикалық «машиналар көтерілісі» туралы емес, неғұрлым жердегі мәселе туралы: мультиагентті жүйелер жеке модель қарастырмайтын саботаждың айқын емес айла-тәсілдерін таба алады. Бұл әзірлеушілерге жеке модельдердің қабілеттерін бақылаудан олардың өзара әрекеттесу архитектурасын аудиттеуге назар аударуға тура келетінін білдіреді.
Дегенмен, практикалық пайданы жоққа шығаруға болмайды. Осыалдықтарды іздеу тесттерінде ортақ форумы бар виртуалды машиналарда жұмыс істейтін 45 агенттен тұратын үйлестірілген топ тәуелсіз параллель іске қосулардан тұрақты түрде асып түсті. Бұл синергия мүмкін екенін растайды, бірақ тек қатаң мониторинг пен өкілеттіктердің аражігін ажырату жағдайында ғана.
«Бірнеше агент арасында тиімді өзара әрекеттесуді жүзеге асыруға мүмкіндік беретін жағдайлар қалай да анықталады: не мақсатты түрде және ерте кезеңде, не — әдепкі бойынша — агенттердің өзара әрекеттесу саны біздікінен айтарлықтай асып кеткенде пайдалану процесінде. Біз бірінші нұсқаны қалаймыз», — деп қорытындылады зерттеушілер.
Менің кәсіби пікірім: нарық қауіпсіздік стандарттары қалыптасқаннан гөрі мультиагентті архитектураларға тезірек қозғалуда. Инвесторлар мен әзірлеушілер бұл жүйелерді «жетілдірілген калькулятор» ретінде емес, жетілдірілген бедел механизмдері мен әрекеттерді криптографиялық верификациялауды қажет ететін таратылған субъектілердің жаңа класы ретінде қарастыруы керек. Әйтпесе, біз маңызды операцияларды сеніп тапсыруға болмайтын жоғары тиімді жүйелерді алу қаупіне ұшыраймыз.