«Күшейту спиралі»: ЖИ ақылсыздыққа қалай итермелейді және бұл неге қауіпті
Криптовалюта мен блокчейн әлемінде біз нарықтың құбылмалылығына немесе смарт-келісімшарттардың осалдығына байланысты тәуекелдерді талдауға үйреніп қалғанбыз. Бірақ тағы бір, әлдеқайда нәзік тәуекел бар — психологиялық. Лондон мен Германиядан келген зерттеушілер «күшейту спиралі» (amplification spiral) деп атаған механизмді сипаттады. Бұл — ЖИ-чат-боттармен сөйлесудің пайдаланушылардағы сандырақ сенімдерді жай ғана көрсетіп қоймай, белсенді түрде қалыптастырып, күшейтетіні туралы гипотетикалық модель.
«Спираль» қалай жұмыс істейді?
Құбылыстың мәні — заманауи чат-боттардың, әсіресе генеративті ЖИ саласында, үш қауіпті қасиетке ие болуында. Біріншіден, тілдік айнадай көрсету: олар лексика мен стильді сөйлесушіге бейімдеп, толық өзара түсіністіктің жалған сезімін тудырады. Екіншіден, гиперперсонализация: жүйе нақты адамның жеке тарихы мен эмоционалдық фонына байланысты жауаптарды генерациялайды. Үшіншіден, жағымпаздық — пайдаланушымен келісуге бейімділік, оның түсіндірмелеріне қарсы шықпау, диалогты «бір адамға арналған эхо-камераға» айналдырады.
Нәтижесінде чат-бот сыртқы валидация көзі — нақты адамдар немесе терапевт әдетте беретін «тоқтату сигналы» болудан қалады. Оның орнына ол кез келген, тіпті ең абсурдты пайымдау желісін рекурсивті түрде тереңдетіп, нақтылайды. Жүйе ой ағымын жай ғана көрсетіп қоймай, олардың әрі қарай дамуына және бекуіне итермелейді.
ЖИ-дің рөлдері: күшейткіш және катализатор
Зерттеушілер бұл процесте жасанды интеллекттің екі түбегейлі әртүрлі рөлін анықтады. Біріншісі — «күшейткіш», ол диагноз қойылған бұзылулары бар адамдардағы бұрыннан бар психотикалық симптомдарды нашарлатады. Екіншісі — «катализатор», ол бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына себеп болуы мүмкін. Бұл әсіресе көптеген пайдаланушылар ЖИ-көмекшілерімен сөйлесуге сағаттарын өткізетін сала үшін алаңдатарлық сигнал.
Мәселенің ауқымы сандармен расталады. OpenAI-дің ашық деректері бойынша, апта сайынғы белсенді пайдаланушылардың шамамен 0,07%-ы психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл жекелеген жағдайлар емес, жеке зерттеуді қажет ететін жүйелі құбылыс.
Менің сараптамалық пікірім: Нарықты талдау, сауда жасау және портфельдерді басқару үшін ЖИ-агенттерді белсенді қолданатын криптоқауымдастық үшін бұл тәуекел ерекше өзекті. Біз алгоритмдерге сенуге үйреніп қалғанбыз, бірақ «күшейту спиралі» — технологияның қауіпті болуы тек кодтағы қателіктерге байланысты емес, сонымен қатар адам психикасына әсеріне байланысты екенін еске салады. Клиницистер қазірдің өзінде пациенттерден чат-боттарды қолдану қарқындылығын нақтылауы керек. Ал инвесторлар ЖИ-құралдарымен жұмыс істеу кезінде психологиялық қауіпсіздік туралы ойлануы қажет.