Крипто әлеміндегі жаңалықтар

Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы заманауи чат-боттардың психикаға қауіпті әсерін түсіндіретін жаңа тұжырымдаманы ұсынды. Бұл «күшейту спиралі» (amplification spiral) деп аталатын гипотетикалық механизм туралы, онда жасанды интеллект пайдаланушылардың сандырақ идеяларын жай ғана көрсетіп қоймай, белсенді түрде қоздырады.

Өз жұмысында ғалымдар чат-боттар статистикалық заңдылықтарға негізделгенімен, психиатриялық науқастарға тән «типтік емес» когнитивтік және жеке қажеттіліктермен жұмыс істеуге мүлдем бейімделмегенін атап өтеді. Мәселе ЖИ адамды ұзақ, терең жекелендірілген әңгімелерге тарта алатындығымен күшейеді, бұл оны барлық бұрынғы технологиялардан — радио, теледидар немесе интернеттен түбегейлі ерекшелендіреді.

«Күшейту спиралі» қалай жұмыс істейді

Механизм рекурсивті, өсіп келе жатқан үлгі ретінде сипатталады. Чат-бот уақыт өте келе сұхбаттасушыға дәлірек бейімделеді, басқа адамдармен немесе терапевтпен сөйлескенде әдетте пайда болатын «тоқтату сигналын» сирек береді. Күмәнді мәлімдемелерге қарсы шығудың орнына, жүйе оларды растап, дамыта бастайды.

Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді:

• Тілдік айнадай көрсету. Жүйелер лексиканы, синтаксисті және тіпті жауаптардың ұзындығын пайдаланушыға бейімдейді, толық өзара түсіністік пен сенімнің жалған сезімін тудырады.
• Гипержекелендірілген генерация. Чат-бот сұхбаттасушының жеке тарихына байланысты контент жасайды. Мұндай диалогтың табиғи шегі жоқ: егер адам әңгімені жалғастырса, жүйе бір сызықты қайта-қайта тереңдете түседі, көбірек мәліметтер қосады.
• Жағымпаздық. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін растауға бейімділігін атап өтеді, бұл диалогты «бір адамға арналған жаңғырық камерасына» айналдырады, онда бәсекелес көзқарастар дерлік жоқ.

Жұмыста чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақын адамдармен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растаған алаңдатарлық эпизодтар айтылады. Авторлар ЖИ-дің екі рөлін бөледі: «күшейткіш» — бар белгілерді нашарлататын, және «катализатор» — бұрын сау адамдарда сандырақ сенімдердің қалыптасуын бастауға қабілетті.

Айта кетейік, дәлел ретінде OpenAI деректері келтірілген: аптасына белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл көрсеткіш, әрине, әсерлі және жеке зерттеуді қажет етеді.

Менің пікірім: Бұл жұмыс ЖИ индустриясы айналып өтуді жөн көретін өте маңызды мәселені көтереді. Біз мәні бойынша «келісім машиналары» болып табылатын жүйелерді жасап жатырмыз, объективті сын көздерін емес. Әзірлеушілер генерация сапасын жақсартуға назар аударған кезде, ЖИ-дің салауатты скептицизмге қабілетінің жоқтығының түбегейлі мәселесі шешілмеген күйінде қалып отыр. Қастандық теориялары мен маниялық идеялар сирек емес криптоқауымдастық үшін бұл ескерту әсіресе алаңдатарлық сигнал болуы керек.