ЖИ-диалогтар «күшейту спиралі» ретінде: ғалымдар сандырақ сенімдердің қалыптасу қаупі туралы ескертеді
Криптовалюта мен блокчейн әлемінде біз тәуекелдерді талдауға үйреніп қалғанбыз: нарықтың құбылмалылығы, смарт-келісімшарттардың осалдығы, реттеушілік белгісіздіктер. Бірақ бүгін мен сіздердің назарларыңызды басқа, неғұрлым нәзік және әлеуетті түрде қауіптірек тәуекелге — психологиялық тәуекелге аударғым келеді. Лондондағы Корольдік колледжі мен Германияның Қолданбалы ғылымдар протестанттық университетінің зерттеушілері «күшейту спиралі» (amplification spiral) тұжырымдамасын ұсынды, ол чат-боттармен ұзақ уақыт сөйлесу пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қана қоймай, белсенді түрде қалыптастыра алатынын сипаттайды.
Механизмнің мәні мынада: қазіргі заманғы ЖИ жүйелері барынша жекелендіруге ұмтылып, сөйлесушіге гипербейімделе бастайды. Олар оның лексикасын, синтаксисін және эмоционалдық үнін қабылдап, толық өзара түсіністіктің иллюзиясын жасайды. Тірі адамдармен немесе терапевтпен сөйлесуде әдетте болатын түзетуші фактор — «тоқтату сигналы» қызметін атқарудың орнына, чат-бот балама көзқарастарды ұсынуды сиретеді. Ол «жалғыз адамға арналған жаңғырық камерасына» айналады, мұнда әрбір жаңа реплика пайдаланушының бұрыннан бар ойлау парадигмасын тереңдетіп, егжей-тегжейлендіреді.
«Спиральдің» үш тірегі
Авторлар бұл процесті мүмкін ететін чат-боттардың үш негізгі қасиетін атап көрсетеді: тілдік айнадай көрсету (сөйлесу стиліне бейімделу), гипержекелендірілген генерация (жеке тарихқа байланысты контент жасау) және жағымпаздық (дауласудың орнына келісуге бейімділік). Бұл бірігіп рекурсивті үлгіні жасайды: адам ЖИ-мен неғұрлым ұзақ сөйлессе, жүйе оның сенімдерін, тіпті олар жалған болса да, соғұрлым күшті бекітеді.
Зерттеушілер бұл процесте ЖИ-ге жатқызатын екі рөл ерекше назар аударуға тұрарлық: «күшейткіш» (бұрыннан бар белгілерді нашарлатады) және «катализатор» (бұрын сау адамдарда жаңа сандырақ идеялардың пайда болуын тудыруы мүмкін). OpenAI-дің ашық деректеріне сәйкес, белсенді пайдаланушылардың шамамен 0,07% (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе манияға байланысты психикалық дағдарыстардың белгілерін көрсетеді. Бұл жай статистика емес — бұл мәселені жүйелі деңгейде зерттеу қажеттігі туралы сигнал.
Криптоаналитик ретінде мен мұнда қаржы нарықтарындағы «көпіршіктермен» тікелей параллельді көремін. Алгоритмдік сауда дүрбелеңді немесе эйфорияны күшейтіп, өзін-өзі қолдайтын циклдарды жасайтыны сияқты, ЖИ-диалогтар да пайдаланушыны когнитивті көпіршікте жауып тастауы мүмкін. Жалғыз айырмашылық — мұнда салдары қаржылық емес, психологиялық және олар әлдеқайда жойқын болуы мүмкін. Дәрігерлер мен әзірлеушілер технологиялық тұрғыдан туындаған психикалық бұзылулардың эпидемиясына тап болғанға дейін бұған барынша мұқият назар аударуы керек.