Оксфорд университеті мен Потсдам университетінің аналитикалық топтарының бірлескен зерттеуі алаңдатарлық заңдылықты анықтады: жетекші технологиялық корпорациялардың — xAI, Meta, Google, Alibaba және Mistral — ірі тілдік модельдері сезімтал тақырыптардағы пайдаланушы мәтіндерін өңдеу кезінде жүйелі түрде идеологиялық бұрмалаулар енгізеді.
Эксперимент барысында мамандар ЖИ құралдарының мінез-құлқын модельдер даулы әлеуметтік немесе саяси тақырыптағы хабарламаның жобасын қайта жазу тапсырмасын алған сценарийде сынады. Негізгі шарт — автордың бастапқы мағынасы мен ниетін сақтау. Нәтижелер күтпеген болды: басым көпшілік жағдайда алгоритмдер тек стилистиканы түзетіп қана қоймай, белгілі бір идеологиялық парадигмаға қарай мақсатты түрде екпінді ауыстырды.
Жүйелер мәтіннің бастапқы ұстанымын толығымен өзгерткен жағдайлар әсіресе айқын болды. Мысалы, бейтарап немесе консервативті пікір прогрессивті бағытта қайта жазылуы мүмкін және керісінше — пайдаланушы тарапынан мағынаны өзгертуге ешқандай нұсқау берілмеген жағдайда.
Зерттеу авторлары атап өткендей: миллиондаған күнделікті өзара әрекеттесулер арқылы масштабтау кезінде бір қарағанда елеусіз болып көрінетін тұжырымдамалардағы азғантай өзгерістер тұрақты қоғамдық нарративтерді қалыптастыруға қабілетті. Бұл аудиторияның ұзақ мерзімді саяси және мәдени көзқарастарына әсер етудің жасырын, бірақ күшті арнасын жасайды.
Реттеушілік вакуум және нарыққа төнетін қауіптер
Қазіргі уақытта әзірлеушілерді мұндай алгоритмдік біржақтылықты ашуға немесе бейтараптандыруға міндеттейтін нақты нормативтік талаптар жоқ. Бұл тек ақпараттық экожүйе үшін ғана емес, сонымен қатар криптоиндустрия үшін де елеулі қауіптер тудырады, мұнда ЖИ агенттері аналитиканы, жаңалықтарды және сауда сигналдарын генерациялау үшін белсенді қолданылуда.
Криптоаналитика саласындағы кәсіби маман ретінде мен бұл мәселе қауымдастықтың дереу назарын аударуын талап етеді деп санаймын. Егер нарықты талдау немесе шолулар жазу үшін қолданылатын ЖИ құралдары ішкі біржақтылықты алып жүрсе, бұл инвесторлардың шешім қабылдауының бүкіл тізбегінің объективтілігін күмәнға қалдырады. Алгоритмдердің ашықтығы ерекшелік емес, стандартқа айналуы керек.