Жасанды интеллект санасы туралы дау саяси мәселеге айналуда: DeepMind талдауы
Жасанды интеллект санасына қатысты болашақ келіспеушіліктер жай ғана ғылыми пікірталас емес, терең саяси қақтығыстардың көзіне айналуы мүмкін. Google DeepMind зерттеушілері Адам Бейлс пен Иасон Габриэль өздерінің «Artificial Minds, Human Disagreement: The Politics of AI Consciousness» атты еңбегінде осындай қорытындыға келді. Олар қоғам ЖИ санасы туралы бірыңғай пікір сарапшылар арасында да, көпшілік арасында да болмайтын жағдайға дайын болуы керек деп мәлімдейді.
Негізгі тезис: ғылымнан саясатқа
Зерттеушілер адамдардың барған сайын жетілдірілген ЖИ жүйелеріне әртүрлі әрекет ететінін атап өтеді. Кейбіреулер олармен эмоционалды байланыс орнатып, сананы меншіктей бастаса, басқалары бұл идеяны абсурд деп санайды. Авторлардың пікірінше, мұндай пікірталас тез арада ғылым шеңберінен шығып, мораль мен саясат саласына ауысады. Қақтығыстар тудыруы мүмкін негізгі сұрақтар: белгілі бір жүйелерді өшіруге жол беріле ме, олардың ықтимал қалауларын ескеру қажет пе және ЖИ-дің моральдық мәртебесі туралы мүлде айтуға бола ма? Шешім қоғамдық талқылау мен «қабаттасатын консенсусты» іздеуде көрінеді — адамдар сана табиғатына деген іргелі көзқарастарында алшақтық болса да, белгілі бір саясатқа келіскен кезде.
Неліктен бұл жай философия емес
Мәселе ЖИ-де субъективті тәжірибенің бар екенін түпкілікті растай алатын бірыңғай сынақтың жоқтығымен күрделене түседі. Бұл қоғам технологиялар бұқаралық түрде қолданылып жатқанда, адамдар оларға қатынасын қалыптастырып үлгергенде, ал ғылыми немесе саяси консенсус әлі жоқ жағдайға тап болуы мүмкін дегенді білдіреді. Осылайша, ЖИ санасы туралы мәселе техникалық емес, институционалдық сипатқа ие болады, құқықты, корпоративтік жауапкершілікті және моральдық есепке алу шекараларын қамтиды.
DeepMind ішіндегі әртүрлі көзқарастар
Бейлс пен Габриэльдің жұмысы Google DeepMind-тің басқа жарияланымы аясында жарық көргені назар аудартады. Зерттеуші Александр Лерхнер «The Abstraction Fallacy» мақаласында символдарды алгоритмдік манипуляциялау құрылымдық тұрғыдан субъективті тәжірибе жасауға қабілетсіз деп мәлімдейді. Оның пікірінше, ЖИ саналы мінез-құлықты тек имитациялай алады, бірақ сананы жүзеге асыра алмайды. Бұл тіпті бір ұйым ішінде де бұл мәселе бойынша бірыңғай ұстаным жоқ екенін көрсетеді.
Шындық: қоғам таңдауын жасап жатыр
Зерттеулер қоғамның бір бөлігінің ЖИ-ге ішкі тәжірибені меншіктеуге дайын екенін көрсетеді. Мысалы, 2024 жылы АҚШ-тың 300 тұрғыны арасында жүргізілген сауалнама респонденттердің 67%-ы ChatGPT-де феноменалды сананың кем дегенде біраз мүмкіндігін жоққа шығармайтынын анықтады. Бұл Бейлс пен Габриэльдің қоғамдық пікір ғылыми консенсустан озып кетуі мүмкін деген тезисін растайды.
Мәселе қазірдің өзінде құқықтық жазықтыққа ауысуда. Айдахо және Юта штаттары ЖИ-ді заңды тұлға ретінде тануды болдырмайтын заңдар қабылдады. Мұндай шаралар философиялық мәселені шешпейді, бірақ құқықтық ұстанымды бекітеді: ЖИ тұлға мәртебесін алмауы керек. Anthropic сияқты компаниялар да ғылыми консенсус жоқтығын атап өтсе де, модельдердің ықтимал «әл-ауқатын» зерттей бастады.
Менің талдауым: Орталықтандырылмаған басқару мен смарт-келісімшарттарға негізделген криптовалюта және блокчейн технологиялары нарығы ЖИ-агенттерінің құқықтары мен «санасын» сынау үшін тамаша құмсалғыш бола алады. ЖИ басқаратын DAO және шешім қабылдайтын автономды агенттер мәселелері күн тәртібінде тұр. Егер біз саяси аспектіні қазір шешпесек, алғашқы «саналы» алгоритмдер орталықтандырылмаған хаттамаларда дауыс беру құқығын талап ете бастағанда, біз хаосқа тап болу қаупі бар.