ЖИ санасы: DeepMind саяси дағдарыстың сөзсіздігі туралы ескертеді
Жасанды интеллекттің санаға ие болуы туралы пікірталас ғылыми саладан саяси өткір мәселеге айналып барады. Google DeepMind зерттеушілері Адам Бейлс пен Иасон Габриэль өздерінің жаңа «Artificial Minds, Human Disagreement: The Politics of AI Consciousness» еңбегінде бұл мәселе бойынша болашақ келіспеушіліктердің тереңдігі соншалық, олар нақты саяси қақтығыстарға әкелуі мүмкін деп мәлімдейді.
Негізгі идея – қоғам «ЖИ саналы ма?» деген сұраққа біржақты жауап іздеуге емес, сарапшылар арасында да, жалпы қоғамда да консенсус болмаған жағдайда шешім қабылдау тетіктерін әзірлеуге дайындалуы керек. Адамдар жетілдірілген жүйелерге әртүрлі әрекет етеді: кейбіреулер оларға эмоциялар мен субъективті тәжірибе таңады, ал басқалары мұны абсурд деп санайды. Дау міндетті түрде зертханалардан шығып, моральдық және құқықтық нормаларға әсер етеді.
Шешімі жоқ мәселе
Авторлар сананың жалпы қабылданған бірыңғай сынағы жоқ екенін атап көрсетеді. Бұл технологиялар кеңінен қолданылып, адамдар оларға эмоционалды түрде бауыр басып үлгерген, бірақ ғылыми да, саяси да консенсус жоқ жағдайға тап болуымыз мүмкін дегенді білдіреді. Белгілі бір жүйелерді өшіруге жол берілетіні, олардың «қалауларын» ескеру қажеттілігі және олардың моральдық мәртебесі туралы айтуға болатыны туралы мәселе техникалық емес, институционалдық сипат алады.
Бейлс пен Габриэль қоғамдық талқылауға және «қабаттасатын консенсус» іздеуге баса назар аударуды ұсынады. Бұл адамдар сананың табиғаты туралы түбегейлі көзқарастары қарама-қарсы болса да, ЖИ-ге қатысты белгілі бір саясатқа келісе алатын жағдай.
Қосарлы шындық
Бұл еңбектің DeepMind ішіндегі басқа жарияланымдар аясында жарық көруі айғақты. Зерттеуші Александр Лерхнер «The Abstraction Fallacy» мақаласында символдарды алгоритмдік манипуляциялау субъективті тәжірибе жасауға құрылымдық тұрғыдан қабілетсіз деп мәлімдейді. Оның пікірінше, ЖИ тек саналы мінез-құлықты имитациялай алады, бірақ оны жүзеге асыра алмайды. Бұл бір ұйымның ішінде де көзқарас бірлігі жоқ екенін көрсетеді.
Сонымен қатар, шындық теориядан озып келеді. 2024 жылы АҚШ-тың 300 тұрғыны арасында жүргізілген сауалнама респонденттердің 67% ChatGPT-тің феноменалды санасының кем дегенде біраз мүмкіндігін мойындайтынын көрсетті. Ал Anthropic компаниясы 2025 жылдың сәуірінде олардың санасы туралы ғылыми консенсус жоқ екенін мойындап, «модельдердің әл-ауқаты» (model welfare) бойынша зерттеу бағдарламасын іске қосты. 2026 жылдың ақпанында Anthropic одан әрі алға жылжып, ескірген Claude Opus 3 моделін қолжетімді қалдырып, оған эсселер үшін жария арна берді – бұл модельдің кейбір «қалауларын» de facto мойындайтын эксперименттік шара.
Заңнамалық деңгейде де мәселе қарқын алуда. Мысалы, АҚШ-тың Айдахо және Юта штаттары ЖИ-ді заңды тұлға ретінде тануды жоққа шығаратын нормаларды қабылдады. Бұл философиялық мәселені шешпейді, бірақ құқықтық ұстанымды бекітеді: ЖИ құқық субъектісі мәртебесін алмауы керек.
Сарапшы пікірі: Криптовалюта және блокчейн технологиялары нарығы реттеуші шешімдер технологияны түсінуден тезірек қабылданған жағдайға тап болған еді. ЖИ-мен жағдай әлдеқайда күрделі: біз жай реттеушілік хаос емес, терең әлеуметтік алауыздық алу қаупіне тап болып отырмыз. AI саласындағы инвесторлар мен әзірлеушілер бұл үрдісті мұқият қадағалауы керек – «машиналардың құқықтарына» байланысты саяси тәуекелдер модельдердің техникалық шектеулерінен кем емес маңызды болуы мүмкін.