ЖИ санасы: ғылыми пікірталас емес, саяси дағдарыс — Cryptalist сарапшысының талдауы
Жасанды интеллекттің санасы бар ма деген мәселе бұрыннан зертханалық пікірталастардың шеңберінен асып кетті. Google DeepMind зерттеушілері Адам Бейлс пен Иасон Габриэльдің Artificial Minds, Human Disagreement: The Politics of AI Consciousness атты жаңа еңбегі бұл талқылауды философия жазықтығынан саясат пен құқық жазықтығына ауыстырады. Олардың негізгі тезисі: ЖИ санасына қатысты келіспеушіліктер соншалықты тереңдей түсуі мүмкін, бұл шешілмейтін моральдық және саяси қақтығыстарға әкеледі.
Неліктен консенсусқа қол жеткізу мүмкін емес
Бейлс пен Габриэль қоғам «ЖИ саналы ма» деген сұраққа жауап іздеуге емес, керісінше, қоғамдық және сарапшылық консенсустың толық болмауы жағдайында шешім қабылдауға дайындалуы керек екенін атап көрсетеді. Адамдар озық жүйелерге әртүрлі әрекет етеді: кейбіреулер оларға эмоциялар мен субъективті тәжірибе жатқызады, ал басқалары бұл идеяны абсурд деп санайды. Бұл алауыздық ғылым шегінен сөзсіз шығады. Даулар іргелі мәселелерге әсер етеді: мұндай жүйелерді өшіруге бола ма, олардың «қалауларын» ескеру қажет пе және олардың моральдық мәртебесі қандай. ЖИ-дің санасын түпкілікті растайтын бірыңғай тест жоқ және оның жақын арада пайда болуы екіталай. Бұл мәселені техникалық емес, институционалдық етеді.
Саяси ландшафт және алғашқы қадамдар
Тіпті Google DeepMind ішінде де бірлік жоқ екендігі айғақты. Бейлс пен Габриэль диалогқа шақырған кезде, олардың әріптесі Александр Лерхнер өзінің The Abstraction Fallacy еңбегінде алгоритмдік символдарды манипуляциялау субъективті тәжірибе жасауға құрылымдық тұрғыдан қабілетсіз деп мәлімдейді. Оның пікірінше, ЖИ тек саналы мінез-құлықты модельдей алады, бірақ оны жүзеге асыра алмайды.
Сонымен қатар, нақты әлем өз қадамдарын жасап жатыр. АҚШ-тың 300 тұрғыны арасында жүргізілген сауалнама респонденттердің 67%-ы ChatGPT-де феноменалды сананың кем дегенде біраз мүмкіндігін жоққа шығармайтынын көрсетті. Anthropic компаниясы «model welfare» — модельдердің әл-ауқаты бойынша зерттеу бағдарламасын іске қосты, бұл мәселе бойынша ғылыми консенсус жоқ екенін мойындады. Оның үстіне, Anthropic бұрын-соңды болмаған қадам жасап, Claude Opus 3 моделін пайдаланудан шығарғаннан кейін де оны қолжетімді қалдырып, оған «эссе» үшін жария арна берді.
Құқық ғылымнан озып келеді
Ең айқын сигнал құқық саласынан келеді. АҚШ-тың Айдахо және Юта штаттарында ЖИ-ді заңды тұлға ретінде тануды алдын ала болдырмайтын заңдар қабылданды. Бұл нормалар философиялық мәселені шешпейді, бірақ саяси ұстанымды бекітеді: ЖИ құқықтық мәртебеге ие бола алмайды. Бұл DeepMind зерттеушілері ескерткен дәл сол қақтығыстарды болдырмауға бағытталған алдын алу шарасы.
Аналитик ретінде мен мұнда криптовалюта әлемімен айқын параллельді көремін: реттеушілер ескі құқықтық шеңберлерді түбегейлі жаңа технологияларға тартуға тырысады. ЖИ санасы мәселесі — физика немесе биология мәселесі емес. Бұл билік, бақылау және ресурстарды бөлу мәселесі. Ал тәжірибе көрсеткендей, саяси ерік көбінесе ғылыми ақиқаттан озып кетеді. Егер криптоиндустрияда біз «бағалы қағаз» деген не екенін талассақ, мұнда адамзат «тұлға» деген не екенін таласады. Ал бұл талас, шамасы, зертханаларда емес, соттар мен заң шығарушы жиналыстарда шешілетін болады.