Бутерин және ЖИ-алыптары: әлемдік үстемдік туралы армандар мен сценарийлердің аңғалдығы
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларын қатты сынға алды. Оның пікірінше, адамзат оқиғалардың дамуының екі өте нағыз сценарийінің арасында қалып қойған және олардың ешқайсысы суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды.
Талқылауға «ЖИ 2040» болжамды сценарийі және оның қарсыластары себеп болды. Бутерин екі жақтың да ЖИ даму қарқынына қатысты «өзара үйлеспейтін дүниетанымдарға тұйықталғанын» атап өтеді. Оның талдауы бойынша, «ЖИ 2040» сценарийі 2040 жылға қарай суперинтеллекттің пайда болуын көздейді, оны толық тоқтату үшін орасан зор күш-жігер жұмсалмаса, кез келген жағдайда дерлік. Әзірлеушінің байқауынша, сыншылар мұндай болжамды адамдардың үйлестіру қабілетін бағалауда нағыз деп атайды, бірақ сонымен бірге ASI-ге көшу әдепкі бойынша тегіс өтеді деген болжамның нағыздығын өздері байқамайды.
Бутерин атап өтеді: сыншылардың ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы. Ал суперинтеллект 2030 жылға дейін мүмкін болатын әлемде, оның сөзімен айтқанда, бұл сынға төтеп бере алмайды. Виталик өзі белгісіздікке мойынсұнып, адамзат екі әлемнің қайсысында өмір сүретінін түсінбейді.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутеринде ерекше ыңғайсыздықты кейбір ірі ЖИ компанияларының риторикасы тудырады. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттеріміздің әлемдік үстемдікті бақылауға алуы» деген көзқарас алаңдатады. Оның пікірінше, «қалыпты» әлемде мұндай мәлімдемелер бір уақытта барлық саяси дабыл сигналдарын қамтуы керек. Ол суперинтеллекттің өзін биліктің шоғырлануының үлкен қаупі ретінде қарастырады.
Дәл осы себепті Бутерин d/acc платформасын ілгерілетеді, ол формальды верификацияны, криптографияны, қауіпсіз ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтиды. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де пайдалы. Сонымен қатар ол «ЖИ 2040» жоспарының ашық кодқа достық танытып, тіпті оны тағайындағанын оң бағалады.
Ымыраға қалай келуге болады
Ethereum әзірлеушісі екі тарап үшін де қолайлы келісімді табуды негізгі міндет деп санайды. «Ұтыс келісімі — бұл екі тараптың да қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын келісім», — деп атап өтті Виталик.
Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынды — мысалы, суперпандемиялар, жұмыссыздық деңгейінің 25%-дан жоғары болуы немесе автономды қарудың пайда болуы. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты қарастыруға алдын ала келіседі. Оның идеясы бойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше күтіп.
Бутерин технологиялық алыптардың басшыларына да жүгінді. Оның сөзімен айтқанда, егер ол Илон Маск немесе Марк Цукербергтің орнында болса, ол әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге бейімдеген болар еді. Дегенмен, ол бұл идеяның да нағыз екенін мойындады.
Cryptalist аналитикалық пікірі: Бутериннің ұстанымы — бұл жай сын емес, ASI тәуекелдерін басқару үшін орталықтандырылмаған фреймворк ұсыну әрекеті. Блокчейн мен криптография үйлестіру құралдарына айналатын әлемде оның триггерлер мен d/acc туралы идеялары бір қарағанда көрінгеннен гөрі прагматикалық болуы мүмкін. Алайда, оның өзі мойындаған нағыздық — бұл екі тараптан да тек техникалық емес, сонымен қатар саяси жетілуді талап ететін сын.