Ethereum негізін қалаушы Виталик Бутерин тағы да қоғамдық пікірталасқа араласты, бірақ бұл жолы оның сыны блокчейн индустриясына емес, жасанды интеллект алыптарының амбицияларына бағытталған. Оның пікірінше, адамзат оқиғалардың дамуының екі аңғал сценарийі арасындағы тұйыққа тірелді және олардың ешқайсысы жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды.
Бұл мәлімдемеге «ЖИ 2040» болжамы төңірегіндегі пікірталас себеп болды, ол 2040 жылға қарай суперинтеллекттің пайда болуын кез келген жағдайда дерлік болжайды — егер оны толығымен тоқтату үшін алып күш жұмсалмаса. Бутериннің айтуынша, бұл сценарийді сынаушылар оны адамдардың үйлестіру қабілетін бағалауда аңғал деп атайды. Алайда әзірлеушінің өзі олардың өз аңғалдығын көрсетеді: олар ASI-ге көшу әдепкі бойынша тегіс өтеді деп болжайды.
Бутерин скептиктердің ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы екенін атап өтеді. Бірақ суперинтеллект 2030 жылға дейін мүмкін болатын әлемде ол сынға төтеп бере алмайды. Ол белгісіздігін мойындайды: егер ол сценарийлердің кем дегенде біреуіне сенімді болса, тиісті лагерьге қосылар еді. Бірақ әзірге ол қай әлемде өмір сүріп жатқанымызды түсінбейді.
«Ашық код — бұл жаман» риторикасы алаңдаушылық тудырады
Бутериннің ірі ЖИ компанияларының риторикасына сыны ерекше назар аударуға тұрарлық. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікке ие болатын нәтиже» деген ұстаным алаңдатады. Оның пікірінше, мұндай мәлімдемелер «қалыпты» әлемде барлық саяси дабыл қоңырауларын бір уақытта соғуы керек.
Бутерин суперинтеллекттің өзін биліктің шоғырлануының орасан зор қаупі ретінде қарастырады. Дәл осы себепті ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де пайдалы.
Ымыра: үзіліс үшін триггерлер
Бутерин өз ұстанымының негізгі элементі ретінде екі тарап үшін де қолайлы келісімді іздеуді санайды. Ол алдын ала «байыпты нәрсе болып жатыр» дегенді білдіретін триггерлер жиынтығын келісуді ұсынады: суперпандемиялар, 25%-дан жоғары жұмыссыздық немесе автономды қарудың пайда болуы. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты қарастыруға міндеттенеді.
Оның ойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше күтеді. Tech-алыптардың көшбасшыларына үндей отырып, Бутерин Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге қайта құратынын мойындайды. Бірақ бірден бұл идея да аңғал екенін қосады.
Менің талдауым: Бутериннің ұстанымы — технологиялық корпорациялар толық бақылауды армандайтын әлемдегі прагматикалық гуманизмнің сирек кездесетін үлгісі. Оның триггерлер туралы идеясы — жаһандық деңгейде «өшіру тетіктерін» енгізу әрекеті, бұл жеделдету мен апат арасындағы жалғыз ақылға қонымды ымыра болуы мүмкін. Алайда, Виталиктің өзі мойындағандай, бұл тәсілдің аңғалдығы мәселенің тереңдігін ғана көрсетеді.