Ethereum негізін қалаушы Виталик Бутерин жасанды интеллекттің болашағы туралы өткір пікірталасқа түсіп, суперинтеллектке (ASI) көшудің нақты бір сценарийін көрмейтінін мәлімдеді. Оның пікірінше, адамзат оқиғалардың дамуының «аңғал» және «шаршыдағы аңғал» нұсқалары арасында тұрып қалған.
Бұл мәлімдемеге «ЖИ 2040» болжамды сценарийі және оның сыншылары төңірегіндегі пікірталас себеп болды. Бутерин жанжалдың екі жағы да ЖИ даму қарқынына қатысты «өзара үйлеспейтін дүниетанымдарда қамалып қалғанын» атап көрсетеді.
Даудың мәні: жылдамдық vs. бақылау
«ЖИ 2040» сценарийі 2040 жылға қарай суперинтеллекттің пайда болуын болжайды, бұл оқиғалардың кез келген дамуында — оны толығымен тоқтату үшін алып күш жұмсаудан басқа жағдайларда. Әзірлеушінің байқауынша, сыншылар мұндай болжамды адамдардың үйлестіру қабілетін бағалауда аңғал деп атайды. Алайда, Бутерин атап өткендей, олардың өздері ASI-ге көшу әдепкі бойынша тегіс өтеді деген болжамдағы аңғалдықты байқамайды.
Сыншылардың ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы. Ал суперинтеллект 2030 жылға дейін мүмкін болатын әлемде, оның сөзімен айтқанда, бұл сынға төтеп бере алмайды. Бутериннің өзі белгісіздікті мойындайды: егер ол сценарийлердің кем дегенде біреуіне сенімді болса, тиісті лагерьге қосылар еді. Алайда ол әзірге адамзаттың қай әлемде өмір сүретінін түсінбейді.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутеринде ерекше ыңғайсыздықты ірі ЖИ-компаниялардың риторикасы тудырады. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттердің әлемдік үстемдікті бақылауға алуы» деген көзқарас алаңдатады. Оның пікірінше, «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қамтуы керек.
Виталик суперинтеллекттің өзін биліктің шоғырлануының үлкен қаупі ретінде қарастырады. Дәл осы себепті ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де пайдалы.
Ымыра іздеу
Ethereum әзірлеушісі екі тарап үшін де қолайлы келісімді іздеуді негізгі міндет деп санайды. «Жеңіске жететін келісім — бұл екі тараптың да өздерінің қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын келісім», — деп атап өтті Бутерин.
Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынды — мысалы, суперпандемиялар, жұмыссыздық деңгейінің 25%-дан жоғары болуы немесе автономды қарудың пайда болуы. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты түрде қарастыруға алдын ала келіседі.
Бутериннің жоспары бойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше күтіп. Ол бөлек технологиялық алыптардың басшыларына жүгініп, Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге бейімдейтінін айтты. Дегенмен, ол бұл идеяның да аңғал екенін мойындады.
Сарапшының пікірі: Бутериннің ұстанымы — техно-оптимизм немесе алармизм басым болатын индустрияда ЖИ жарысына рационалды көзқарастың сирек кездесетін үлгісі. Оның триггерлер туралы ұсынысы — ASI тәуекелдерін басқаруға смарт-контракт логикасының элементтерін енгізу әрекеті. Алайда, DeFi жағдайындағы сияқты, негізгі мәселе — ставкалар шынымен жоғары болған кезде оракулдарды кім бақылайтыны және келісімнің орындалуына кім кепілдік беретіні.