Виталик Бутерин: ЖИ-алыптары «әлемдік үстемдік» туралы армандайды, ал адамзат екі «аңғалдықтың» арасында қалып қойды
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларын қатты сынға алды. Оның пікірінше, жасанды суперинтеллектке (ASI) көшу туралы пікірталас тұйыққа тірелді: адамзат оқиғалардың дамуының «аңғал» және «шаршы аңғал» сценарийлері арасында таңдау алдында тұр.
Даудың мәні: жылдамдық vs. бақылау
Бутериннің мәлімдемесіне себеп болған «ИИ 2040» болжамды сценарийінің айналасындағы пікірталас. Бұл сценарий 2040 жылға қарай суперинтеллекттің пайда болуын болжайды, оны толығымен тоқтату үшін алып күш жұмсалмаса, кез келген жағдайда дерлік. Әзірлеушінің байқауынша, бұл сценарийді сынаушылар оны адамзаттың үйлестіру қабілетін бағалауда аңғал деп атайды. Алайда, Бутериннің айтуынша, олардың өздері ASI-ге көшу тегіс және әдепкі бойынша өтеді деп сеніп, кем дегенде аңғалдық танытады.
Бутерин атап өтеді: сыншылардың ұстанымы тек ИИ «қарапайым технология» болып қалатын әлемде ғана мағыналы. Бірақ суперинтеллект 2030 жылға дейін мүмкін болатын әлемде, оның сөзімен айтқанда, бұл сынға төтеп бере алмайды. Виталик өзі белгісіздікте екенін мойындайды: егер ол сценарийлердің кем дегенде біреуіне сенімді болса, тиісті лагерьге қосылар еді. Әзірге ол адамзаттың қай әлемде өмір сүретінін түсінбейді.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутерин кейбір ірі ИИ компанияларының риторикасынан ыңғайсыздық білдірді. Оны «ашық код – бұл жаман, ал жақсы нәтиже – біздің жігіттер әлемдік үстемдікті бақылауға алатын нәтиже» деген көзқарас алаңдатады. Оның ойынша, «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қамтуы керек. Бутерин суперинтеллекттің өзін биліктің шоғырлануының үлкен қаупі ретінде қарастырады.
Дәл осы себепті ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы – олар болашақтың екі сценарийінде де пайдалы. Сонымен қатар, Бутерин «ИИ 2040» жоспарының ашық кодқа мейірімдірек болғанын және тіпті оны тағайындайтынын оң бағалады.
Ымыраға қалай келуге болады
Ethereum әзірлеушісі екі тарап үшін де қолайлы мәмілені табуды негізгі міндет деп санайды. «Жеңісті келісім – бұл екі тараптың да қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын келісім», – деп атап өтті ол.
Бутерин «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынды. Мысал ретінде ол суперпандемияларды, 25%-дан жоғары жұмыссыздық деңгейін немесе автономды қарудың пайда болуын атады. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты түрде қарастыруға алдын ала келіседі. Оның идеясы бойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп, ал алаңдаушылар керісінше күтіп қабылдайды.
Бутерин технологиялық алыптардың басшыларына жеке үндеу жасады. Оның сөзіне сәйкес, егер ол Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді мәмілелерді іздеуге қайта құрар еді. Дегенмен, ол бұл идеяның да аңғал екенін мойындады.
Аналитик пікірі: Бутериннің ұстанымы – криптоиндустрияның негізгі сәулетшілерінің бірі өз экожүйесінің шеңберінен шығып, ASI тәуекелдерін басқарудың жаһандық фреймворкін ұсынатын сирек жағдай. Оның триггерлер туралы идеясы, мәні бойынша, смарт-келісімшарт принциптерін ИИ реттеуге қолдану әрекеті. Алайда, DeFi жағдайындағыдай, негізгі мәселе техникалық іске асыру емес, қарсылас тараптардың келіссөз үстеліне отыру қабілеті болып қалады.