Бутерин жасанды интеллектінің «әлемдік үстемдігіне» қарсы: аңғалдық па, әлде қауіп пе?
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларын қатаң сынға алып, оларды қауіпті амбициялар мен жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарының жоқтығына айыптады. Оның айтуынша, адамзат екі «аңғал» сценарийдің арасында таңдау алдында тұр, олардың ешқайсысы сенімді көрінбейді.
ЖИ даму жылдамдығы туралы пікірталас
Пікірталасқа себеп болған «ЖИ 2040» болжамды сценарийі, ол кез келген жағдайда 2040 жылға қарай суперинтеллекттің пайда болуын болжайды. Бутерин бұл сценарийдің сыншылары, керісінше, адамдардың үйлестіру қабілетін бағалауда оны тым оптимистік деп санайтынын атап өтеді. Алайда Ethereum әзірлеушісінің өзі олардың өз аңғалдығын көрсетеді: олар ASI-ге көшу әдепкі бойынша тегіс өтеді деп есептейді.
Бутерин скептиктердің ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы екенін атап көрсетеді. Бірақ егер суперинтеллект 2030 жылға қарай мүмкін болса, олардың дәлелдері, оның пікірінше, күйрейді. Виталиктің өзі белгісіздікке мойындайды: ол осы екі әлемнің қайсысында өмір сүріп жатқанымызды түсінбейді және ешбір лагерьге сөзсіз қосылуға дайын емес.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутериннің ерекше алаңдаушылығын кейбір ЖИ алыптарының риторикасы тудырады, ол оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікті бақылауға алған кезде» деп сипаттайды. Оның пікірінше, мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қамтуы керек. Ол суперинтеллектті биліктің шоғырлануының орасан зор қаупі ретінде қарастырады.
Дәл осы себепті Бутерин формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы олардың болашақтың екі сценарийінде де пайдалы болуында.
Ымыра іздеу
Ethereum әзірлеушісі үшін негізгі мәселе екі тарап үшін де қолайлы келісімді табу болып табылады. Бутерин «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады — мысалы, суперпандемиялар, жұмыссыздық деңгейінің 25%-дан жоғары болуы немесе автономды қарудың пайда болуы. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты қарастыруға алдын ала келіседі.
Технологиялық алыптардың басшыларына жүгіне отырып, Бутерин әлеуметтік платформаларды өзара тиімді шешімдерді іздеуге қайта құруды ұсынады, дегенмен бұл идеяның аңғалдығын мойындайды.
Сарапшының пікірі: Бутерин тағы да жүйелі ойлауды көрсетіп, пікірталасты таза технологиялық даулардан тысқары шығарады. Оның триггерлер туралы ұсынысы — екі тарап та қабылдай алатын тәуекелдерді басқару механизмін құру әрекеті. Алайда сұрақ ашық күйінде қалады: ЖИ индустриясының көшбасшылары қауіпсіздік үшін амбицияларынан бас тартуға дайын ба?